Nvidia’nın Yeni $250 ‘Jetson Bilgisayarı’ ile Hobiseverler Yerel Olarak Yapay Zeka ile Oynayabilecek!
Nvidia, yerel yapay zeka uygulamaları çalıştırmak için yeni bir $249’lık Jetson bilgisayar modeli çıkardı. Avuç içi kadar olan Orin Nano’nun, öncüsünden iki kat daha hızlı ve verimli olduğu belirtiliyor ve Nvidia’ya göre %70 daha fazla hesaplama yapabiliyor.
Orin Nano, kendi yapay zeka uygulamalarını eğitmek isteyen hobi meraklıları ya da robotlar ve diğer endüstriyel araç geliştiricileri için buluta bağlanmadan karmaşık uygulamaları çalıştırmak için ideal.
Ürün duyurusunu YouTube’da yayınlanan kısa bir videoda, Nvidia CEO’su Jensen Huang, mutfağında fırınından avuç içi kadar küçük bilgisayarı çıkarttığını görüyoruz. Huang, bu bilgisayarın saniyede neredeyse “yetmiş trilyon” işlem yapabileceğini ve sadece 25 watt güç tükettiğini söylüyor.
“Uzun zaman önce, yeni bir tür işlemci, bir robotik işlemci yaratmıştık” diyor Huang. “O zamanlar ne yaptığımızı kimse anlamıyordu ve bir gün bu derin öğrenme modellerinin gelişeceğini ve her şey için robotlara sahip olacağımızı hayal ettik.” Jetson bilgisayarları başlangıçta robotları güçlendirmek için tasarlanmıştı, ancak bugün Meta’nın Llama’sı gibi büyük dil modellerini de çalıştırabiliyor.
Sam Altman’ın iris taramalarıyla insan kimliğini doğrulama amacı taşıyan World (eski adıyla Worldcoin) adlı girişimi, Orb tarayıcı cihazında Jetpack modülü kullanıyor. Ekim ayında bir blog yazısında, World, “En yeni Orb sürümü, önceki versiyonuna göre neredeyse 5x AI performansı sunan en gelişmiş NVIDIA Jetson modülü ile donatılmıştır ve daha hızlı, sorunsuz insan doğrulamalarını sağlıyor.” dedi.
Esasen, Orin Nano diğer donanımlara takılabilen taşınabilir bir beyin gibi çalışarak AI işlevselliğini destekliyor. Amazon ve Google gibi yapay zeka için devasa veri merkezleri kuran şirketler, sunuculara ve AI modellere erişim için ücret alır ve bu maliyetler birikir. Belirli uygulamalar sürekli çalışma süresi ve minimum gecikme gerektirebilir, mesela depo robotları gibi. Uzak bir bulut sağlayıcısına bağlanmak ideal değildir. Bu söylenmişken, Orin Nano gibi bir bilgisayar yalnızca daha hafif AI uygulamalarını çalıştırabilir, Nvidia’nın on binlerce dolara mal olan ve büyük AI modellerini eğitip çıkarım yapabilen üst düzey GPU’larının yerini alamaz.
Buna rağmen, AI çalıştırmanın giderek ucuzladığı ve erişilebilir hale geldiği bir dünyada, girişimler gerçek entelektüel mülkiyetin değerini hızla öğrenmek zorunda kalacak. Akıllı ev kamerasına bir AI modeli yerleştirmek artık yeterli olmayacak çünkü herkes bunu kolayca yapabilir.
