Amazon’un Nvidia’ya rakip AI çipi Trainium, milyar dolarlık gelir elde ediyor.

Amazon, yapay zekâ alanındaki çip yatırımlarında önemli bir adım attığını açıkladı. Şirketin CEO’su Andy Jassy, bu hafta gerçekleştirilen AWS re:Invent konferansında, Nvidia’ya rakip olarak geliştirilen Trainium2 çiplerinin artık milyarlarca dolarlık bir iş koluna dönüştüğünü belirtti. Halihazırda üretimde 1 milyondan fazla Trainium2 çipi ve 100 binden fazla kurumsal müşteri olduğu bilgisi paylaşıldı. Jassy, bu çiplerin Amazon’un yapay zekâ geliştirme platformu Bedrock’ta yoğun bir şekilde kullanıldığını vurguladı.

Trainium çipleri, Amazon Web Services (AWS) üzerinden sunulan Bedrock platformu aracılığıyla şirketlere farklı AI modelleri kullanma imkânı tanıyor. Jassy, Trainium2’nin pazarda öne çıkmasının temel nedenlerinden birinin performans ve maliyet dengesindeki avantajlar olduğunu ifade etti. Şirket, geliştirdiği teknolojileri rakiplerine kıyasla daha uygun maliyetle sunarak müşteri kazanmayı hedefliyor. Bu anlamda, Trainium2 piyasadaki diğer GPU’lara göre daha verimli çalışarak enerji tüketimi açısından da avantaj sağlıyor.

Amazon Anthropic ile iş birliğinden fayda sağlıyor

AWS CEO’su Matt Garman, CRN ile yaptığı röportajda Trainium2’nin başarısında Anthropic ile olan iş birliğinin büyük rol oynadığını belirtti. Anthropic’in Claude adlı yapay zeka modellerini geliştirmesinde kullanılan 500 binden fazla Trainium2 çipi, bu iş birliğinin kapsamını gösteriyor. Rainier adı verilen bu altyapı, ABD genelindeki çeşitli veri merkezlerine yayılarak Amazon’un en büyük AI sunucu kümelenmesini temsil ediyor ve Ekim ayında devreye alındı. Proje, Anthropic’in artan işlem gücü ihtiyacını karşılamak üzere tasarlandı.

Amazon’un Anthropic’e yaptığı yatırım sonucunda, bu AI girişimi AWS’i birincil model eğitimi platformu olarak kullanmaya başladı. Her ne kadar Anthropic artık Microsoft’un Azure bulutu üzerinden Nvidia çipleri ile de hizmet sunsa da, temel eğitim süreci AWS üzerinde gerçekleşiyor. Ayrıca, OpenAI de şu anda AWS ile çalışıyor fakat bu süreçte Trainium çipleri kullanılmıyor; çünkü OpenAI’nin uygulamaları Nvidia çipleriyle yürütülüyor.

Amazon, Nvidia ile rekabet edebilecek mühendislik altyapısına sahip birkaç ABD merkezli şirketten biri olarak dikkat çekiyor. Şirketin çip tasarımı konusundaki uzmanlığı, yüksek hızlı veri iletişimi ve ağ teknolojileri ile destekleniyor. Nvidia’nın 2019 yılında Mellanox’u satın alarak InfiniBand gibi kritik ağ teknolojilerini kontrol etmesi, sektördeki rekabeti daha da artırdı. Ancak, Trainium2’nin kazandığı pazar payı, alternatif çözümlere olan ihtiyacın arttığını gösteriyor.

CUDA adlı özel yazılım mimarisi nedeniyle birçok AI modeli hâlâ Nvidia donanımlarına bağımlı bir şekilde geliştirilmektedir. Bu yapı, uygulamaların GPU üzerinde paralel işlem yapmasını sağlıyor ve alternatif çiplere geçişi zorlaştırıyor. Ancak, Amazon’un bu bağımlılığı azaltma yönünde adımlar attığı gözlemleniyor. Şirketin geliştirdiği yeni nesil Trainium4 çiplerinin, Nvidia GPU’larıyla aynı sistem içinde birlikte çalışabilecek şekilde tasarlanacağı daha önce duyurulmuştu.