Google DeepMind, Yapay Genel Zeka (AGI) konusundaki tartışmaları derinleştirmek amacıyla yeni bir enstitü kurdu. Bu enstitü, AGI’nin potansiyel etkilerini, etik meselelerini ve güvenlik konularını ele alarak, alanında uzman araştırmacıları ve düşünce liderlerini bir araya getirmeyi hedefliyor. Google DeepMind, bu adımla birlikte AGI’nin gelişimini daha şeffaf bir şekilde sürdürmeyi ve toplumun zihinlerindeki soru işaretlerine yanıtlar aramayı amaçlıyor. Enstitü, hem akademik hem de endüstriyel iş birlikleriyle AGI’nin geleceği hakkında kapsamlı bir anlayış sunmayı hedefliyor.
Google ve Google DeepMind’ın bünyesindeki araştırmacılar, yapay genel zekânın geleceği konusundaki tartışmaları daha geniş bir platformda ele almak üzere yeni bir girişim olan DeepMind Institute’u tanıttı. Enstitünün yönetiminde, DeepMind’in kurucu ortaklarından Shane Legg, Google yöneticisi James Manyika ve Google DeepMind Başkanı Demis Hassabis aktif rol almakta. Legg, aynı zamanda oluşumun yönetici editörlüğünü üstlenecek. DeepMind Institute, yalnızca Google ve Google DeepMind’ın görüşlerini paylaşmanın ötesine geçerek, yapay genel zekâ üzerinde çalışan uluslararası araştırma topluluklarındaki çeşitli yaklaşımlara da yer vermeyi amaçlıyor. Kuruluş, katkıda bulunan araştırmacıların her konuda hemfikir olmayabileceğini ve hızlı gelişen yapay zekâ araştırmalarından elde edilen yeni verilerle mevcut görüşlerin değişebileceğini özellikle vurguluyor.
Enstitünün ilk yayını dört farklı makaleden oluşmakta olup, bu makalelerde yapay genel zekânın getirebileceği çeşitli sorunlara dair politikalar üzerinde durulmakta. İncelenen konular arasında AGI kaynaklı ekonomik dönüşümlere karşı alınabilecek önlemler, yapay zekâ modellerinin insanların anlayabileceği muhakeme süreçlerinin korunması, insanların gelişimini desteklemeye yönelik ilkeler ve en gelişmiş yapay zekâ modellerinin nasıl değerlendirileceğine dair bir çerçeve yer almakta. Bu konular, tartışmanın yalnızca modellerin teknik yönleriyle sınırlandırılmadığını açıkça göstermektedir. Ekonomik etkilerden güvenlik denetimlerine kadar geniş bir yelpazede AGI’nin etkileri değerlendirilmektedir. Ayrıca, yayımlanan metinler kesin politika önerileri vermek yerine, çeşitli seçeneklerin faydaları ve sınırlamaları üzerine bir tartışma oluşturmayı hedeflemektedir.
DeepMind Institute, yapay zekâ modellerinin denetlenebilirliğini gündeme taşıyor
Google DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan tarafından kaleme alınan makaleler, gelişmiş yapay zekâ modellerinin nasıl düşündüğünü ve hangi adımları izlediğini anlamanın gittikçe zorlaştığına dikkat çekiyor. Araştırmacılar, modellerin muhakeme süreçlerindeki şeffaflık penceresinin küçülmesinin kaçınılmaz bir sonuç olmadığını savunuyor. Yeni yapısal düzenlemeler, daha güçlü modeller ortaya koyarken, bu sistemlerdeki iç süreçleri takip etmenin de zorlaşabileceği bildiriliyor. Shah ve Dragan, geliştiricilerin ve düzenleyicilerin bu aşamada güvenlik ile model kapasitesi arasındaki tercihlerinin açıkça değerlendirilmesi gerektiğini belirtmektedir. Yazarlar, insanların okuyabildiği bir muhakeme izi oluşturmadan gerçekleştirilen hesaplamaların derinliğini sınırlamak veya daha az şeffaf modellere sahip şirketlerin bu sistemlerin denetlenebilirliğini kanıtlamalarını istemek gibi seçenekleri ele almaktadır.
İLGİNİZİ ÇEKEBİLİR
Gemini 3.8 Live geldi: Google sesli görüşmede yeni dönem açıyor
Google ve BM yapay zekânın veri sorununa el atıyor
MediaTek yeni Dimensity 9600M ile yapay zekâ tarafını güçlendiriyor
AB’den çocukların sosyal medya kullanımını değiştirecek yeni plan
Google Home MCP desteğiyle yapay zekâ ajanlarına açıldı
Demis Hassabis tarafından kaleme alınan başka bir makalede, en ileri yapay zekâ modellerinin bağımsız bir standart kurumu tarafından değerlendirilmesi önerilmektedir. Hassabis’in önerisine göre şirketler, geliştirdikleri üst düzey modelleri piyasaya sürmeden önce en fazla 30 gün içinde gönüllü olarak değerlendirmeye sunabilir. Bu değerlendirme sisteminin güvenilirliği kanıtlandıktan sonra, ABD’de gelişmiş yapay zekâ modellerinin piyasaya sürülmesi için bir şart haline gelebilir. Böyle bir sistem, özellikle şirketlerin güvenlik testlerinin ötesinde ortak standartlar oluşturulmasına olanak tanıyacaktır. Ancak, bağımsız değerlendirmelerin kapsamı, hangi modellerin bu sürecin parçası olacağı ve ticari sırların nasıl korunacağı gibi detaylar bu yaklaşımın uygulanabilirliğini belirleyecektir.
Önerilen kuruluşun ilk aşamada değerlendirmeleri yapay zekâ şirketleriyle birlikte tasarlaması ve daha sonra bağımsız olarak önceden açıklanmayan testler hazırlaması hedeflenmektedir. Makalede “held-out” olarak adlandırılan bu testlerin amacı, geliştiricilerin modellerini tanıdık ölçütlere göre özelleştirmesini engellemektir. Böylece, bir modelin gerçek potansiyeli ve güvenlik açıkları, şirketlerin test içeriğini önceden bilmediği koşullar altında incelenebilir. Hassabis, risklerin artması durumunda değerlendirme çerçevesinin daha sıkı hale getirileceğini belirtmektedir. Bu yaklaşımın ileri aşamalarında, güvenlik önlemlerinin teknolojinin gerisinde kalması hâlinde, önde gelen yapay zekâ geliştiricilerinin birlikte çalışmalarını yavaşlatmaları da mümkün olabilir.
Günün Öne Çıkan Fırsatları
Tümünü GörDaralt
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
DeepMind Institute’un ilk yayınları, yapay zekâ güvenliği tartışmalarının genel risk uyarılarından somut denetim ve değerlendirme önerilerine doğru kaydığı bir döneme denk geliyor. Sektörde, son zamanlarda model geliştiricilerinin daha fazla bilgi sunması, dış kuruluşların sistemleri incelemesi ve güvenlik mekanizmalarının yetersiz olduğu durumlarda geliştirme hızının kısıtlanması gibi konular daha sık gündeme gelmektedir. Kaynak metne göre bu tartışmalar, Anthropic CEO’su Dario Amodei’nin en gelişmiş yapay zekâ sistemlerinin geliştirilme hızının kontrollü bir şekilde ayarlanması çağrısının ardından sektörde bazı isimlerden destek bulmasiyle daha görünür hale geldi. Ancak, şirketlerin gönüllü güvenlik taahhütleri ile bağlayıcı düzenlemeler arasında nasıl bir denge kurulacağı henüz netleşmemiştir. DeepMind Institute, yayınları sayesinde AGI konusunda tek bir kurumsal görüş belirtmekten ziyade, teknik güvenlikten ekonomik politikalara kadar farklı yaklaşımların karşılaştırılabileceği bir tartışma platformu oluşturmayı hedefliyor.
