Google DeepMind launches institute to widen the AGI debate
Disrupt 2026: OpenAI, Anthropic, Replit ve daha fazlası 6 sektör aşamasını ele geçiriyor. Biletler şimdi %25 indirimli Google ve Google DeepMind araştırmacıları, yapay genel zeka (AGI) hakkındaki tartışmayı ilerletmek için Çarşamba günü DeepMind Enstitüsü'nü başlattı. Enstitü, DeepMind kurucu ortağı Shane Legg, Google yöneticisi James Manyika ve Google DeepMind başkan Demis Hassabis'i yönetici olarak listeliyor; Legg ise yönetici editör olarak görev yapıyor. Yeni enstitü, Google, Google DeepMind ve AGI etrafındaki daha geniş küresel araştırma topluluğu arasındaki farklı görüşleri ortaya çıkarmayı amaçlıyor. Duyuruda, her zaman aynı fikirde olmayacakları ve hızla ilerleyen sınırda daha fazla veri ve bilgi gün ışığına çıktıkça muhtemelen fikirlerini değiştirecekleri belirtildi. Dört makaleden oluşan açılış derlemesi bir dizi konuyu kapsıyor: olası YGZ kesintilerini yönetmeye yönelik ekonomik politikalar, insan tarafından okunabilen model muhakemesinin korunması, insanın gelişmesine yönelik ilkeler ve öncü yapay zeka modellerinin değerlendirilmesine yönelik bir çerçeve. DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan tarafından yazılan bir makale, yapay zekanın daralan şeffaflık penceresinin (bir modelin adım adım mantığını görme ve kontrol etme yeteneği) kaçınılmaz olmadığını savunuyor. Yeni mimariler en güçlü modellerin izlenmesini zorlaştırdığından yazarlar, geliştiricilerin ve düzenleyicilerin güvenlikle ilgili ödünleşimlerle doğrudan yüzleşmesi gerektiğini söylüyor.
Bu, "opak seri derinliği" (bir modelin okunabilir bir akıl yürütme izi üretmeden gerçekleştirebileceği sıralı hesaplama miktarını) sınırlamak veya geliştiricilerin daha az şeffaf sistemlerin de aynı şekilde izlenebilir kaldığını göstermelerini gerektirmek anlamına gelebilir. Başka bir makalede Hassabis, en gelişmiş yapay zeka modellerini değerlendirmek için ABD liderliğinde bir sınır yapay zeka standartları organı öneriyor. Onun çerçevesi altında, geliştiriciler başlangıçta modelleri gönüllü olarak yayınlanmadan 30 gün öncesine kadar incelenmek üzere göndereceklerdi. Değerlendirme sisteminin etkili olduğu kanıtlandığında, testlerini geçmek Amerika Birleşik Devletleri'nde öncü modellerin uygulanması için bir gereklilik haline gelebilir. Kuruluş, ilk başta değerlendirmeleri yapay zeka şirketlerine danışarak tasarlayacak, ancak sonunda laboratuvarların modellerini bilinen değerlendirmelere göre uyarlamasını önlemek için bağımsız, açıklanmayan değerlendirmeler (yazıda buna uzun süreli testler deniyor) geliştirilecek.