Google DeepMind, yapay genel zekanın (AGI) toplumsal etkilerine odaklanan bir enstitü kurdu
Google ve Google DeepMind araştırmacıları, yapay genel zekanın güvenli geliştirilmesini ve toplum üzerindeki etkilerini tartışmak amacıyla DeepMind Institute adlı yeni bir platform hayata geçirdi . Enstitü, şirket içinden ve küresel araştırma topluluğundan farklı uzmanların görüşlerini bir araya getirecek.
Enstitünün yönetiminde DeepMind kurucu ortağı Shane Legg , Google yöneticisi James Manyika ve Google DeepMind Yönetim Kurulu Başkanı Demis Hassabis bulunuyor. Legg, aynı zamanda yayın yönetmenliğini üstleniyor. Platform, yapay genel zekanın nasıl yönetileceğinden bu teknolojiye uyum sağlamak için hangi kurum ve politikalara ihtiyaç duyulacağına kadar farklı sorulara odaklanacak. Kurucular, bu tartışmalara teknoloji uzmanlarının yanı sıra kamu, sanat ve beşeri bilimler gibi alanlardan katılımın da gerekli olduğunu vurguluyor.
DeepMind Institute, faaliyetlerine dört yazıyla başladı. İlk yayınlar; yapay genel zekanın yaratabileceği ekonomik dönüşüme yönelik politikaları , modellerin akıl yürütme süreçlerinin şeffaflığını , toplumsal refahı ve en gelişmiş yapay zeka modellerinin değerlendirilmesini ele alıyor. Ekonomi odaklı çalışma, toplumların olası ekonomik sarsıntıları yönetmek için uygulayabileceği 11 politikayı inceliyor.
Yayınlar arasında Hassabis’in ABD öncülüğünde bir yapay zeka standartları kuruluşu oluşturulması önerisi dikkat çekiyor. Öneriye göre geliştiriciler, ilk aşamada en gelişmiş modellerini piyasaya çıkarmadan önce, 30 güne kadar uzanan bir değerlendirme süreci için gönüllü olarak paylaşabilecek. Değerlendirme sisteminin etkinliği kanıtlandıktan sonra ise bu testlerden geçmek, modellerin ABD pazarında kullanıma sunulmasının koşulu haline gelebilecek.
Söz konusu kuruluşun zamanla şirketlerden bağımsız ve içeriği geliştiricilerle paylaşılmayan testler hazırlaması öngörülüyor. Böylece modellerin yalnızca bilinen testleri geçecek şekilde optimize edilmesinin önüne geçilmesi hedefleniyor. Hassabis, risklerin gerektirmesi halinde bu yapının önde gelen laboratuvarlar arasında geliştirme hızının koordineli biçimde yavaşlatılmasını da sağlayabileceğini belirtiyor.
Google DeepMind araştırmacıları Rohin Shah ve Anca Dragan ise modellerin insanlar tarafından okunabilen akıl yürütme adımlarının korunmasına odaklanıyor. Araştırmacılara göre bu kayıtlar, modellerin aldatıcı davranışlarını ve güvenlik sorunlarını tespit etmek için önemli bir araç.