DeepMind CEO'su, sınır yapay zekayı düzenlemek için bağımsız bir standartlar kuruluşu çağrısında bulundu

Salı sabahı bir X gönderisinde Google DeepMind CEO'su Demis Hassabis, sınır model sürümlerini denetleyecek yeni bir düzenleyici organ oluşturulması çağrısında bulundu. Sınır Yapay Zekası ve Yeni Bir Çağın Doğuşu için Bir Çerçeve başlıklı yazı, sınır modellerini test edebilecek ve bunların piyasaya sürülmesi için en iyi uygulamaları geliştirebilecek, Finans Endüstrisi Düzenleme Otoritesi (FINRA) örnek alınarak modellenen bir standartlar organının gerekliliğini ortaya koyuyor. Gönderide, Frontier Labs'ın başlangıçta modelleri yayınlanmadan 30 gün öncesine kadar incelenmek üzere Standartlar Kurumu ile gönüllü olarak paylaşacağı belirtiliyor. Değerlendirme protokolünün etkili ve sağlam olduğu gösterildikten sonra resmileştirme hızla takip edilebilir; bu da Frontier Models'in ABD pazarında konuşlandırılabilmesi için bu protokolü geçmesi gerekeceği anlamına gelir. Laboratuvarlar ayrıca yayın sonrası kritik güvenlik açıklarını gidermek için Standartlar Kurumuyla birlikte çalışacak. Önerilen sistem, ABD hükümeti tarafından Anthropic Mythos ve OpenAI s Sol üzerinde gerçekleştirilen özel incelemelere dayanacaktır. Bu incelemeler, teknik uzmanlık eksikliği ve bir modelin ne zaman piyasaya sürülebileceğine ilişkin şeffaf olmayan karar verme nedeniyle önemli eleştirilere maruz kaldı. Hassabi'nin önerdiği düzenleyiciye göre, bu kararlar ABD hükümeti tarafından desteklenen ancak yapay zeka endüstrisi tarafından finanse edilen ve bağımsız olarak işletilen yeni bir kuruluşa devredilebilir. Yapay zeka düzenlemesinin olasılığı hem teknoloji endüstrisi hem de Trump yönetimi açısından tartışmalı olmaya devam ediyor.

Son zamanlarda, Beyaz Saray AI danışmanı ve a16z genel ortağı Sriram Krishnan, AI için bir FDA olmayacağını söyleyerek, yürütme organı içinde bir AI düzenleyicisinin olasılığını göz ardı etti. Standartlar kurumunun FINRA gibi kendi kendini düzenleyen bir kuruluş olarak kurulması, bu endişeleri gidermenin bir yolu olabilir. Hassabis, düzenleyicinin sektörden açık kaynak temsilcileri ve teknik uzmanlardan oluşmasını ve bunları elde tutmak için yapay zeka laboratuvarlarından gelecek mali desteğin sağlanmasını öngörüyor. Hatta bazı değerlendirmeleri, belirli riskler konusunda uzmanlaşabilecek büyüyen yapay zeka güvenlik gruplar�� havuzuna dış kaynaklardan sağlayabilirler. Hassabis, bu yaklaşımın güçlü yanının teknik odaklı olması ve aynı zamanda yeniliği desteklemesi ve sorumlu davranışı teşvik etmesi olduğunu savunuyor.