OpenAI'nin sınır modeli nasıl güvenli olarak belirlendi?

OpenAI en son gelişmiş LLM'si Sol'u geniş kamu erişimine sunuyor. Sol'un en azından Anthropic'nin Fable modeliyle aynı seviyede olduğu düşünülüyor; bu modelin yetenekleri (veya mülkiyeti) Beyaz Saray'ı yeterince vurgulamış ve kısa süreliğine kamuya açık erişimden men edilmişti. Peki bu modeller piyasaya sürülme onayını nasıl aldı? Kısa cevap: Kimse bundan tam olarak emin değil. Georgetown Güvenlik ve Gelişen Teknoloji Merkezi'nde kıdemli araştırma analisti Mina Narayanan, TechCrunch'a, açıkçası, bu süreçleri tam olarak göremiyorum, dolayısıyla evet, bunların yeterli olup olmadığını söyleyecek yeterli bilgiye sahip olduğumu düşünmüyorum. Anthropic hükümetle görüşmelerde olduklarını ve jailbreak girişimlerini tespit etmek için bir sınıflandırıcı geliştirdiklerini ve gelecekteki jailbreak'leri önlemek için derinlemesine savunma stratejileri uyguladıklarını söyledi, ancak hükümet ile Anthropic ve OpenAI arasındaki diyaloğun tam olarak nasıl göründüğü belirsiz. Şu anda OpenAI için çalışan eski bir Trump politika danışmanı olan Dean W. Ball, geçen ayki haber bülteninde kimsenin lisans almak için gerekli şartları bilmediğini yazdı. Databricks, Perplexity ve Laude Enstitüsü'nün kurucu ortağı olan bilgisayar bilimcisi Andy Konwinski, sınır laboratuvarlarındaki çalışanlar dahil, süreci anlayan hiç kimseyle asla konuşmadığını söyledi. TechCrunch'a bunun varoluşsal bir sorun olduğunu söylüyor.

Güvenlik olsun ya da olmasın, mesele kimin karar verme yetkisine sahip olduğu, kimin bekçilik yaptığı ve izinlere kimin karar verdiği ile ilgilidir. Trump yönetiminin üzerinden on sekiz ay geçmesine rağmen, politikayı belirleyen sektör figürlerine rağmen -ya da bazı eleştirmenlerin iddiasına göre- nasıl ilerleneceği konusunda hala çok az netlik var. Geçen ay, haftalarca süren iç çekişmelerden sonra, sınır modellerinin değerlendirilmesi için bir yol haritası ortaya koyan bir idari emir yayınlandı, ancak var olmayacak olanlar dışında ayrıntılar henüz doldurulmadı. Geçen aya kadar Beyaz Saray'da yapay zeka konusunda kıdemli danışman olarak görev yapan eski Andreessen Horowitz ortağı Sriram Krishnan, Financial Times'a yapay zeka için bir FDA olmayacağını söyledi. Özellikle, ne tür modellerin hükümet incelemesini gerektirdiği veya bu değerlendirmeleri hangi kurum veya kuruluşların yapması gerektiği konusunda hâlâ bir anlaşma yok. Şimdilik Ticaret Bakanlığı'nın Yapay Zeka Standartları ve İnovasyon Merkezi liderliği ele alıyor gibi görünüyor, ancak idari emir altı kabine kurumuna Ağustos ayı başına kadar nihai bir süreç belirlemesi talimatını veriyor.