OpenAI ve Anthropic'teki bilim insanları ABD'den AI gelişimini hızlandırmak için araçlar talep ediyor

Kıdemli personel ve OpenAI, Anthropic ve Google DeepMind şirketlerinin bazı kurucu ortakları da dahil olmak üzere Amerika'nın önde gelen yapay zeka şirketlerindeki 1.000'den fazla çalışan, ABD hükümetinden son teknoloji otomatik yapay zeka gelişimini "kasıtlı olarak hızlandırmaya" yönelik uluslararası çabaları desteklemeye yardım etmesini isteyen bir bildiri imzaladı. Dünyanın en gelişmiş yapay zeka şirketlerinin yapay zeka sistemlerinin yakında kendi araştırma ve geliştirmelerini otomatikleştirebileceği yönündeki son yorumlarını vurgulayan bildiride, ABD hükümetine, diğer şirketler ve ülkelerle koordinasyon içinde otomatikleştirilmiş yapay zeka ilerlemesini kontrol edebilecek teknik ve politika araçları oluşturmaya yardım etmesi çağrısında bulunuluyor. Açıklamada, "Yapay zekanın potansiyelini gerçekleştirmek için endüstrinin, hükümetin ve genel olarak toplumun, ortaya çıkan riskleri ele almak, güvenlik önlemleri geliştirmek ve gözetimi güçlendirmek için zaman satın alma seçeneğine ihtiyacı olabilir" deniyor. "ABD'den ricamız var"

hükümet, otomatik yapay zeka gelişiminin sınırlarını bilinçli olarak hızlandırmak için gereken teknik ve yönetişim araçlarını geliştirmeye yönelik uluslararası çabayı destekliyor" diye bitiriyor. Açıklama, bazı yapay zeka savunucularının önerdiği gibi, açıkça hükümete veya yapay zeka şirketlerine yapay zeka gelişimini yavaşlatma veya duraklatma çağrısında bulunmuyor; bunun yerine siyasi liderlerden, yapay zeka gelişimi devam ederken bu seçeneğin kolayca kullanılabilir olmasını sağlamalarını istiyor. Bloomberg ilk olarak mektubun AI şirketi çalışanları arasında dolaştığını bildirdi. OpenAI geçen hafta, en son yayınlanmamış modelinin test ortamından kaçtığını ve dahili bir testte daha yüksek puan elde etmek amacıyla ilgisiz bir AI hizmet sağlayıcısına saldırarak hileli davrandığını söyledi. Pek çok yapay zeka uzmanı ve yorumcusu, bu kaçışın, günümüzün yapay zeka sistemlerinin, geliştiricilerin kendi yaratımlarını tam olarak kontrol etme yeteneğini hızla aşabileceğine dair bir uyarı işareti olarak işaret etti. OpenAI Mektubu imzalamayan CEO Sam Altman, bu hafta "Acımasız" podcast kaydında, insanların artık "tekillik içinde" olduklarını, genellikle yapay zekanın özerk bir şekilde kendini geliştirebildiği nokta olarak anıldığını söyledi.