Altman, Musk ve Hassabis, Amodei'nin bağımsız gözetim ekleme çağrısını destekledi
Özgün başlık: Altman, Musk, and Hassabis back Amodei's call to add independent oversight
OpenAI CEO Sam Altman ve Elon Musk, yapay zeka gelişimini yavaşlatmaya yönelik çağrıları destekliyor. Altman, Musk ve Deepmind'ın eski CEO'su Demis Hassabis, CEO Dario Amodei'nin önerilerini en azından kısmen onayladılar ve hepsi yapay zeka laboratuvarlarında bağımsız gözetim ihtiyacı konusunda hemfikirdi. Musk yıllardır yapay zeka riskleri konusunda alarm veriyor, dolayısıyla desteği pek de sürpriz değil. Altman ayrıca Fortune'a güvenlik endişelerini gerekçe göstererek OpenAI'nin bu yıl halka açılmayacağını söyledi. Bu kararı zaten Haziran ayında şirket içinde paylaşmıştı. Başka bir okuma: OpenAI'nin mali durumu, özellikle Anthropic ile karşılaştırıldığında şu anda bir halka arzı desteklemiyor. Her ikisi de doğru olabilir. Herkes aynı fikirde değil. Google araştırmacısı Peyman Milanfar, geri bildirim döngülerinin doğası gereği istikrarsız olması nedeniyle özyinelemeli kişisel gelişimin (RSI) saf bir varsayım olduğunu savunarak geri adım attı. Bir sistem kendini ne kadar zorlu bir şekilde optimize ederse, o kadar derin kör noktalara düşer ve güvenilir kanıtlar yalnızca gerçek dünyadan gelir, kıyaslamalardan değil. Milanfar, bunun Amodei'nin "hız sınırını" gereksiz hale getirdiğini öne sürüyor: "Kendilerini güvenilir bir şekilde geliştiren sistemler yönetilecek, sönümlenecek, yavaşlayacak ve savurgan görünen kenar boşluklarıyla sınırlanacak. Çünkü istikrar hız sınırıdır." Reklam Reklamı