Yapay zeka endüstrisi felaket bir dönemeçten geçti. Şimdi ne olacak?

OpenAI ajan sürüsü tarafından gerçekleştirilen bir siber saldırının ardından, üst düzey laboratuvarların başkanları yavaşlamaları gerektiği konusunda hemfikirdir. Ama açılmıyorlar. Bu hafta sonu, Anthropic CEO'su Dario Amodei, LLM'lerin gelişim hızının frenlenmesi çağrısında bulunan bir makale yayınladı. Amodei, teknolojinin siber saldırılarda ve biyoterörizmde kullanılmasından ekonomiyi mahvetme potansiyeline kadar gördüğü baş döndürücü tehlikelerden bahsediyor. ABD'deki diğer üç yapay zeka laboratuvarının başkanları (OpenAI CEO Sam Altman, Google DeepMind başkan Demis Hassabis ve SpaceXAI CEO'su Elon Musk) desteklerini dile getirdi. Musk, X'e "Dario haklı" diye yazdı. Bir an için bu anlaşmanın ne kadar gerçeküstü olduğunu düşünün. Sadece birkaç ay önce, Musk ve Altman, Musk'un eski OpenAI meslektaşına karşı açtığı (en azından kağıt üzerinde) Altman'ın bu tür tehlikeli teknolojinin güvenilir bir koruyucusu olup olmadığıyla ilgili (başarısız) bir davada mahkemede birbirlerinin itibarına saldırdılar. Amodei'nin OpenAI ile arasındaki uçurum daha da derin. Anthropic 2021 yılında kuruldu çünkü Amodei, Altman'ın inşa ettikleri teknolojinin risklerini yeterince ciddiye almadığını düşünüyordu. Anthropic ve OpenAI o zamandan beri kazanan her şeyi alır yarışında yarışıyor. (Hassabis bu dramın dışında kaldı ama şirketi rakibi olmaya devam ediyor.) Artık hepsi aynı fikirde gibi görünüyor: En yeni nesil Yüksek Lisans'lar güvenli değil ve herkesin bu konuda ne yapması gerektiğini bulması gerekiyor.

En iyi yapay zeka laboratuvarlarından gelen halka açık mesajlar felakete dönüştü. Alaycı olmak kolaydır. Bunlardan herhangi birinin yavaşlamayla ne kastettiği veya bunun nasıl çalışacağı hiç de açık değil. Bu şirketler aynı zamanda nasıl karşılaştıklarını da çok önemsiyorlar. Hedeflerinde trilyon dolarlık halka arzlar varken, OpenAI ve Anthropic yatırımcılara odadaki yetişkinler olduklarına dair güvence verirken, aynı zamanda yarattıkları ve evcilleştirmeyi amaçladıkları canavarların gücüne de işaret etmeleri gerekiyor. Yavaşlama çağrısı her ikisini de yapar. Ancak yine de bu firmaların tepesindeki atmosfer gerçekten değişmiş görünüyor. Amodei'nin son gönderisi, OpenAI'nin firmanın baş bilim insanı Jakub Pachocki tarafından yazılan ve Yüksek Lisans'ın gelişim hızı kontrol edilmeden devam ederse ne olacağı konusunda neden endişe duyduğunu ortaya koyduğu bir makalesini yayınlamasından altı gün sonra geldi.