Sam Altman ve AI'nın yavaşlama tartışması

OpenAI CEO Sam Altman geçtiğimiz günlerde toplumun "bu yeni yetenek seviyelerinin bazıları etrafında katılaşabilmesi" için "Yapay Zeka gelişim hızına hız vermenin" zamanının gelebileceğini söyledi. TechCrunch'ın Equity podcast'inin son bölümünde Kirsten Korosec, Sean O'Kane ve ben, Altman'ın yorumlarının muhtemelen bir OpenAI temsilcisinin Hugging Face'nin sistemlerini ihlal ettiği yakın zamanda gerçekleşen bir saldırıdan kaynaklandığını tartıştık. Sean, bir yapay zeka ajanı tarafından gerçekleştirilen bir hacklemenin yeni olduğunu ancak hacklemenin kendisinin "yeni, gelişmiş bir şey" olmadığını belirtti. Sean, "Gerçekten gizli bir siber operasyondan çok, Nixon'un adamlarının Watergate'e sızmasına benziyordu, çünkü böyle olması gerekmiyordu ve böyle olması talimatı da verilmemişti" dedi. "Umarım bu, bu şirketlerin bunu ileriye taşıyacaklarının ve bu konularda daha dikkatli olacaklarının bir işaretidir." Altman'ın yorumları bana aynı zamanda tüm hızlanma ve yavaşlama tartışmasının faydası hakkında merak etme şansı verdi, çünkü (evet, kendimden alıntı yapmak üzereyim) çerçeveleme "bir bakıma tek bir yol olduğunu öne sürüyor" ve "karar vermemiz gereken tek şey - eğer karar verebildiğimiz sürece - hızlanıyor muyuz yoksa yavaşlıyor muyuz?" Konuşmamızın uzunluk ve netlik açısından düzenlenmiş bir önizlemesi için okumaya devam edin. Sean O'Kane: Belki de sonunda burada bir dönüm noktasına ulaştık.

Bence bunun büyük bir nedeni geçen hafta konuştuğumuz şey olmalı; OpenAI modellerinden biri Hugging Face'nin verilerine giriyor ve görünüşe göre internetteki birkaç başka şeyi de ihlal ediyor. [Altman] geçmişte teknoloji endüstrisindeki bazı insanların yapmaya çalıştığı gibi bir duraklama çağrısı yapmıyor. Sözlerine ve “Hızlandır” demesine çok dikkat ediyordu. Bunun nasıl olacağını göreceğiz. Bu laboratuvarlardan bazılarının orada attığını gördüğümüz herhangi bir uyarı, teşvikler onları tam hız devam etmeye ittiğinde çoğu zaman tersine dönüyor. Bu yüzden şüpheci olmaya devam ediyorum, büyük sürpriz. Kirsten Korosec: Şimdi şunu söyleyeceğim - [Altman] sözlerine dikkat etmiş olabilir, ancak OpenAI ve Anthropic onun hakkında konuştuğu şeyi yansıtan bir dilekçeyi [destekledi]. Ve ben de seninle aynı fikirdeyim, bence bunların çoğu Hugging Face tarafından tetiklendi. Muhtemelen onu ve kesinlikle sektördeki birçok insanı korkuttu.