OpenAI Bir Labirentten Geçmek

GPT-3 bir fiyaskoydu. Bir insanın yazdığına benzeyen bir metin oluşturabilir. Ancak OpenAI bunu bir işe dönüştürmeye çalıştığında hiçbir şey işe yaramadı. Harika bir demoydu ancak bunun etrafında oluşturulacak bir ürün bulamadık. Ve düşünüyorduk, bunu yapamayacağımızı düşünüyorduk. Birkaç şey denedik ama işe yaramadı. Bu yüzden denemekten vazgeçtiler. Başka birisinin bununla ne yapılacağını bulup bir API'nin arkasına koyabileceğini umuyorlardı. Yine de iyi değildi. Çekiş olması gereken yerde değildi ve sonuçlar hâlâ kötüydü. - Sam: Ancak insanların API'yi kullanarak onunla sık sık sohbet etmeye çalıştıklarını fark ettiler. Bunu yeni 3.5 sürümüyle birleştirirsek belki bu, daha fazla API kullanımını artırmak için harika bir sohbet demosu olabilir. Ama sonrasında ne olduğunu hepimiz biliyoruz. Az önce Kenneth Stanley ve Joel Lehman'ın yazdığı Büyüklük Neden Planlanamaz kitabını okudum. Stanley ve Lehman, bir sinir ağını geliştirmeye çalışırken ilginç bir açmazla karşılaşan yapay zeka araştırmacılarıdır. "Çıkışa yaklaşmak" gibi basit bir amacı olan bir yapay zekanız varsa ve onu bir labirentin içine koyarsanız, yapay zeka kolayca takılıp kalır. Bir duvarın etrafından dolaşmak için çıkıştan geriye doğru gitmek olan doğru hareket tamamen yanlış görünüyor. Bu, akıllı bir kişinin bir sonraki işini kurma planına nasıl benziyor: Elbette kimsenin böyle bir destesi yok. Ama OpenAI labirentlerinde böyle savruluyordu. Geriye dönüp baktığımızda elbette harika bir yol izlemişler gibi görünüyor.

Ama onlar için bu, sürekli çıkmaz sokaklardı. Pek çok labirentin aptalca basit bir algoritması var. Bir elinizi duvara koyun. Asla elinizi çekmeyin. Ve hareket etmeye devam edin. Sonunda çıkışa ulaşacaksınız. Elbette çıkmaz sokak üstüne çıkmaza gireceksiniz. Muhtemelen en uygun yol olmayacaktır. Hatta yakındaki çıkışı görebilir ve yine de oradan tamamen yanlış yöne gidebilirsiniz. "Gidilecek yol açıkça bu değil. Oradaki çıkmaz yolu göremiyor musun?" diyen insanlara aptal gibi görüneceksiniz. Hatta size zaten bir yolu denediğini, doğru olmadığını, o tarafa gitmeyin, yine de öyle yapacağınızı söyleyen bir kalabalıkla da karşılaşabilirsiniz. Gerçek hayatta elinizi koyacağınız duvar hangisidir? Sizi kafanızın dışına çıkaran her şey, aslında dersler için etrafta dolaşmak. Ürününüz başkalarının elinde. İnsanlarla konuşuyorum. Gerçeklikle temas kurun.