Uzaylı Zihni

2023'ün ortalarında, "RLSlow" araştırma projesi kapsamında, akıl yürütme modellerinin eğitimini ölçeklendirebileceğimize ve önceden eğitilmiş modellerin kendi düşünce zincirlerini oluşturma yeteneğini ortaya çıkarabileceğimize dair bize güven veren ilk sonuçları gördük. Szymon ve ben o geceyi ofiste, bu teknolojinin sunacağı inanılmaz kıyaslama rakamlarını, ürünleri veya bilimsel sonuçları düşünerek geçirdik; daha ziyade, yaşamımız boyunca makinelerin kendimizden anlamlı derecede daha akıllı olduğunu göreceğimiz ve bu sistemlerin şeklini zaten gördüğümüz ayıltıcı gerçeği işlemeye çalışarak geçirdik; İnsanları bunun önemi konusunda nasıl uyaracağımı merak ediyorum. Üç yıl sonra, muhakeme dili modelleri ekonominin hızla büyüyen bir parçası haline geldi ve bilimin sınırlarını zorlamaya başladı. Bilgisayarları ve grafik arayüzleri çalıştırabiliyor, insanlarla ve birbirleriyle işbirliği yapabiliyor ve araştırma projeleri yürütebiliyorlar. Aynı zamanda bilgisayar güvenliği ortamını da değiştiriyorlar ve bu da açıkça yeni tehlikeler yaratıyor. Bu dönemde çok sayıda yeni araştırma yapıldı ve bu sistemlere ilişkin anlayışımız yine 2023'tekinden biraz farklı. Dahili sonuçlara dayanarak, bu ilerleme hızının sürekli kendini geliştirmeye dönüşerek sürdürülebileceğine dair güçlü bir beklentim var.

Yapay zeka gelişimi şu anki yolunda devam ederse, önümüzdeki birkaç yıl içinde göreceğimiz sistemler muhtemelen eşit veya daha büyük yetenek artışlarını temsil edecek ve kendi gelişimlerini giderek daha fazla yönlendirecek. Bu, son derece dikkatli olunması gereken bir zamandır. Makine zekasında devam eden hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmadığından endişeleniyorum. OpenAI uyumlaştırma ve izlemeye yönelik teknik çözümler aramaya, savunma sistemleri oluşturmaya ve gerektiğinde daha fazla ölçeklendirmeyi tek taraflı olarak durdurmaya devam edecek; ancak daha geniş müdahalelerin gerekli olduğuna inanıyorum. Tam olarak anlamadığımız zeka Makine zekasındaki ilerleme, yüksek düzeyde artan hesaplama gücüyle sağlanır. OpenAI olarak, birden fazla araştırma projesinde1 ölçeklendirmenin tutarlı getirilerini gördükten sonra bunu 2017 yılı civarında derinlemesine içselleştirdik. Sonuç olarak, başlangıçta planladığımızdan çok daha fazla bilgi işleme erişim sağlamaya çalıştık ve araştırmamızı giderek az sayıda, çok ölçeklenebilir yönler etrafında yoğunlaştırdık.