Dil modelleri bilimsel devrimler başlatamaz, ancak dünya modelleri bunu yapabilir

Dil modelleri bilimsel bir devrimi ateşleyebilir mi? Google Deepmind'den Tom Zahavy, "LLM'ler atlayamaz" başlıklı makalesinde, onların atlayamayacağını savunuyor. Gerçekten yeni bir şey yaratmak için gereken bilişsel mekanizmayı kaçırıyorlar. Zahavy, iddiasını Albert Einstein'ın arkadaşı Maurice Solovine'e yazdığı bir mektupta çizdiği çerçeve üzerine kuruyor. Einstein, keşfin bir döngü olduğunu yazmıştı: duyusal deneyim aksiyomlara doğru sezgisel bir "sıçramaya" yol açar ve buradan mantıksal çıkarım test edilebilir sonuçlar üretir. Aksiyomlar bir teorinin kanıtlanmamış temel varsayımlarıdır. Zahavy, aradaki boşluğun nerede olduğunu belirlemek için, tüm akıl yürütmeyi kuralları, durumları ve sonuçları birbirine bağlama biçimine göre sınıflandıran filozof Charles Sanders Peirce'den klasik bir ayrım yapıyor. Kesinti, doğru olduğu kanıtlanabilen bir çıktı üreten bir programı çalıştırmak gibi, sabit kurallardan garantili sonuçlar çıkarır. Tümevarım, verilerdeki kalıpları tespit eder: Bin beyaz kuğu gözlemlerseniz tüm kuğuların beyaz olduğunu genellersiniz. Kaçırma yaratıcı bir sıçramadır. Şaşırtıcı bir olguyu açıklamak için bir neden icat eder. Bu üçüncü biçim, Zahavy'nin kritik darboğazı gördüğü ve onun iki seviyesi arasına bir çizgi çizdiği yerdir. Sıradan bir kaçırma işlemi, bir doktorun semptomları bir hastalıkla eşleştirmesi gibi, bilinen bir dizi aday arasından en makul açıklamayı seçer. Dil modellerinin bunu yapabileceğini kabul ediyor. Daha zor versiyonu ise "manipülatif kaçırma" olarak adlandırdığı şeydir: Henüz herhangi bir dilsel şablonun bulunmadığı bir neden icat etmek.

Bilimsel buluşun gerçek darboğazının bu olduğunu ve makinelerin bunu yapamayacağını savunuyor. Makaleye göre tümevarım ve tümdengelim oldukça ulaşılabilirdir. Dil modelleri halihazırda istatistiksel örüntü tanıma konusunda başarılıdır ve biçimsel türetmeyi de hızla fethetmektedirler. AlphaProof, Gemini ve GPT-5 gibi sistemler artık Uluslararası Matematik Olimpiyatı problemlerinde altın düzeyinde puanlar elde ediyor. Zahavy, başlangıç ​​noktası olarak Einstein'ın varsayımları verildiğinde, bir dil modelinin muhtemelen genel göreliliği türetebileceğini bile kabul ediyor. Ancak ilk etapta bu varsayımları formüle etmek, onlara ulaşmak için manipülatif atılım yapmak darboğaz olmaya devam ediyor. Zahavy, makinelerin bu sıçramada neden zorluk çektiğini tam da bu teoriyi kullanarak açıklıyor: Yapay zeka modelleri genellikle tahminlerini gerçeklikle karşılaştırarak ve hataya, tahmin ile sonuç arasındaki boşluğa göre ayarlama yaparak öğrenir.