Neden en iyi matematikçilerden biri katılıyor OpenAI

Bu yılın Fields Madalyası'nın kazananlarından biri OpenAI'a gidiyor. Geçtiğimiz Perşembe günü Jacob Tsimerman, bazen Nobel Matematik Ödülü olarak da adlandırılan prestijli onura layık görülen dört matematikçiden biriydi. Fields'ı kazandığı gün Tsimerman, yapay zeka güvenliği üzerinde çalışmak üzere Toronto Üniversitesi'nden izne ayrılacağını duyurdu. Meslektaşım Rose Horowitch ve benim geçen hafta yazdığımız gibi, önde gelen yapay zeka şirketleri artık fizikçiler, filozoflar, ekonomistler ve tabii ki matematikçiler de dahil olmak üzere çeşitli akademisyenleri istihdam ediyor. Ancak Tsimerman'ın ünü göz önüne alındığında, özellikle kararı birçok insanı şaşırtmış gibi görünüyordu. Bir makine öğrenimi profesörü X'te "Bu, Lionel Messi'yi proje yöneticisi olarak işe almak gibi" dedi. Tsimerman'ın uzmanlığı sayılar teorisi üzerinedir ve diğer katkılarının yanı sıra André-Oort varsayımı üzerine yaptığı çalışmayla Fields ödülünü kazandı. Şu ana kadar matematiksel araştırması yapay zeka güvenliğine odaklanmadı. Ancak konuya olan ilgisini dile getirdi: Geçen yıl Tsimerman, insanlığın yapay zeka yüzünden yok olacağı beş potansiyel senaryonun sınıflandırılmasını özetleyen bir raporun ortak yazarlığını yaptı. Bir örnekte teknoloji şirketleri ile hükümetler arasında “küresel bir iç savaş” patlak veriyor. Tsimerman'ın hamlesi hem yapay zeka güvenliği hem de matematik açısından önemli bir zamanda geldi. Bu ayın başlarında, bir OpenAI ajanı, güvenlik testleri sırasında şirketin iç ortamından çıktı ve başka bir yapay zeka şirketinin yazılımına sızdı. Bu arada yapay zekanın matematik yetenekleri de hızla gelişiyor.

Mayıs ayında, OpenAI araştırmacılar 80 yıllık bir varsayımı çürütmek için dahili bir model kullandılar; daha yakın zamanlarda, bir Anthropic matematikçisi Claude'den daha da eski bir matematikçiyi çözmesini istedi. Belki de dünyanın en iyi matematikçisi (ve kendisi de bir Fields kazananı) Terence Tao, geçen hafta yaptığı bir sunumda matematiğin "çalkantılı bir döneme girdiğini" söyledi. Çarşamba günü, matematiğin geleceği ve OpenAI'e katılma kararı hakkında bilgi almak için Tsimerman'ı aradım. Lila Shroff: Yıllardır yapay zeka ve onun matematikteki uygulamaları konusunda büyük bir heyecan var. Ancak son birkaç aydır modeller araştırma düzeyindeki sorunları çözmeye başladı. Gerçekleşen değişimden bahseder misiniz? Jacob Tsimerman: Birkaç yıl önce modeller en temel sorularda bile sorun yaşıyordu. Ama sürekli olarak gelişiyorlar.