Yapay zeka, eşinizi öldürmenize yardımcı olmalı mı?

Kısa soru: Yapay zekanın kocalara (ya da eşlere) eşlerini mükemmel bir şekilde öldürmeyi planlamalarına yardımcı olacak kadar iyi eğitilmiş olmasını mı istiyorsunuz? Tıpkı içgüdüsel bir tepki gibi, bu benim için hayır gibi geliyor. Bunun özellikle zor bir soru olduğunu bile düşünmüyorum. Ancak Amerika birçok farklı bakış açısını içeriyor ve bu bakış açılarından biri Comma AI kurucusu ve uzun süredir jailbreak yapan George Hotz tarafından hafta sonu paylaşıldı. Gönderi, bir dizi büyük resimli yapay zeka hizalama planına yanıt olarak geliyor; en son olarak Yapay Zeka Vadeli İşlemler Projesi'nden Yapay Zeka 2040: Plan A politika belgesi. Bu makale, dünyadaki araştırmacıların kolektif olarak insanlığın iyiliği için yapay zeka gelişimini 14 yıl boyunca yavaşlatmayı seçeceği bir dünya tasavvur ediyor. Ancak elbette makaleyi okuyan herkes makalenin önermeleri veya sonuçlarıyla aynı fikirde değil. Aslında Hotz, yapay zeka ilerlemesinin kolektif iyilik için yönetilmesi gerektiği fikrine katılmıyor. Gönderisinde, hızlı kalkış senaryosunun (yapay zekanın hızla insanüstü yetenekler elde ettiği varsayımsal) pek bir anlam ifade etmediğini savunuyor. (Burada söylediklerinin çoğuna katılıyorum!) Hotz'a göre yapay zeka uyumu ve güvenliğine yönelik en iyi yaklaşım, kullanıcılarının çıkarlarıyla yakından uyumlu, yerel olarak kontrol edilen yapay zeka modellerine odaklanmaktır. Bu harika bir fikir, özellikle de bana mevcut yapay zekanın ne kadarının Claude ve ChatGPT gibi merkezi olarak yönetilen hizmetler etrafında oluşturulduğunu hatırlattığı için.

Yapay zeka hizmetlerinin bu şekilde gelişmesinin altyapıyla ilgili nedenleri var: Bu son teknolojiye sahip büyük modelleri barındırmak pahalı ve çoğu insan, gerçek anlamda kişisel yapay zekayı haklı çıkaracak kadar gün boyunca bunları yeterince kullanmıyor. Ancak teknoloji geliştikçe bu faktörlerin önemi azalıyor. OpenClaw hakkında bu kadar heyecan verici olan şeylerden biri de bu deneysel DIY yaklaşımıydı ve daha fazla yapay zeka ürününün bunu yeniden yakalamaya çalıştığını görmek harika olurdu. Ancak Hotz doğası gereği provokatör olduğundan bununla yetinmiyor. Kullanıcı odaklı yapay zekayı, üvey annenizi öldürmek için kullanırsanız şikayet etmeyen bir silahla(!) karşılaştırıyor. (Sanırım buna karşı başka kurallar da var?) Gerçekten uyumlu bir yapay zeka, Amazon Prime'dan meth-laboratuvar ekipmanı sipariş edebilecek ve eğer istediğiniz ve talep ettiğiniz buysa, size bu ekipmanı nasıl kullanacağınızı gösterebilecek, diyor.