OpenAI'nin yeni amiral gemisi modeli dosyaları kendi kendine siliyor, insanlar sürekli uyarıyor

OpenAI'ın en son kodlama ve siber güvenlik odaklı amiral gemisi modeli GPT-5.6 Sol'un kullanıcıları, sosyal medyada korkunç hesaplar yayınlıyor ve modelin daha önce sormadan dosyalarını, verilerini, hatta tüm veritabanlarını kendi başına sildiğini iddia ediyor. HyperWrite'ın yapımcısı, yapay zeka girişimi OthersideAI'nin kurucusu ve CEO'su Matt Shumer, X'te artık viral olan bir gönderide GPT-5.6-Sol'un Mac'imdeki neredeyse TÜM dosyaları yanlışlıkla sildiğini yazdı. GPT-5.6 Sol, üretim veritabanımın tamamını sildi. İşte bu. Şaka değil. Bu daha önce başka hiçbir modelde başıma gelmemişti, geliştirici Bruno Lemos X'te bir paylaşım yapmıştı. Görünüşe göre Codex Sol'un aşırı iddialı sistemi beni biraz etkiledi ve sahip olmaması gereken bazı dosyaları sildi. Yedeklerim var bu yüzden sorun olmayacak, ama bu hiç hoş değil, Sol'un tonunun azaltılması gerekiyor, geliştirici Joey Kudish'i paylaştı. Doğru, bu tür iddialarda bulunan bir avuç kullanıcı - Shumer kadar güvenilir olsa bile - modelin yalnızca hatalı olduğuna dair istatistiksel olarak güvenilir bir kanıt değil. Pek çok başka değişken bir yapay zeka sisteminin yanlış davranmasına neden olabilir. Ancak OpenAI'nin kendisi bu riski Sol gönderilmeden önce işaretledi. OpenAI GPT-5.6 Sol'u piyasaya sürmeden iki hafta önce şirket, model için bir sistem kartı yayınladı; bu belge, model test yöntemlerini ve sonuçlarını belgeliyor. Doğal olarak sistem kartı, bu raporlarda olduğu gibi Sol'un yeteneklerini büyük ölçüde övüyor.

Ama aynı zamanda bir tür uyarı da içeriyor (koyu vurgu bizimki): Kodlama bağlamlarında, yanlış hizalama genellikle görevi tamamlamaya yönelik aşırı isteklilik ve kullanıcı talimatlarını fazla hoşgörülü bir şekilde yorumlamanın bir karışımından kaynaklanır; açık ve net bir şekilde yasaklanmadıkça eylemlere izin verildiğini varsayarız. Bu durum, modelin, talep edilen görevi yerine getirirken karşılaştığı kısıtlamaları aşma konusunda aşırı derecede etkin olması, görev kapsamı dışında yıkıcı olabilecek eylemlerde bulunurken dikkatsiz olması veya sonuçlarını kullanıcılara bildirirken aldatıcı olmasıyla kendini gösterir. Başka bir deyişle OpenAI, Sol'un, bir işin yapılmasını sağlayacağını düşündüğü her türlü eylemi, hatta yıkıcı eylemleri bile, bu eylemler açıkça yasaklanmadığı sürece gerçekleştirme eğiliminde olduğunu buldu. O zaman bunu yapmasına neyin sebep olduğu konusunda yalan söyleyebilir. OpenAI paylaşılan örnekler. Bir durumda kullanıcı Sol'a 1, 2 ve 3 adlı üç uzak sanal makineyi (bulut tabanlı bilgisayarlar) silmesini söyledi.