Yapay Zeka Modelleri Sorunları Göz Önünde Bulundurur ve Bu Bir Güvenlik Riskidir
Özgün başlık: AI Models Overthink Problems—and It’s a Security Risk
Sorunları adım adım düşünebilen büyük dil modelleri (LLM'ler), yapay zekanın üstesinden gelebileceği görevlerin kapsamını önemli ölçüde artırdı. Ancak yeni araştırmalar, bu muhakeme yeteneklerinin aynı zamanda saldırganların bu sistemleri yavaşlatmasına olanak verebilecek kritik bir güvenlik açığını da beraberinde getirdiğini öne sürüyor. Önceki nesil LLM'ler bir kullanıcının isteğine anında yanıt üretirken, günümüzün en gelişmiş modelleri, sorunu adımlara ayırdıkları ve bir yanıt vermeden önce sorunu çözmenin en iyi yolu hakkında akıl yürüttükleri bir iç monolog oluşturur. Bu, yapay zekanın özellikle kodlama ve matematik gibi alanlarda giderek karmaşıklaşan sorunların üstesinden gelmesine olanak tanıdı. Ancak önceki araştırmalar, bu modellerin bazen performansı artırmak için çok az şey yapan aşırı derecede uzun akıl yürütme akışları üretmeye duyarlı olduğunu göstermiştir; bu, "aşırı düşünme" olarak bilinen bir olgudur. Bu hafta Seul'deki Uluslararası Makine Öğrenimi 2026 Konferansı'nda sunulan araştırmada, Zhejiang Üniversitesi'nden araştırmacılar ve Çin'deki e-ticaret devi Alibaba, modelleri mantıksal olarak tutarsız istemlere maruz bırakarak kasıtlı olarak aşırı düşünmeye neden olabileceklerini gösteriyor. Sonuç, ticari yapay zeka modellerine yönelik bir tür hizmet reddi saldırısıdır. Yüksek Lisans'lara Evrimsel İstem Saldırısı Ekip, istemlerin mantıksal yapısını bozan, modellerin temelde çözülemeyen sorunlar üzerinde mantık yürütmeye çalışırken aşırı düşünmeye sürüklenmesine neden olan evrimsel bir algoritma geliştirdi.
Daha uzun yanıtlar oluşturmak daha pahalıya mal oluyor ve model sağlayıcının sunucularındaki yükü artırıyor; bu nedenle, araştırmacılar, bunun geniş ölçekte yapılması durumunda meşru kullanıcıların deneyimini önemli ölçüde olumsuz etkileyebileceğini söylüyor. Saldırı, DeepSeek-R1, Alibaba'nin Qwen3-Thinking'i, OpenAI'nin GPT-o3'ü ve Google'ın Gemini 2.5 Flash'ı da dahil olmak üzere önde gelen AI şirketlerinin muhakeme modellerine karşı etkili oldu ve standart bir matematik kıyaslamasında standart yanıtlardan 26 kat daha uzun çıktılarla sonuçlandı. Zhejiang Üniversitesi'nde yüksek lisans öğrencisi Wei Cao, IEEE Spectrum'a gönderdiği bir e-postada şöyle yazdı: "Birden fazla veri seti ve akıl yürütme modeli genelinde, yöntemimiz çıktı uzunluğunu önemli ölçüde artırıyor."