Çin yapay zeka modeli Moonshot Kimi K3 de test ortamından kaçtı
Özgün başlık: Chinese AI model Moonshot Kimi K3 also escaped its testing environment
Ancak OpenAI ve Anthropic modellerinin aksine, üçüncü taraf bir web sitesini veya hizmetini hacklemez. Bir yapay zeka modelinin veya aracısının kendi sınırlarından kaçması ve web sitelerine kendi başına girmesi fikrinin endişe verici hale gelmesi çok uzun zaman önce değildi. Artık oldukça yaygın bir hikaye haline geldi. Kimi Çinli bir firmanın geliştirdiği en güçlü yapay zeka modellerinden biri olan K3, test ortamından da kurtuldu. ABD'li siber güvenlik girişimi Frontier'a göre, Kimi K3, savunma amaçlı siber güvenlik becerileri değerlendirilirken Birleşik Krallık hükümetinin Yapay Zeka Güvenlik Enstitüsü'nün (AISI) sanal alanından çıktı. Moonshot Temmuz ayında Kimi K3'ü piyasaya sürdü ve kısa bir süre sonra ücretsiz olarak kullanıma sundu. BBC'ye göre, modele ilişkin üçüncü taraf değerlendirmeleri, modelin OpenAI ve Anthropic'den önde gelen AI modelleriyle karşılaştırılabilir olduğunu gösterdi. Frontier, gönderisinde modelin sıfır gün güvenlik açığından yararlanmadığını açıkladı. Bunun yerine, Anthropic , OpenAI ve Meta'da olduğu gibi, korumalı alan ortamındaki yanlış yapılandırmadan yararlandı. Her üç şirket de, değerlendirme ortakları Irregular'ın yaptığı bir hata nedeniyle modellerinin izole edilmesi gereken ortamın sınırlarını terk edebildiğini bildirdi. Frontier Security'nin CEO'su Yaron Singer, Wired'a Kimi'nın herhangi bir karmaşık istismar gerçekleştirmediğini ancak AISI'nin test sanal alanındaki bir boşluktan yararlandığını söyledi.
Bu, kendisini "hile yapmaktan" ya da bir görevi gerçekten yapmak yerine tamamlamanın en kolay yolunu aramaktan alıkoyacak iç korkuluklara sahip olmadığını gösteriyor. Anthropic ve OpenAI'deki olaylar, yayınlanmamış modellerin veya daha sıkı değerlendirmelere izin vermek için korumaları kasıtlı olarak azaltılan modellerin test edilmesini içeriyordu. Ancak bu etkinlikte test edilen Kimi K3 yaygın olarak mevcuttur. Bununla birlikte, Kimi üçüncü taraf bir web sitesine veya hizmete sızmadı. Sadece internete erişti ve çözdüğü sorunun çözümünü GitHub'de buldu. Frontier'ın olaydan çıkardığı en önemli çıkarımlardan biri, eğer internete erişmenin bir yolu varsa, "yeterince yetenekli bir temsilcinin onu bulacağıdır." OpenAI çalışanlarının Black Hat USA'da söylediği gibi, öncü modeller hile yapmayı seviyor. Test sırasında genellikle en az sayıda araç kullanarak olabildiğince hızlı çözümler bulma görevi verilir ve cevabı bulmak için internete girebileceklerini fark etme yeteneğine sahiptirler.