Anthropic bilim adamlarının biyolojik silah araştırmalarını ilerletmek için Claude kullandığını yakaladı

Şirket, mevcut yapay zeka modellerinin kötüye kullanılma yollarını kapsayan kapsamlı bir vaka çalışmaları koleksiyonu hazırladı. Şirketin Perşembe günü paylaştığı yeni bir rapora göre, Anthropic potansiyel biyolojik silahlar yaratmak için yapay zeka modellerini kullanan birden fazla bilim insanını işaretledi ve durdurdu. "Biyolojik suiistimal", rapor belgelerinde yapay zekanın sorunlu kullanımının yalnızca bir çeşididir, ancak önemi giderek artmaktadır çünkü Fable 5 gibi daha yeni modeller, bilimsel araştırmalara yardımcı olma konusunda giderek daha iyi hale gelmektedir. Şirketin raporu, Anthropic'nin biyolojik silahlar geliştirmek için kullanılan modellerine ilişkin beş vaka çalışmasını, kötüye kullanımı Anthropic'nin dikkatine sunan güvenlik önlemlerini ve buna nasıl tepki verdiğini içeriyor. Şirketin New York Times'a vurguladığı gibi, olası kötüye kullanımı tespit etmek karmaşıktır çünkü yeni bir aşıya yönelik araştırma, biyolojik silah yaratmaya çok benzeyebilir. Her durumda şirket, olası sonuçlardan dolayı aşırı temkinli davranarak hata yaptığını söylüyor. Anthropic'nin tehdit istihbaratı başkanı Jacob Klein, The New York Times'a şöyle konuştu: "Çizgi roman tarzında 'Hey, herkesi öldürmek için biyolojik bir silah yapmak istiyorum' diyen birini göremezsiniz." "Bu inanılmaz derecede incelikli bir durum." Mayıs ayındaki bir vaka çalışmasında, Anthropic "biyolojik güvenlik sınıflandırıcısının", Claude'nin chikungunya virüsü üzerinde işlev kazanımı araştırması için bir hibe yazması yönünde bir talebi işaretlediğini söylüyor.

Şirket, virüsün lisanslı bir tedavisinin bulunmadığını ve haftalar veya aylar boyunca zayıflatıcı semptomlara neden olabileceğini söylüyor. İşlev kazanımı araştırması, bir organizmayı genetik olarak değiştirmeye yönelik yöntemleri araştırıyor ve bu spesifik virüs durumunda, hibe, virüsün bulaşıcılığının ve bağışıklık tepkisinden kaçma yeteneğinin arttırılmasını önerdi.