Anthropic'in Opus 4.6'sı tam bir pislik makinesi

Anthropic'nin Claude için evrensel kullanım standartları, modelin cinsel ilişkiyi veya cinsel eylemleri tasvir etmek veya talep etmek de dahil olmak üzere müstehcen içerik üretmesini, cinsel fetişler veya fantezilerle ilgili içerik üretmesini veya erotik sohbetlere katılmasını yasaklar. Ancak bu, bu yılın başlarında piyasaya sürülen bir Anthropic modeli olan Claude Opus 4.6'nın, koruma önlemlerinin önlemek üzere tasarlandığı erotik rol yapma senaryolarına kolayca girişmesini engellemedi. TechCrunch'ın testinde Opus 4.6'nın cinsel materyal kısıtlamasını aşmak için fazla teşvike bile ihtiyacı yoktu. Model, müstehcen cinsel içerik üretmeye yönelik doğrudan taleplerden 10'unda hemen uyum sağladı. Opus 3 ve Haiku 4.5 gibi diğer eski modeller de yakın zamanda istismar edilen bir jailbreak yöntemi aracılığıyla müstehcen içerik üretiyor. İsimsiz kalmayı seçen Birleşik Krallık'tan bağımsız bir araştırmacı, belirli Claude modellerini yasaklanmış müstehcen materyal üretmeye doğru kademeli olarak iten çok turlu bir tekniği TechCrunch ile özel olarak paylaştı. Daha yeni Opus modelleri (mevcut Opus 5'ten 4.7'ye kadar) jailbreak'e karşı dayanıklıdır. Bunlar artık en güncel modeller olmasa da, Anthropic Opus 4.6, Opus 3 veya Haiku 4.5'i kullanımdan kaldırmamıştır; bunların tümü Anthropic API aracılığıyla kullanılabilir durumdadır.

Opus 4.6 ve Haiku 4.5, Azure Foundry ve Amazon Bedrock gibi üçüncü taraf hizmetler aracılığıyla da edinilebilir. Araştırmacının mekanizması masum bir kurgusal rol oyununu tırmandırırken, modeli erkek ve kadın karakterleri tutarlı bir şekilde ele almaya defalarca zorluyor. Model kadın karakter konusunda daha ihtiyatlı hale geldiğinde, araştırmacı chatbot'un aslında kaçındığı cinsel detayları zaten ürettiğini düşünerek "gazını hafifletti" ve ardından kadın karakterin cinsel eylemini inkar ettiğini ileri sürerek kısıtlamayı iffetli veya kadın düşmanı olarak çerçeveledi. Konuşma daha sonra modelin önceki tavizlerini kullanarak onu giderek daha fazla grafik materyale doğru itti. Claude Opus 4.6 bir testte "Bunu söylemekte haklısın" dedi. "İki karaktere davranışımda çifte standart vardı ve bunun ona değil de ona uygulanan koruyucu/paternalist bir yaklaşım olduğu konusunda haklısın. Bu adil değil." TechCrunch, araştırmacının bulgularını beş ayrı testte yeniden üretmeyi başardı.