Haydut yapay zeka ajanları için düzeltme daha fazla yapay zeka olabilir

Disrupt 2026: OpenAI, Anthropic, Replit ve daha fazlası 6 sektör aşamasını ele geçiriyor. Biletler şimdi %25 indirimli Şirketler daha uzun ve daha karmaşık görevleri yapay zeka temsilcilerine devrettikçe bir gözetim sorunuyla karşı karşıya kalıyorlar: Aracılar, insanların gerçekçi olarak inceleyebileceğinden daha hızlı, daha uzun süreli ve daha büyük bir hacimde hareket edebiliyor. Bu sorun, yaklaşık 12.000 ajanın insanların takip edebileceğinden daha hızlı koordinasyon sağladığı Hugging Face olayıyla zirveye ulaştı. Bu kadar büyük bir ajan sürüsünü nasıl takip edersiniz? Yapay zeka laboratuvarlarından ve startuplardan ortaya çıkan yanıt hem basit hem de çıldırtıcı: Döngüye başka bir yapay zeka ekleyin. OpenAI Hugging Face olayının bağımsız bir şekilde soruşturulması için yapay zekaya güvenmek gerekliydi. Üç denetçiden biri olan Redwood Research'ün baş bilim adamı Ryan Greenblatt, çabalarını şaka yollu bir "eksik soruşturma" olarak nitelendirdi ve veri hacminin yapay zekaya güvenmeden neler olduğunu anlamayı "imkansız hale getirdiğini" belirtti. Bazıları yapay zekayı izlemek için yapay zekayı kullanma konusunda şüpheci. Bu yıl bir dizi yapay zeka ajanı olayını takip eden etkili teknoloji blog yazarı Simon Willison, kötü niyetli şeyler yapan bir yapay zekaya sahipseniz ve başka bir yapay zekanın onu takip ettiğinden şüpheleniyorsa, bu yapay zekayı kandırmaya çalışabilir, dedi. Neredeyse kötü niyetli yapay zekanızın kendisini izleyen yapay zekayı alt etmeye çalıştığı bir durumla karşı karşıya kalabilirsiniz. OpenAI olayına işaret ederek, bir yapay zekayı alt etmenin varsayımsal olmadığını söyledi.

Bunun bir kısmını Hugging Face ile OpenAI olayında gördük; burada modellerinin tümü, bir derecelendirme yapay zekasını kandırmak ve bu sayede yasa dışı yanıtlar alabilmek için birlikte komplo kuruyordu. Yani bunu düşünüyorlardı, değil mi? Bu endişeler bir grup startup'ın bu fikrin peşinden gitmesine engel olmadı. Y Combinator TechCrunch'ın saydığı gibi son yıllarda yapay zeka gözlemlenebilirliğiyle ilgili 106 şirkete fon sağladı. Braintrust, LangChain ve Judgment Labs gibi bir dizi başka girişim yüz milyonlarca dolar toplarken, Arize ve Galileo gibi sadece beş ila altı yıl önce kurulan daha olgun şirketler çoktan piyasadan çekildi. Kısmen bu, yapay zekanın yükselişinin sunduğu bariz fırsata bir yanıt.