Tencent'in Yapay Zeka Şefi, Yapay Zeka Biyosilahlarının Geldiğini Ancak Modelleri Kapatmanın Çözüm Olmadığını Söylüyor
🔗 Ayrıca yazanlar: scmp.com
Özgün başlık: Tencent's AI chief says AI bioweapons are coming, but closing off models isn't the answer
Tencent Yapay Zeka baş bilimcisi Vinces Yao Shunyu, yapay zekanın yakında biyolojik silahlar geliştirebileceği konusunda uyarıyor ve açık ve kapalı modeller arasında bir orta yol bulunmasını savunuyor. Açık kaynaklı sistemlerdeki güvenlik filtreleri, yok etme yoluyla kolayca çıkarılabilirken, Anthropic'nin Claude'si gibi kapalı modeller genellikle çok agresif bir şekilde bloke eder.
Yaklaşan açık ağırlıklı modeli Hy4 için Tencent, tehlikeli hackleme bilgilerini doğrudan eğitim verilerinden filtreliyor. Tencent makalesinin yapay zeka şefi, yapay zeka biyolojik silahlarının geleceğini söylüyor ancak ilk olarak The Decoder'da ortaya çıkan yanıt, modelleri kapatmak değil.
Tencent chief AI scientist Vinces Yao Shunyu warns that AI will soon be able to develop bioweapons and argues for a middle ground between open and closed models. While safety filters on open-source systems can be easily stripped through abliteration, closed models like Anthropic's Claude often block too aggressively.
For its upcoming open-weight model Hy4, Tencent is filtering dangerous hacking knowledge directly from the training data. The article Tencent's AI chief says AI bioweapons are coming, but closing off models isn't the answer appeared first on The Decoder .
Tencent El científico jefe de IA, Vinces Yao Shunyu, advierte que la IA pronto podrá desarrollar armas biológicas y aboga por un término medio entre los modelos abiertos y cerrados. Si bien los filtros de seguridad en los sistemas de código abierto se pueden eliminar fácilmente mediante eliminación, los modelos cerrados como el Claude de Anthropic a menudo bloquean de manera demasiado agresiva.
Para su próximo modelo abierto Hy4, Tencent está filtrando conocimientos de piratería peligrosos directamente de los datos de entrenamiento. El jefe de IA del artículo Tencent dice que las armas biológicas de IA están por llegar, pero cerrar modelos no es la respuesta que apareció por primera vez en The Decoder.
Tencent Главный ученый по искусственному интеллекту Винсес Яо Шуньюй предупреждает, что искусственный интеллект скоро сможет разрабатывать биологическое оружие, и выступает за золотую середину между открытыми и закрытыми моделями. В то время как защитные фильтры в системах с открытым исходным кодом можно легко удалить с помощью аблитерации, закрытые модели, такие как Anthropic и Claude, часто блокируют слишком агрессивно.
В своей будущей модели открытого веса Hy4 компания Tencent фильтрует опасные хакерские знания непосредственно из обучающих данных. Руководитель статьи Tencent говорит, что биологическое оружие ИИ появится, но закрытие моделей — это не ответ, впервые появившийся на The Decoder.