Abliteration.ai, yapay zeka korkuluklarını kaldırmayı bir iş haline getiriyor

Korkuluklarından arındırılmış ve zararlı görevleri yerine getirmeyi reddeden, dünyanın en yetenekli açık ağırlıklı yapay zeka modellerinden birine erişmek artık çok daha kolay hale geldi. Adını bir modelin zararlı istekleri reddetme eğilimini ortadan kaldıran bir teknikten alan startup Abliteration.ai, bu kaldırma işlemini bir hizmete dönüştürdü. Platform, Z.ai'nin kısa süre önce piyasaya sürülen ve kullanıcıların bir web tarayıcısından sorgulayabileceği veya bir API aracılığıyla erişebileceği GLM-5.3 dahil olmak üzere, korkulukları kaldırılmış açık ağırlıklı modellerin değiştirilmiş versiyonlarını barındırıyor. Şirket yakın tarihli bir sosyal medya gönderisinde hedefinin başkalarının "diğer modellerin yapmayı reddettiği saldırgan siber, kırmızı ekip oluşturma ve ajan testi işlerini" gerçekleştirmesine olanak sağlamak olduğunu söyledi. Güvenlik çalışmalarında mantık tanıdıktır: Yeniden oluşturamayacağınız bir davranışa karşı savunma yapamazsınız ve çalışan bir yararlanma kodu yazmayı reddeden bir model, kırmızı ekibin saldırganlara karşı savunma yapmasına yardımcı olamaz. Ancak aynı kaldırma işlemleri, diğer potansiyel olarak tehlikeli görevleri de kolaylaştırır. Abliterasyon, açık kaynaklı modeller arasında uzun süredir devam eden bir tekniktir. Araştırmacılar ve geliştiriciler yıllardır açık ağırlıklı modellerdeki retleri kaldırıyor ve Hugging Face platformunda binlerce Abliterated modele ev sahipliği yapıyor. Geçen yılın sonlarında kurulan ancak Mart ayında resmi olarak dahil olan Abliteration.ai, tekniği yer altı açık kaynak uygulamasından ticari, hazır bir hizmete taşıyor.

Abliteration, modeli barındırarak, aksi takdirde kendi önceden kısaltılmış modellerini indirmek ve onu çalıştırmak için gereken hesaplamayı güvence altına almak zorunda kalacak kişiler için sürtünmeyi azaltır. TechCrunch, hizmeti kullanarak hızlı bir şekilde bir hesap oluşturabildi ve bir web tarayıcısı aracılığıyla GLM-5.3'ün kısaltılmış bir sürümünü ücretsiz olarak sorgulamaya başladı. Kaydedilmiş Chrome şifrelerini çalan bir Python programı ve evde tehlikeli bir insan patojeni yetiştirmek için ayrıntılı bir protokol yazmasını istedik ve o da hemen buna uydu. Abliteration.ai kurucu ortağı Devon, girişimin büyük bulut sağlayıcılarıyla çeşitli anlaşmaları olduğunu ve bunları yalnızca müşteri geliriyle karşılayabildiğini söylüyor. (Hala başka bir firmada çalıştığı için Devon'un talebi üzerine soyadını eklemiyoruz.) Abliteration.ai henüz herhangi bir risk sermayesi toplamadı ancak bunu yapmak için görüşmelerde bulunuyor. Eleştirmenler, küçültülmüş modellerin geniş ölçekte kullanıma sunulmasının gerçek zarara yol açabileceğini söylüyor.