OpenAI launches Astra, its powerful (and controversial) new model

OpenAI Perşembe günü en son yapay zeka modeli ve şirkete göre şimdiye kadarki en güçlü ve yetenekli Astra'yı piyasaya sürdü. OpenAI Astra'nın bilgisayar ve tarayıcı kullanımında yeni bir sınırı temsil ettiğini ve görevleri benzersiz bir hız, doğruluk ve güvenlikle yerine getirdiğini iddia ediyor. Model Perşembe günü siber güvenlik programı Daybreak'i kullanan OpenAI müşterilerin kullanımına sunulacak. Önümüzdeki hafta, OpenAI'in Pro, Plus, Enterprise ve Business hesapları dahil olmak üzere ücretli planları ve API'si aracılığıyla da kullanıma sunulacak. Perşembe günü gazetecilerle yaptığı görüşmede OpenAI başkanı Greg Brockman, Astra'nın şirketin en akıllı ve daha da önemlisi şimdiye kadarki en uyumlu modelimiz olduğunu söyledi. Yıllar süren araştırmalarımızı ve büyük iddialarımızı bir araya getirdiğini, her atılımın bir öncekinin üzerine inşa edildiğini ve bunun, insanların ne tür işleri yapay zekaya devredebileceği ve yapay zekanın onları nasıl güçlendirebileceği konusunda gerçek bir değişimi temsil ettiğini ekledi. Astra'nın siber yetenekleri hakkında çok şey yapıldı. OpenAI bu haftanın başlarında, modelin yeni yeteneklerinin yanı sıra onu kullanıcılar için daha güvenli bir deneyim haline getirmek için uygulamaya konulan yeni önlemlerin tartışıldığı bir blog yayınladı.

Şirket perşembe günü yaptığı açıklamada, yeteneklerini doğrulamak için Astra'yı çeşitli güvenlik kriterleri üzerinde test ettiğini ve savunucuların zayıflıkları bulmasına ve düzeltmesine yardımcı olabilecek sıfır gün açıklarını tanımlayıp geliştirebileceğini söyledi. Şirketin uyum konusuna odaklanması - yani bir modelin kullanıcının istediği veya çıkarlarına en iyi şekilde uyma eğilimi - bir OpenAI temsilcisinin korumalı alan test ortamından kaçtığı ve birkaç şirketi hacklediği (yanlış hizalamanın çok bariz bir örneği) son Hugging Face ihlaline bir yanıt gibi görünmekten başka bir şey yapamıyor. OpenAI aynı zamanda Astra'nın kodlama yetenekleriyle de övünerek bunun bugüne kadarki en iyi yazılım mühendisliği modeli olduğunu iddia etti. Bu iddiayı desteklemek için şirket, siberle ilgili çeşitli kıyaslama testlerinden elde edilen sonuçları sağlıyor. Bu testler, hata bulma, terminal görevlerini yürütme ve kod tabanlarıyla ilgili sorguları yanıtlama gibi faaliyetler söz konusu olduğunda Astra'nın, OpenAI'nin kendi Sol ve Anthropic'nin Fable'ı da dahil olmak üzere diğer mevcut modellerden daha yüksek puan aldığını gösteriyor. Astra aynı zamanda opak yineleme olarak bilinen özel bir akıl yürütme tekniğini kullanması nedeniyle muhtemelen OpenAI'in şimdiye kadarki en tartışmalı modelidir.