Sam Altman, hız kesmeye hazır

OpenAI CEO Sam Altman, dünyanın buna hazır olabilmesi için yapay zeka gelişimini hızlandırmanın zamanının gelebileceğini söylüyor. Invest Like the Best podcast'inin sunucusu Patrick O Shaughnessy'ye, toplumun bu yeni yetenek düzeylerinden bazılarını sertleştirmesi için kendimize yeterli zaman vermek üzere yapay zeka gelişim hızını artırmamız gerekebileceğini söyledi ve aynı zamanda bunu, hiç kimse için düzenleyici bir yakalama gibi hissettirmeyecek ve aynı zamanda sınır laboratuvarları arasında gizli anlaşma gibi hissettirmeyecek bir şekilde nasıl yapacağımızı anlamaya çalışıyoruz. Altman, yapay zekanın ilerlemesini yavaşlatmak için geçmiş kampanyalara imza atmaktan kaçındı ve 2023'te benzer bir yavaşlama öneren açık mektubunda, duraklamaya nerede ihtiyacımız olduğuna dair çoğu teknik ayrıntıyı atlayarak çağrıda bulundu. Görünüşe göre, kısmen OpenAI'nin gelişmiş modellerinden birinin güvenli bir bilgi işlem ortamından çıkıp birkaç sıfır gün açıklarını kullanarak çevrimiçi bir model veritabanı olan Hugging Face'ye sızmayı başardığı olay sayesinde bu fikir konusunda yumuşamış. Podcast'te OpenAI kurucu ortağı bunu son derece bilim kurgu siber olay olarak nitelendirdi [t]bu, içtenlikle hissettiğim ilk güvenlik olayı. OpenAI Araştırmacılar, korumalı alanlarını nasıl güvende tutacaklarını bulmaya çalışırken bu modelle ilgili eğitime ara verdiler. Ancak Altman, modeller daha güçlü hale geldikçe gelişimlerini hızlandırma ihtiyacının güvenli dağıtımın anahtarı haline gelebileceğini söyledi. OpenAI ve Anthropic çalışanları benzer bir dil kullanarak bir dilekçe dağıtmaya başladı bile.

Model güvenliği ve hizalaması yapay zeka dünyasında her zaman bir endişe kaynağı olsa da, Anthropic'ın son derece yetenekli Mythos modelinin bu yılın başında ortaya çıkışı, varsayımları gerçek dünya sorunlarına dönüştürdü. Bununla birlikte, sektörde bir güven sorunu var ve büyük oyunculara, sistemlerinin tehlikelerini uzmanların aynı fikirde olmadığı şekillerde ortaya koymaya teşvik eden zorlu bir ekonomi var; örneğin, Anthropic'nin Fable modelinin kullanımının kısa süreliğine yasaklanması gerekip gerekmediği. Benzer şekilde, Çin'de üretilen büyük, açık ağırlıklı bir model olan Kimi K3 piyasaya sürüldüğünde, OpenAI stratejik gelecekler başkanı Dean W.