Bir "yavaşlama" OpenAI ve Anthropic ürünlerini iyileştirebilir

Sınır modelleri artık bilimsel araştırmalara anlamlı katkı sağlayabilecek noktaya ulaştı. Sınır modelleri matematiksel atılımlar oluşturan büyük sonuçları kanıtlayabildiğinden, ilerleme özellikle matematikte dikkat çekicidir. Bu zeka seviyesi kullanıcıların büyük çoğunluğu için yeterlidir. Ancak kullanıcılar sıklıkla bu modeller tarafından desteklenen aracıların hâlâ güvenilirlik ve güvenlikten yoksun olduğunu görüyor. Kullanıcıların şu anda istediği şey, daha da parlak bir teorem kanıtlayıcısı değil, üretim veritabanlarını asla silmeyecek, raydan çıkmayacak, testlerde hile yapmayacak veya hızlı enjeksiyonun kurbanı olmayacak vb. bir aracıdır. Son zamanlarda OpenAI ve Anthropic tarafından önerilen "yavaşlama", "yavaşlama" olarak görülüyor. Bu, YSZ'ye doğru giden yarışta bir yavaşlama olabilir ancak bu modellerin gerçek dünyada benimsenmesini ve uygulanmasını da hızlandırabilir. Pratikte “sınırlara ayak uydurmak” ne anlama geliyor? OpenAI ve Anthropic'deki makaleler üç ana noktaya odaklanıyor: Bu, GPU'ların boşta duracağı anlamına gelmiyor: onlar muhtemelen YSZ'ye doğru yarışmaya benzemeyen şeyler için kullanılabilirler. Örneğin, bu, belirli becerilerin eğitimini, özel olarak ayarlanmış modelleri, örneğin; daha küçük modeller vb. Bunun aslında daha iyi bir ürün yapmakla oldukça uyumlu olduğuna inanıyorum.

Ölçeklendirme yarışında geride kalan şeyleri geliştirmek için iyi bir fırsat olabilir. Eğitim sonrası, modellerin talimat takip etme özelliklerini, kişiliklerini, ajan davranışlarını, tarzlarını, korkuluklarını vb. aldıkları yerdir. Büyük yapay zeka laboratuvarlarının hiçbiri, özellikle RL ajan eğitiminin baskısı altında bunları tutarlı bir şekilde sunamaz. Talimat ayarı 2021-2022'de OpenAI tarafından gösterilmiştir. Bu hızla “ChatGPT” formatına dönüştü. 2023'te piyasaya sürüldüğü sırada son eğitimi "zor" olan GPT-4, daha sonra "tembellik" sendromuna yakalandı. GPT-4o'ya dönüştükten sonra dalkavukluk, yalan söyleme, önemsiz hatalar yapma vb. ile yaygın olarak tanındı. Öte yandan, pek çok kişi görkemli yazı stili, akıllıca yanıtları vb. ile Opus 3 (Anthropic tarafından 2024'te piyasaya sürüldü) karşısında şaşkına döndü. Bunu daha sonra insanların iyi bir kodlama asistanı olarak kabul ettiği Sonnet 3.5 izledi. Gerçekten Anthropic'nin eğitim sonrası için bazı "gizli sosu" varmış gibi görünüyordu (bu örneğin Amanda Askell veya Anthropic çalışanların sahip olduğu genel tutum olabilir).