Ulusal güvenlikte demokratik gözetimin güçlendirilmesi

Yapay zeka, demokratik hükümetlerin halklarını koruma biçimini değiştiriyor. Siber saldırıların durdurulmasına, kritik altyapının güvenliğinin sağlanmasına, tehditlerin erken tespit edilmesine ve kamu görevlilerine kriz anında daha net bir resim sunulmasına yardımcı olabilir. İyi kullanıldığında bu araçlar ulusal güvenliği güçlendirebilir. Demokratik gözetim, kamu gücünün kullanımının, hizmet ettikleri kişilere karşı sorumlu kalmasının sağlanmasına yardımcı olur. Yapay zeka, ulusal güvenliğin daha hızlı ve daha yetenekli çalışmasını sağladığından, bu çalışmayı denetlemekten sorumlu kurumların da buna ayak uydurması gerekiyor. Yapay zeka, eksik veya güncelliğini kaybetmiş bağlam, yanlış yapılandırılmış hedefler veya yanlış hizalanmış varsayımlar üzerinde hızlı ve geniş ölçekte harekete geçerek hataların yayılmadan önce manuel olarak tespit edilmesini zorlaştırabilir. Yapay zekanın ulusal güvenlik için kullanımında gözetim özellikle önemlidir çünkü kararlar zorunlu olarak gizlilik içerebilir ve yüksek riskli sonuçlar doğurabilir. Ulusal Güvenlik İlkelerimizin rehberliğinde, ulusal güvenlik konuşlandırmalarına, özellikle riskli ortamlarda, koruma önlemleri, anlamlı insan muhakemesi ve uygun gözetim ile yaklaşıyoruz. Bu ilkeler aynı zamanda gözetimden sorumlu kurumların yapay zeka kullanımını hızlı ve geniş ölçekte denetleme kapasitesini geliştirmelerine yardımcı olmayı da öncelik haline getiriyor. Gözetimin yapay zekanın benimsenmesine ayak uydurmasını sağlamak Devlet kurumları, ulusal güvenlik faaliyetlerini denetlemek için halihazırda belirlenmiş yetki ve sorumluluklara sahiptir. Yapay zeka bu faaliyetlere katkıda bulunduğunda gözetimin gelişmesi gerekebilir.

Geleneksel gözetim yoğun emek gerektirir ve kağıt çağı yöntemlerini kullanan küçük ekiplerden makine hızında çalışan sistemleri incelemeleri istendiğinde neredeyse imkansız hale gelir. OpenAI daha yetenekli sistemlerin daha güçlü gözetim gerektirdiğine inanıyor ve bu prensibi kendimize uyguluyoruz. Hazırlık Çerçevemiz kapsamında gelişmiş modeller, yeteneklerini anlamak ve koruma önlemlerinin yeterli olup olmadığını belirlemek için devreye alınmadan önce sıkı bir incelemeye tabi tutulur. Bu inceleme, dağıtımdan sonra devam eden izleme ve olay incelemesi yoluyla devam eder ve öğrendiklerimizle daha güçlü koruma önlemleri ve gelecekteki model geliştirme konusunda bilgi sağlar. OpenAI hükümet üzerinde gözetim görevi yapmaz ve yapmamalıdır. Bu sorumluluk seçilmiş yetkililere ve bu amaçla kurulmuş kamu kurumlarına aittir. Bunun yerine, gözetim kurumlarını mevcut görevlerini yerine getirirken teknolojimizle destekleyebiliriz. Bu çalışmaya üç prensip rehberlik edecektir.