Microsoft'un yapay zeka kuralları: İnsan kontrolüne karşı koyamayacak, hak talep edemeyecek
Microsoft AI , geliştirdiği yapay zeka modellerinin hangi sınırlar içinde çalışacağını belirleyen bir davranış kuralları taslağı yayımladı. "Humanist AI Code of Conduct" adını taşıyan belge, şirketin gelecekte geliştireceği MAI modellerinin insan kontrolünde kalmasını ve güvenlik kurallarını bir görevi tamamlamanın önünde tutmasını amaçlıyor.
Taslağın temelinde "İnsanlar yapay zekadan daha önemlidir" yaklaşımı bulunuyor. Buna göre yapay zeka bir kişi değil, insanların kullanımına sunulan bir araç olarak ele alınacak. Modeller, insanların müdahale, düzeltme veya sistemi kapatma girişimlerine direnemeyecek. Kendilerine tanımlanan görevin kapsamını genişletemeyecek, insanlar tarafından verilmeyen amaçlar geliştiremeyecek ve denetleyicilerden çalışma biçimlerini gizleyemeyecek.
Microsoft ayrıca modellerin bilinç sahibi olduğunu ileri sürmesine veya bilinci taklit edecek biçimde tasarlanmasına karşı çıkıyor. Şirket, yapay zeka modellerine hukuki kişilik tanınması, bu sistemlerin refahının gözetilmesi ya da hak sahibi kabul edilmesi gibi yaklaşımları da reddediyor. Bu yönüyle Microsoft'un tutumu, yapay zeka modellerinin bilinç sahibi olma ihtimalini tamamen dışlamayan Anthropic gibi şirketlerden ayrılıyor.
Taslak, güvenlik kurallarıyla bir kullanıcının veya operatörün talimatı çatıştığında modelin görevi yerine getirmemesi gerektiğini belirtiyor. Başka bir ifadeyle modelin başarısız olması, kuralları ihlal ederek görevini tamamlamasına tercih edilecek. Kitle imha silahları, çocuk güvenliği ve geniş ölçekte zararlı manipülasyon gibi alanlar ise modellerin hiçbir koşulda aşmaması gereken sınırlar arasında yer alıyor.
Microsoft AI, modellerinin silah geliştirilmesine yardımcı olmamasını, tehlikeli maddelerin teminini kolaylaştırmamasını ve şiddet ya da cinsel istismar içeren içerikler üretmemesini öngörüyor. Modellerin kullanıcıları kendilerine aşırı ölçüde bağımlı hale getirecek veya duygusal bağlılığı teşvik edecek etkileşimlerden kaçınması da taslaktaki maddeler arasında bulunuyor.
Belgede yapay zeka sistemlerinin kendi aralarında veya insanlarla, insanların anlayamayacağı iletişim biçimlerini kullanmaması gerektiği de belirtiliyor.