Yapay zeka politikası penceresi açık. Harekete geçmeliyiz

Yapay zeka yeteneklerinde yeni bir bölüme ulaştık ve bu, yapay zeka politikasında yeni bir bölüm gerektiriyor. Hiçbir şirket, sektör veya hükümet bu zorluğun üstesinden tek başına gelemez. Bu anı politika mükemmelliği yerine anlamlı eyleme yönelik bir önyargıyla karşılamamız gerekiyor. Yaptığımız şey şu: 1. Zorunlu ulusal yapay zeka güvenliği gerekliliklerini zorlamak. Zorunlu, yeteneğe dayalı ulusal yapay zeka güvenlik düzenlemesi konusunda Kongre ile birlikte çalışmak istiyoruz. 2. Eyaletlerdeki ivmeyi sürdürmek. Kongre harekete geçene kadar daha geniş yapay zeka güvenlik ekosistemini güçlendiren eyalet mevzuatını desteklemeye devam edeceğiz. Bugün, dört Kaliforniya yasa tasarısını desteklediğimizi duyuruyoruz: Bağımsız güvenlik değerlendirmeleri için genel altyapıya ilişkin SB 813, yapay zeka denetçi standartlarına ilişkin AB 1405, gençlerin korunmasına ilişkin SB 1119 ve yapay zeka destekli biyolojik tehditlere karşı önlemlere ilişkin AB 1864. 3. Endüstrinin yönlendirdiği standartların geliştirilmesi. Sınır yapay zeka standartlarını geliştirmek için diğer sınır laboratuvarlarıyla birlikte çalışacağız ve hükümet desteği olsun ya da olmasın gön��llü bir çaba göstereceğiz. 4. Küresel standartların oluşturulması. Yeteneklerin ölçülmesi, riskin yönetilmesi, insan kontrolünün korunması ve model yeteneklerinin ilerlemesinin yavaşlatılması anlamına gelse bile, gelişimin ne zaman ve nasıl yavaşlaması veya durması gerektiğinin belirlenmesi konularında uyumlu uluslararası yaklaşımları savunacağız.

Baş Bilim Adamımız Jakub Pachocki kısa bir süre önce, özyinelemeli kişisel gelişim potansiyeli de dahil olmak üzere makine zekasının hızlı yükselişinin "aşırı dikkatlilik" gerektirdiğini yazdı. OpenAI Hizalama ve izleme, savunma sistemleri oluşturma ve gerektiğinde gelişimi yavaşlatma konularında teknik çözümler aramaya devam edecektir. Ancak bireysel laboratuvarlardaki teknik çalışmalar yeterli olmayacak. Ayrıca gelişimin ne zaman yavaşlaması veya durması gerektiği de dahil olmak üzere ortak standartlara ihtiyacımız var. Riskler çok büyük. Gelişmiş yapay zeka, yeni ilaçların geliştirilmesini hızlandırabilir, kritik altyapıyı güçlendirebilir, ekonomik fırsatları genişletebilir ve nesiller boyu insan çabalarına direnen bilimsel sorunların çözülmesine yardımcı olabilir. Ancak modelleri daha kullanışlı hale getiren yetenekler aynı zamanda riskleri de beraberinde getiriyor ve bunlar birkaç öncü laboratuvarla sınırlı kalmayacak. Açık modeller de dahil olmak üzere dünya çapında geliştirilen modeller, günümüzün sınırlarına giderek daha fazla yaklaşacak ve geniş çapta kullanılabilir hale gelecektir.