Sam Altman'ı işten çıkaran OpenAI yönetim kurulu üyesi, yapay zeka CEO'larına hala güvenemeyeceğimizi söylüyor

Özgün başlık: The OpenAI board member who fired Sam Altman says we still can t trust AI CEOs
Bugün Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi'nin genel müdürü Helen Toner ile konuşuyorum. Bu bölüm, gerçek hayatta yapay zeka hakkındaki serimizin ikinci kısmıdır. Helen, yapay zeka güvenliği ve politikası camiasında tanınmış bir isim, ancak belki de en çok Sam Altman'ı kovma yönünde oy kullanan dört yönetim kurulu üyesinden biri olduğu OpenAI yönetim kurulunda görev yapmasıyla tanınıyor. Artık bazen "ani darbe" olarak anılan bu olay, Sam'in CEO olarak geri dönmesi, Helen'in istifa etmesi ve yeni bir yönetim kurulunun seçilmesiyle sona erdi.
OpenAI o zamandan beri tamamen yeniden yapılandırıldı. Ancak Helen ve yönetim kurulunun ne yapması gerektiğini hatırlamakta fayda var: OpenAI'nin kar amacı gütmeyen yönetim kurulu, şirketin kârı ve büyümeyi güvenlikten önce önceliklendirerek güvenli yapay zeka oluşturma misyonuna ihanet etmediğinden emin olmak için özel olarak vardı.
Today, I’m talking with Helen Toner, the executive director of the Center for Security and Emerging Technology at Georgetown University. This episode is part two of our series on AI in real life. Helen is a well-known figure in the AI safety and policy community, though she is perhaps best known for having served on the board of OpenAI, when she was one of four board members who voted to fire Sam Altman . That incident, now sometimes referred to as “the blip,” ended with Sam coming back as CEO, Helen resigning, and a new board of directors.
OpenAI has since restructured entirely . But it’s worth remembering what Helen and the board were supposed to do: OpenAI’s nonprofit board existed specifically to make sure the company didn’t betray its mission to build safe AI by prioritizing profit and growth over safety.
Hoy hablo con Helen Toner, directora ejecutiva del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown. Este episodio es la segunda parte de nuestra serie sobre la IA en la vida real. Helen es una figura muy conocida en la comunidad de políticas y seguridad de la IA, aunque quizás sea más conocida por haber formado parte de la junta directiva de OpenAI, cuando fue uno de los cuatro miembros de la junta que votaron a favor de despedir a Sam Altman. Ese incidente, ahora denominado a veces “el problema”, terminó con el regreso de Sam como director ejecutivo, la renuncia de Helen y una nueva junta directiva.
Desde entonces, OpenAI se ha reestructurado por completo. Pero vale la pena recordar lo que se suponía que debían hacer Helen y la junta directiva: la junta sin fines de lucro de OpenAI existía específicamente para garantizar que la empresa no traicionara su misión de crear una IA segura al priorizar las ganancias y el crecimiento sobre la seguridad.
Сегодня я беседую с Хелен Тонер, исполнительным директором Центра безопасности и новых технологий Джорджтаунского университета. Этот эпизод — вторая часть нашей серии об искусственном интеллекте в реальной жизни. Хелен — известная фигура в сообществе, занимающемся безопасностью и политикой искусственного интеллекта, хотя, пожалуй, наиболее известна она тем, что работала в совете директоров OpenAI, когда она была одной из четырех членов совета, проголосовавших за увольнение Сэма Альтмана. Этот инцидент, который сейчас иногда называют «всплеском», закончился тем, что Сэм вернулся на пост генерального директора, Хелен ушла в отставку и появился новый совет директоров.
OpenAI с тех пор полностью реструктурировался. Но стоит помнить, что должны были делать Хелен и совет директоров: совет некоммерческой организации OpenAI существовал специально для того, чтобы следить за тем, чтобы компания не предала свою миссию по созданию безопасного ИИ, отдавая приоритет прибыли и росту над безопасностью.