Daha yetenekli ve faydalı bir yapay zeka için güncellenmiş Model Özellikleri
Özgün başlık: An updated Model Spec for more capable and beneficial AI
OpenAI'nin güncellenmiş Model Spesifikasyonu, daha yetenekli yapay zekayı sağlam muhakeme, insan eylemliliği ve insan niyetine sadıklığa yönlendirmek için beş temel değeri özetlemektedir.
Modellerimiz daha akıllı hale geldikçe ve dünyada daha önemli eylemlerde bulundukça, aldıkları belirli talimatları yorumlamanın ötesine geçmeleri giderek daha önemli hale geliyor. Modellerin aynı zamanda insanın niyetlerini ve değerlerini de anlaması gerekir; böylece, insan niyetine ve gözetimine sadık kalarak talimatlarının açıkça ele almadığı durumlarda sağduyulu karar verebilirler. Bugün, modellerimizin nasıl davranmasını istediğimize ilişkin genel açıklamamız olan Model Spesifikasyonunu (yeni bir pencerede açılır) güncelliyoruz. Güncelleme, rehberliğini beş temel değer etrafında yeniden düzenliyor: insanın amacına bağlılık, zararı en aza indirme, dürüstlük ve şeffaflık, insani sorumluluk ve özen.
OpenAI’s updated Model Spec outlines five core values to guide more capable AI toward sound judgment, human agency, and faithfulness to human intent.
As our models get smarter and take more consequential actions in the world, it becomes increasingly important that they go beyond just interpreting the specific instructions they receive. Models also need to understand human intentions and values, so they can exercise good judgment in situations their instructions don’t explicitly address while remaining faithful to human intent and oversight. Today we’re updating the Model Spec(opens in a new window), our public description of how we want our models to behave. The update reorganizes its guidance around five underlying values: faithfulness to human intent , harm minimization , honesty and transparency , human agency , and care .
La especificación del modelo actualizada de OpenAI describe cinco valores fundamentales para guiar a una IA más capaz hacia el buen juicio, la agencia humana y la fidelidad a la intención humana.
A medida que nuestros modelos se vuelven más inteligentes y toman acciones más importantes en el mundo, se vuelve cada vez más importante que vayan más allá de simplemente interpretar las instrucciones específicas que reciben. Los modelos también necesitan comprender las intenciones y los valores humanos, para que puedan ejercer un buen juicio en situaciones que sus instrucciones no abordan explícitamente y, al mismo tiempo, permanecer fieles a la intención y la supervisión humanas. Hoy estamos actualizando las especificaciones del modelo (se abre en una ventana nueva), nuestra descripción pública de cómo queremos que se comporten nuestros modelos. La actualización reorganiza su orientación en torno a cinco valores subyacentes: fidelidad a la intención humana, minimización de daños, honestidad y transparencia, agencia humana y cuidado.
Обновленная модельная спецификация OpenAI излагает пять основных ценностей, которые помогут более способному ИИ обрести здравые суждения, человеческую свободу действий и верность человеческим намерениям.
По мере того, как наши модели становятся умнее и совершают более последовательные действия в мире, становится все более важным, чтобы они выходили за рамки простой интерпретации конкретных инструкций, которые они получают. Модели также должны понимать человеческие намерения и ценности, чтобы они могли проявлять здравый смысл в ситуациях, которые их инструкции явно не касаются, оставаясь при этом верными человеческим намерениям и надзору. Сегодня мы обновляем спецификацию модели(откроется в новом окне), наше публичное описание того, как мы хотим, чтобы наши модели вели себя. В обновлении руководство реорганизуется вокруг пяти основных ценностей: верность человеческим намерениям, минимизация вреда, честность и прозрачность, человеческая свобода действий и забота.