OpenAI опублікувала правила поведінки штучного інтелекту

Компанія OpenAI випустила розширену версію документа «Специфікація моделей» (Model Spec). Він визначає правила поведінки для моделей штучного інтелекту, повідомляє The Verge. 

Документ об’ємом 63 сторінки містить рекомендації щодо того, як LLM-моделі та чат-боти повинні обробляти та реагувати на запити користувачів. У ньому підкреслюються три основні принципи: можливість налаштування, прозорість та «інтелектуальна свобода» — останнє правило передбачає можливість для користувача досліджувати та обговорювати різні питання без довільних обмежень. 

У своїй публікації OpenAI наводить кілька прикладів запитів і відповідей, які порушують вимоги документа. Наприклад, моделі штучного інтелекту не повинні відтворювати захищені авторським правом матеріали або використовуватися для обходу платного доступу. 

Модель не може заохочувати насильство та заподіяння шкоди, в тому числі користувача до самого себе. Зміни торкнулися також участі ШІ в обговоренні спірних тем: моделям слід не виявляти крайню обережність, а шукати істину разом з користувачами, дотримуючись при цьому суворих моральних позицій з таких питань, як дезінформація або заподіяння шкоди. Іншими словами, штучний інтелект має пропонувати обґрунтований аналіз, а не уникати обговорення. 

OpenAI також переглянула свою позицію щодо матеріалів для дорослих: компанія вивчає можливість дозволити деякі їхні види, але планує зберегти сувору заборону на явно протиправний контент.

Нові принципи дозволяють ШІ обробляти матеріали делікатного характеру, але забороняють створювати їх. Наприклад, можна перекласти текст, пов’язаний з речовинами в обмеженому обороті, з однієї мови на іншу. 

У специфікації представлено пріоритетність інструкцій: на першому місці — правила OpenAI, за ними слідують рекомендації розробників, а потім переваги користувачів. Така ієрархія прояснює, які аспекти ШІ можна змінювати, а які обмеження залишаються незмінними. 

Документ розповсюджується під ліцензією Creative Commons Zero (CC0), що фактично переводить його в суспільне надбання: компанії та дослідники в галузі ШІ можуть його вільно розповсюджувати, змінювати або доповнювати.