ChatGPT отримав «червону кнопку», яка напише вашим друзям

Компанія OpenAI представила нову функцію безпеки для ChatGPT під назвою «Довірена особа» (Trusted Contact). Цей інструмент розроблений для надання підтримки користувачам, чиї повідомлення вказують на ризик самоушкодження або перебування у стані гострої ментальної кризи.

Як працює «Довірена особа»

• Механізм роботи: Якщо алгоритми ChatGPT виявляють у діалозі ознаки серйозного наміру завдати собі шкоди, система зможе надіслати повідомлення заздалегідь обраному контакту. Це дозволяє залучити реальну допомогу в ситуаціях, коли текстових порад від штучного інтелекту може бути недостатньо.
• Приватність та добровільність: Функція є повністю опціональною (opt-in). Користувачі мають самостійно ввімкнути її в налаштуваннях та вказати контактні дані людини, якій вони довіряють. OpenAI наголошує, що дані контактів використовуються виключно для цієї функції безпеки.
• Експертна підтримка: Розробка велася у співпраці з фахівцями з психічного здоров’я та організаціями, що займаються запобіганням самогубствам. Мета — створити міст між цифровою взаємодією та реальною соціальною підтримкою.
• Додаткові ресурси: Окрім сповіщення довіреної особи, ChatGPT продовжуватиме пропонувати контакти гарячих ліній допомоги та професійні ресурси, що відповідають регіону перебування користувача.

Контекст та значення

Функція «Довірена особа» логічно продовжує захисні заходи, які OpenAI запровадила у вересні минулого року по відношенню до акаунтів неповнолітніх осіб. Тобі компанія надала батькам можливість частково контролювати облікові записи своїх дітей-підлітків, зокрема отримувати сповіщення в разі серйозної загрози безпеці дитини.

Цей крок OpenAI є частиною стратегії технологічних компаній щодо посилення відповідальності за безпеку користувачів. Оскільки люди дедалі частіше використовують чат-боти для обговорення особистих проблем, виникає потреба в ефективних протоколах реагування на кризові стани.

Функція «Довірена особа» спрямована на те, щоб перетворити ШІ з пасивного співрозмовника на інструмент, який може сприяти отриманню своєчасної допомоги в критичний момент. Наразі очікується поступове впровадження цієї опції для всіх користувачів ChatGPT.

Нагадаємо, не так давно експерт Tom’s Guide назвав 10 промптів, які миттєво покращують відповіді ChatGPT.

Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn