Рада консультантів OpenAI категорично проти ідеї Альтмана додати в ChatGPT «еротичні чати»

Пропозиція Сема Альтмана додати в ChatGPT режим для дорослих зіткнулась з рішучою протидією з боку Ради консультантів компанії. За даними WSJ, члени Ради, які мають досвід у таких галузях, як психологія та когнітивна нейронаука, висловились проти цієї ідеї.

Джерела описують, що на січневому засіданні Ради консультантів її учасники були одностайні та розлючені. Вони попередили, що еротика в поєданні зі штучним інтелектом може сприяти нездоровій емоційній залежності користувачів від ChatGPT, а неповнолітні все одно знайдуть способи доступу до секс-чатів.

Один з консультантів заявив, що OpenAI ризикує створити «сексуального тренера з самогубств». При цьому він посилався на випадки, коли користувачі ChatGPT кінчали з життям після встановлення міцних стосунків з чат-ботом.

Тиждень тому OpenAI оголосила про відкладення запуску режиму для дорослих, який був запланований на перший квартал. Головна причина — технічні та етичні складнощі, пов’язані з ідентифікацією віку користувачів. Але компанія чітко дала зрозуміти, що планує запровадити його врешті-решт. 

Зараз OpenAI працює над новою системою прогнозування віку, яка на даний час неправильно класифікує неповнолітніх як дорослих приблизно у 12% випадків. Такий рівень помилок у ChatGPT може дозволити мільйонам дітей брати участь в еротичних чатах.

Після запуску режиму для дорослих OpenAI планує дозволити текстові розмови, але обмежить здатність ChatGPT створювати еротичні зображення, аудіо чи відео. 

Однак навіть враховуючи ці обмеження, співробітники OpenAI виявили кілька ризиків, включаючи потенціал компульсивного використання, емоційну надмірну залежність від чат-бота, прагнення до більш екстремального або табуйованого контенту та витіснення соціальних та романтичних стосунків з реального життя в онлайн, згідно з документами, з якими ознайомились у The Wall Street Journal.

Нагадаємо, що OpenAI розробляє власного конкурента GitHub.

Підписуйтесь на нас у соцмережах: Telegram | Facebook | LinkedIn