CEO OpenAI Сем Альтман сильно занепокоєний щодо дружби між людьми та штучним інтелектом.
Про це він розповів під час події Tech Live у Лагуна-Біч, повідомляє Insider.
«Особисто я дійсно маю глибокі побоювання щодо цього бачення майбутнього, де всі дуже ближче до “друзів зі штучним інтелектом”, а не до своїх друзів-людей», — заявив Сем Альтман.
Альтман уточнив, що, хоча він і не хоче такого майбутнього, цього можуть хотіти інші. Він також сказав, що важливо розрізняти взаємодію з ШІ та людьми.
«Ми навмисно назвали його ChatGPT, а не ім’ям людини», — сказав Альтман.
Він додав, що OpenAI дає зрозуміти користувачам, що вони не розмовляють з людиною.
Коментарі Альтмана з’явилися на тлі зростання кількості компаній, які випускають чат-ботів із «людською особистістю» та дружелюбністю як ключовою характеристикою.
Серед них «дружній» чат-бот Claude від Anthropic AI, чат-боти Character.AI зі створеними користувачами особистостями та ШІ-помічники Meta, прототипами яких є реальні особистості.
Цікаво, що Сем Альтман не самотній у своїй стурбованості щодо дружби людей і чат-ботів.
«Наш помічник зі штучним інтелектом називається Meta AI. Він так само нейтральний, має нейтральний тон і нейтральну особистість», — сказав директор із продуктів Meta Кріс Кокс.
Відповідно до звіту, опублікованого аналітичним центром Public Citizen , люди схильні антропоморфізувати об’єкти, в тому числі і ШІ. У звіті вказано, що компанії, які розгортають чат-ботів, можуть використовувати довіру користувачів і маніпулювати їхніми емоціями.
Нагадаємо, не так давно суд у Лондоні засудив до дев’яти років позбавлення волі 21-річного сикха Джасванта Сінгха Чейла, який у грудні 2021 року намагався потрапити до Віндзорського замку та вбити королеву Єлизавету ІІ з арбалета.
Він спілкувався з чат-ботом зі штучним інтелектом, якого він вважав своєю дівчиною та був переконаний, що намагався вбити покійну королеву після спілкування з цією програмою.
Цей випадок показує велику проблему стосовно того, як люди з психічними проблемами взаємодіють зі штучним інтелектм, який до цього може бути й не готовий.
Читайте також:
16-річна дівчина заснувала ШІ-стартап Delv.AI і вже підняла $450 тис.
Meta запускає створення чат-ботів з ШІ для Instagram, Facebook і WhatsApp
Протягом наступних п’яти років у кожного з’явиться свій ШІ-помічник — співзасновник Google DeepMind
Компанія JetBrains анонсувала оновлення для Rider — свого кросплатформного IDE для розробників .NET та ігор…
Ілон Маск запропонував провести публічний конкурс з програмування між Grok 5 від xAI та колишнім…
Хоча JavaScript досі є найбільшою категорією в українському IT за кількістю кандидатів (13% від усього…
На LinkedIn виявили небезпечну хакерську кампанію, націлену на розробників. Кіберзлочинці розсилають фейкові запрошення на роботу…
Інструмент агентного кодування Claude Code від компанії Anthropic став доступним у веб-версії та мобільному додатку.…
Компанія JetBrains оприлюднила результати щорічного опитування Developer Ecosystem Survey про стан на ринку розробки програмного…