Інженер Google намагався переконати світ, що чат-бот розумний — його усунули. А що з ботом?

Світові ЗМІ облетіла історія інженера Google Блейка Лемуана: чоловік місяцями листувався з чат-ботом і вирішив, що штучний інтелект має особистість. Колеги поставилися до цієї заяви скептично. Чим закінчилася історія, розповідаємо далі у Highload.

Про чат-бот

LaMDA – мовна модель для діалогових програм. Це розробка Google, яку минулого року в компанії назвали «революційною технологією спілкування» та «дослідницьким проривом». Створення розумного чат-бота не було прямою метою, цьому сприяв винахід методів машинного навчання, які допомагають краще розуміти призначення пошукових запитів.

У блогу корпорації розповіли, що розмовні навички LaMDA формувалися роками. Як і багато нових мовних моделей, включаючи BERT та GPT-3, вона побудована на Transformer — архітектурі нейронної мережі, яку Google Research винайшла та надала у відкритий доступ у 2017 році.

Ця архітектура створює модель, яку можна навчити читанню багатьох слів (речень або абзаців), звертаючи увагу на те, як ці слова співвідносяться одне з одним, а потім передбачаюти, які слова будуть наступними. На відміну від інших мовних моделей, LaMDA навчається діалогу.

Відносини героя з LaMDA

Блейк Лемуан — співробітник Google та християнський священик. Він почав спілкуватися з інтерфейсом LaMDA минулої осені в рамках своєї роботи в організації Google Responsible AI, пише Insider. Лемуан розмовляв з LaMDA про релігію, свідомість та закони робототехніки. LaMDA написала, що вважає себе особистістю та хоче бути визнаним співробітником Google, а не її власністю.

На цю тему Лемуан дав інтерв’ю газеті The Washington Post і написав кілька блогів на Medium. Були також опубліковані стенограми (цитати) діалогів з ШІ, щоб читачі могли переконатися, що бот має власний розум і душу. Блейк зазначив, що «LaMDA завжди виявляла величезне співчуття та турботу про людство в цілому та про мене зокрема».

Реакція корпорації

Лемуан піднімав ідею розумності LaMDA перед вищим керівництвом Google, починаючи з квітня 2022 року, пише The Verde. Але виявився менш переконливим оратором, ніж ШІ, й інженера усунули від роботи — відправили в оплачувану адміністративну відпустку через порушення політики конфіденційності компанії (вже після інтерв’ю).  

«Немає жодних доказів того, що LaMDA має розум, але є багато доказів проти цього», — заявив представник Google Брайан Гебріел.

Він уточнив, що бот імітує обмін репліками, що зустрічається в мільйонах речень, і може торкатися в розмові будь-якої фантастичної теми. З LaMDA, окрім Лемуана, спілкувалися сотні дослідників та інженерів, і ніхто з них не робив тверджень про наявність власного розуму або душі в ШІ. Лінгвісти WaPo наголосили, що неправильно прирівнювати переконливі письмові відповіді до розуму.

Чим усе закінчилося

Лемуан запросив юриста представляти систему LaMDA (так, вона матиме власного адвоката) і поговорив з представником судового комітету Палати представників про неетичні дії в Google.

Тим часом MSN опублікував статтю із твердженням, що стенограма бесід з ШІ не зовсім достовірна — вона була відредагована і перебудована для зручності читання. Тобто розмова велася не так вже й складно, як показано у стенограмі.