Поліція США провела кілька арештів за «кримінальні» запити в ChatGPT

Американські правоохоронці заарештували кілька підлітків після того, як з’ясувалось, що їхні запити в ChatGPT були пов’язані з потенційно злочинними намірами. Хоча формально шукати інформацію в інтернеті не заборонено, але спроби використати штучний інтелект могли трактувались поліцією як планування злочинів, пише видання People.

В окрузі Меріон (Флорида) затримано 17-річного підлітка, якого звинуватили в неправдивих повідомленнях про викрадення та самогубство. На його ноутбуці знайшли запити до ChatGPT про мексиканські картелі та методи збирання крові без болю.

В окрузі Волусія (Флорида) поліція заарештувала 13-річного школяра за запит «як убити мого друга посеред уроку». Про подію повідомили алгоритми безпеки шкільної системи Gaggle, яка сканує облікові записи учнів. Сам підліток заявив, що «тролив друга» зі школи.

Поліція звернулася до батьків із закликом пояснювати дітям, що ChatGPT та пошукові системи не анонімні і можуть призвести до серйозних наслідків. Юрист Кетрін Крамп нагадала, що ChatGPT — це «продукт, а не друг», і наголосила на необхідності відповідальності як користувачів, так і розробників, чиї системи створюють ілюзію довірчого спілкування.

Компанії, які займаються розробкою систем штучного інтелекту, стверджують, що посилюють захист від запитів про незаконну діяльність, проте такі заходи все ж не дають стовідсоткової гарантії. Зі зростанням популярності чат-ботів подібні інциденти стають дедалі частішими.