«Может выйти из-под контроля»: Билл Гейтс оценил будущее ИИ

Основатель и крупнейший акционер Microsoft Билл Гейтс считает, что искусственный интеллект является важнейшим изобретением последних десятилетий и может существенно улучшить жизнь людей. Но может и выйти из-под контроля.

Об этом он написал в своем блоге.

Повышение производительности

По мнению Билла Гейтса, существует много задач, нуждающихся в принятии решений, а не способности постоянно учиться. К примеру, это обслуживание или обработка документов (кредиторская задолженность, бухгалтерский учет или страховые претензии).

Поэтому по мере удешевления вычислительной мощности ИИ способность GPT выражать идеи все больше будет похожа на наличие работника, который поможет в выполнении различных задач. Microsoft описывает это как наличие второго пилота.

«Полностью интегрированный в такие продукты, как Office, искусственный интеллект улучшит вашу работу, например, помогая писать электронные письма и управлять входящими», — заявил Билл Гейтс.

По его словам, впоследствии при взаимодействии компьютером больше не потребуется щелкать или касаться меню и диалоговых окон. Вместо этого можно будет написать запрос на простом языке.

Кроме того, он считает, что прогресс в ИИ позволит создать персонального агента.

«Думайте об этом как о цифровом персональном помощнике: он будет просматривать ваши последние электронные письма, знать о встречах, которые вы посещаете, читать то, что вы читаете, и то, о чем вы не хотите беспокоиться. Это улучшит вашу работу над задачами, которые вы хотите выполнять и освободит вас от тех, которые вы не хотите выполнять», — считает Билл Гейтс.

Риски и проблемы

У современного ИИ достаточно много проблем — плохое понимание контекста, выдумывание, отсутствие абстрактного мышления.

Но неправильные ответы на математические задачи (требующие астрактного мышления), по мнению Билла Гейтса, еще не являются фундаментальным ограничением искусственного интеллекта.

Но есть и нетехнические проблемы. Есть угроза, что ИИ выйдет из-под контроля, когда люди, вооруженные ИИ, начнут его использовать в плохих целях.

«Может ли машина решить, что люди являются угрозой, заключить, что ее интересы отличаются от наших, или просто перестать заботиться о нас?» — спрашивает Билл Гейтс.

И потому, если говорить о сильном ИИ, основатель Microsoft отмечает, что он, вероятно, сможет установить свои цели. И некоторые вопросы будут становиться более острыми:

• Какими будут эти цели?;
• Что произойдет, если они противоречат интересам человечества?;
• Стоит ли пытаться предотвратить разработку сильного ИИ?

Но опять же, пока ни один из прорывов последних месяцев не приблизил нас существенно ближе к сильному ИИ. Искусственный интеллект до сих пор не контролирует физический мир и не может установить собственные цели.

Чего ждать?

Билл Гейтс предсказывает технологический взрыв в ближайшие годы: многие компании работают над новыми способами использования ИИ, а также над способами усовершенствования самой технологии. К примеру, они разрабатывают новые чипы, которые обеспечат огромное количество вычислительной мощности, необходимой для искусственного интеллекта.

Со стороны программного обеспечения улучшатся алгоритмы, управляющие обучением ИИ.

Но поскольку тема искусственного интеллекта будет доминировать в общественных дискуссиях в обозримом будущем, основатель Microsoft предложил три принципа, которыми следует руководствоваться.

1. Человечество должно попытаться сбалансировать недостатки и преимущества ИИ.
2. Рынок не будет создавать продукты и услуги ИИ, которые помогут беднейшим. Нужна помощь правительств и неправительственных организаций.
3. Люди должны помнить, что они лишь в начале того, чего может достичь ИИ: «любые ограничения, которые он имеет сегодня, исчезнут, прежде чем мы осознаем».