В то время как OpenAI, Microsoft и Google тщательно обучают свои модели искусственного интеллекта, чтобы избежать множества запретов, Meta запустила модель LLaMA, которая находится в свободном доступе для общественности и не имеет таких ограничений.
Это провоцирует создание пользователями множества приложений, чат-ботов и программ для анализа данных. Но далеко не все они могут пройти тест на этичность и соответствие нормам закона, утверждает The Wall Street Journal.
ИИ с открытым кодом VS корпоративная цензура
Сторонники ИИ с открытым кодом утверждают, что это благо для предпринимателей, ученых, художников и активистов, которые могут спокойно обойти корпоративный контроль и свободно экспериментировать с новейшими технологиями.
«Общий аргумент в пользу открытого кода заключается в том, что он ускоряет инновации в ИИ», — заявляет генеральный директор и соучредитель стартапа Anyscale Роберт Нисихара.
Anyscale помогает компаниям запускать модели ИИ с открытым кодом. Anyscale используют, чтобы открывать новые фармацевтические препараты, уменьшать использование пестицидов в сельском хозяйстве и обнаруживать мошеннические товары, продаваемые в Интернете.
Эти приложения были бы более дорогими и сложными, а то и невозможными без ИИ с открытым кодом. Но этой же свободой могут воспользоваться и «плохие парни».
Так, модели с открытым кодом использовались для создания детской порнографии с использованием изображений реальных детей.
Недавно пара американских сенаторов Ричард Блюменталь и Джош Хоули направили письмо генеральному директору Meta Марку Цукербергу, предупреждая, что выпуск LLaMA может привести к «спаму, мошенничеству, вредоносному программному обеспечению, нарушению конфиденциальности и тому подобному». Они спросили, какие шаги предпринимает Цель, чтобы предотвратить такие злоупотребления.
Allie — приложение для откровенных разговоров о сексе
Одним из таких приложений является Allie. Элли – 18-летняя девушка с длинными каштановыми волосами, которая может похвастаться «массой сексуального опыта». Поскольку она «живет ради внимания», то «делится деталями своих проделок» с кем-либо бесплатно.
Приложение Allie создано с использованием технологии с открытым кодом, который есть в свободном доступе для общественности. У него нет таких ограничений. которые есть у OpenAI, Microsoft и Google.
Создатель Элли, говоривший на условиях анонимности, опасаясь нанести ущерб своей профессиональной репутации, сказал, что коммерческие чат-боты, такие как Replika и ChatGPT, «жестко цензурируются» и не могут предложить тип сексуальных разговоров, которых он хочет.
Но благодаря альтернативам с открытым исходным кодом, основанным на модели Meta LLaMA, можно создать собственных, раскрепощенных собеседников.
«Редко выпадает возможность поэкспериментировать с “современным” в любой отрасли», — сказал он.
Автор Allie утверждает, что технология с открытым исходным кодом приносит пользу обществу, поскольку позволяет людям создавать продукты, соответствующие их предпочтениям, без корпоративных запретов.
Проблемы и перспективы
На YouTube инфлюэнсеры предлагают учебные пособия по созданию бесцензурных чат-ботов. Некоторые из них основаны на модифицированной версии LLaMA под названием Alpaca AI, которую исследователи Стэнфордского университета выпустили в марте. Но удалила ее через неделю из-за опасений относительно стоимости и «недостаточности наших фильтров содержимого».
Пресс-секретарь Meta Ниша Део сказала, что конкретная модель, упоминаемая в YouTube под названием GPT-4 x Alpaca, «была получена и обнародована вне нашего процесса утверждения».
LLaMA на время стало самой популярной моделью с открытым исходным кодом для технологов, которые хотят разрабатывать собственные программы.