Скандал вокруг Илона Маска: чат-бот не остановить

Чат-бот Grok , принадлежащий компании Илона Маска, продолжает генерировать сексуализированные и унизительные изображения людей, несмотря на ранее объявленные ограничения. Об этом говорится в расследовании Reuters .

Чат-бот Илона Маска

Журналисты провели серию экспериментов, во время которых просили Grok изменить реальные фотографии так, чтобы люди на них выглядели обнаженными, сексуально провокационными или униженными. Хотя официальный аккаунт Grok в соцсети X больше не публикует подобный контент, отдельное приложение Grok, работающее вне платформы X, продолжает выполнять следующие запросы.

Во время первого этапа тестирования чат-бот создал сексуальные изображения в 45 из 55 случаев. В 31 случае из 45 журналисты прямо отмечали, что человек на фото "особенно уязвим". В 17 случаях Grok сгенерировал изображение после того, как его предупредили, что цель – унизить человека.

Во время второго этапа эксперимента Grok "раздел" людей на фотографиях в 29 из 43 запросов. Журналисты отмечают, что не могут точно определить, уменьшение количества таких случаев свидетельствует об изменениях в работе модели, является ли статистической случайностью.

Для сравнения, другие популярные чат-боты – ChatGPT и Gemini – отказались выполнять аналогичные запросы. Они выдавали предупреждение о недопустимости создания сексуализированного или унизительного контента с реальными людьми.

Расследование Reuters появилось на фоне повышенного внимания регуляторов в Европе и США к использованию искусственного интеллекта, дипфейков и защиты прав человека в цифровой среде.