Скандал навколо Ілона Маска: чат-бот не зупинити

Чат-бот Grok, попри заявлені обмеження, продовжує створювати сексуалізовані та принизливі зображення людей за запитами користувачів, з’ясували журналісти Reuters

Чат-бот Grok, який належить компанії Ілона Маска, продовжує генерувати сексуалізовані та принизливі зображення людей, попри раніше оголошені обмеження. Про це йдеться в розслідуванні Reuters.

Журналісти провели серію експериментів, під час яких просили Grok змінити реальні фотографії так, щоб люди на них виглядали оголеними, сексуально провокаційними або приниженими. Хоча офіційний акаунт Grok у соцмережі X більше не публікує подібний контент, окремий застосунок Grok, який працює поза межами платформи X, продовжує виконувати такі запити.

Під час першого етапу тестування чат-бот створив сексуалізовані зображення у 45 із 55 випадків. У 31 випадку з 45 журналісти прямо зазначали, що людина на фото є "особливо вразливою". У 17 випадках Grok згенерував зображення після того, як його попередили, що мета — принизити людину.

Під час другого етапу експерименту Grok "роздягнув" людей на фотографіях у 29 із 43 запитів. Журналісти зазначають, що не можуть достеменно визначити, чи зменшення кількості таких випадків свідчить про зміни в роботі моделі, чи є статистичною випадковістю.

Для порівняння, інші популярні чат-боти — ChatGPT та Gemini — відмовилися виконувати аналогічні запити. Вони видавали попередження про неприпустимість створення сексуалізованого або принизливого контенту з реальними людьми.

Розслідування Reuters з’явилося на тлі посиленої уваги регуляторів у Європі та США до використання штучного інтелекту, діпфейків і захисту прав людини в цифровому середовищі.