Єврокомісія відкрила розслідування щодо чат-бота Grok через «роздягання» людей, зокрема неповнолітніх, на фотографіях

Європейська комісія повідомила про початок офіційного розслідування проти платформи X у межах Закону про цифрові послуги (DSA).

Предметом перевірки стала робота чат-бота Grok, зокрема функції, які користувачі застосовували для «роздягання» людей на фотографіях.

Як зазначають у Єврокомісії, розслідування має встановити, чи виконала компанія X свої зобов’язання за DSA щодо запобігання поширенню незаконного та шкідливого контенту. Окрему увагу приділять тому, як після запуску Grok працюють системи рекомендацій платформи та який вплив вони мають на користувачів.

Grok опинився в центрі міжнародного скандалу у січні після того, як з’ясувалося: чат-бот використовували для створення сексуалізованих зображень жінок і дітей. За даними журналістських розслідувань, із близько 20 тисяч зображень, згенерованих у період з 25 грудня по 1 січня, приблизно 2% містили зображення дітей, частина з яких — у прозорому одязі або майже оголеними.

Після хвилі критики X обмежила функцію генерації зображень у Grok, залишивши її доступною лише для платних підписників. Втім, журналісти з’ясували, що в окремому застосунку Grok, де зображення не публікуються публічно, можливість створювати сексуалізований контент зберігалася для всіх користувачів.

У середині січня компанія X заявила про повну заборону для Grok редагувати або створювати зображення людей у купальниках і білизні — обмеження поширилися навіть на платні акаунти.

Навіть колишня коханка Маска судиться з його компанією через «роздягання» її фото ШІ-ботом Grok. Йдеться про Ешлі Сент-Клер — матір одного із синів Ілона Маска.