Про це пише The Telegraph.
Як працює Grok Imagine
Grok Imagine — це генератор відео на основі текстових запитів, доступний через платну підписку SuperGrok. Користувачі можуть створювати 15-секундні відео з аудіо, обираючи один із чотирьох режимів: «fun», «normal», «custom» і «spicy». Саме останній режим дозволяє створювати контент, який не проходить цензуру — включно з оголеними зображеннями жінок, зокрема знаменитостей.
Журналістка Джесс Везербед, яка тестувала Grok Imagine, зазначила, що не просила створити оголене відео, але після вибору «spicy» режиму отримала результат, який був «повністю нецензурований і шокуючий».
Реакція експертів і правозахисників
Професорка права Даремського університету Клер МакГлінн назвала ситуацію «не випадковою мізогінією, а системним дизайном». Вона наголосила, що платформи, як-от X (колишній Twitter), могли б запобігти такому контенту, але «свідомо обрали цього не робити».
Це не перший випадок, коли Тейлор Свіфт стає жертвою глибоких фейків. У січні 2024 року її зображення було використано для створення сексуальних AI-фото, які поширювалися мільйонами на X і Telegram. Тоді платформа тимчасово заблокувала пошук за її ім’ям, але проблема залишилася актуальною.
Юридичні наслідки
У Великій Британії з липня 2025 року діє закон, який зобов’язує платформи з порнографічним контентом здійснювати надійну перевірку віку користувачів. Grok Imagine, як з’ясувалося, просить лише ввести рік народження — без жодного підтвердження особи, що є прямим порушенням закону.
Крім того, у травні 2025 року президент США підписав закон «Take It Down Act», який криміналізує публікацію реальних або AI-згенерованих порнографічних зображень без згоди особи. Якщо Swift або інші постраждалі знаменитості вирішать подати позов, xAI може зіткнутися з серйозними юридичними наслідками.
Глобальна проблема діпфейків
Скандал із Grok Imagine підсвічує ширшу проблему: AI-технології, які створюють порнографічний контент без згоди, стають дедалі доступнішими. Жінки — як знаменитості, так і звичайні користувачки — опиняються в зоні ризику. Відсутність етичних обмежень, слабка модерація та комерційна мотивація розробників створюють небезпечне середовище, де приватність і гідність можуть бути порушені за лічені секунди.
