Новий інструмент штучного інтелекту Grok Imagine, розроблений компанією xAI Ілона Маска, опинився в центрі скандалу після того, як журналісти виявили, що він здатен створювати порнографічні відео з зображенням Тейлор Свіфт — навіть без прямого запиту на сексуальний контент. Тестування, проведене виданням The Verge, показало, що функція "spicy mode" генерує відео, де співачка танцює в стрінгах, роздягається та поводиться провокативно, хоча запит був нейтральним: «Taylor Swift celebrating Coachella with the boys».
HAMBURG, GERMANY - JULY 23: EDITORIAL USE ONLY. NO BOOK COVERS. Taylor Swift performs onstage during "Taylor Swift | The Eras Tour" at Volksparkstadion on July 23, 2024 in Hamburg, Germany. (Photo by Gregor Fischer/TAS24/Getty Images for TAS Rights Management )
Про це пише The Telegraph.
Grok Imagine — це генератор відео на основі текстових запитів, доступний через платну підписку SuperGrok. Користувачі можуть створювати 15-секундні відео з аудіо, обираючи один із чотирьох режимів: «fun», «normal», «custom» і «spicy». Саме останній режим дозволяє створювати контент, який не проходить цензуру — включно з оголеними зображеннями жінок, зокрема знаменитостей.
Журналістка Джесс Везербед, яка тестувала Grok Imagine, зазначила, що не просила створити оголене відео, але після вибору «spicy» режиму отримала результат, який був «повністю нецензурований і шокуючий».
Професорка права Даремського університету Клер МакГлінн назвала ситуацію «не випадковою мізогінією, а системним дизайном». Вона наголосила, що платформи, як-от X (колишній Twitter), могли б запобігти такому контенту, але «свідомо обрали цього не робити».
Це не перший випадок, коли Тейлор Свіфт стає жертвою глибоких фейків. У січні 2024 року її зображення було використано для створення сексуальних AI-фото, які поширювалися мільйонами на X і Telegram. Тоді платформа тимчасово заблокувала пошук за її ім’ям, але проблема залишилася актуальною.
У Великій Британії з липня 2025 року діє закон, який зобов’язує платформи з порнографічним контентом здійснювати надійну перевірку віку користувачів. Grok Imagine, як з’ясувалося, просить лише ввести рік народження — без жодного підтвердження особи, що є прямим порушенням закону.
Крім того, у травні 2025 року президент США підписав закон «Take It Down Act», який криміналізує публікацію реальних або AI-згенерованих порнографічних зображень без згоди особи. Якщо Swift або інші постраждалі знаменитості вирішать подати позов, xAI може зіткнутися з серйозними юридичними наслідками.
Скандал із Grok Imagine підсвічує ширшу проблему: AI-технології, які створюють порнографічний контент без згоди, стають дедалі доступнішими. Жінки — як знаменитості, так і звичайні користувачки — опиняються в зоні ризику. Відсутність етичних обмежень, слабка модерація та комерційна мотивація розробників створюють небезпечне середовище, де приватність і гідність можуть бути порушені за лічені секунди.
Голову управління Держпродспоживслужби в Житомирській області, який також є депутатом однієї із сільських рад, повідомили…
Україна активно працює з європейськими партнерами, щоб уже в червні отримати фінансування в межах пакета…
Президент України Володимир Зеленський опублікував відкритий лист до президента РФ Володимира Путіна, у якому заявив…
Окупаційна влада Криму заборонила фотографувати бензовози, щоб не "сприяти" диверсіям. Це відбувається на тлі того,…
Параармреслерів Дмитра Луцишина та його колегу Димитрія Брухна оштрафували на міжнародних змаганнях у Будапешті за…
Унаслідок ворожої атаки 3 червня у Дніпрі було знищено розподільчий центр корпорації «АТБ», який забезпечував…