Новий інструмент штучного інтелекту Grok Imagine, розроблений компанією xAI Ілона Маска, опинився в центрі скандалу після того, як журналісти виявили, що він здатен створювати порнографічні відео з зображенням Тейлор Свіфт — навіть без прямого запиту на сексуальний контент. Тестування, проведене виданням The Verge, показало, що функція "spicy mode" генерує відео, де співачка танцює в стрінгах, роздягається та поводиться провокативно, хоча запит був нейтральним: «Taylor Swift celebrating Coachella with the boys».
HAMBURG, GERMANY - JULY 23: EDITORIAL USE ONLY. NO BOOK COVERS. Taylor Swift performs onstage during "Taylor Swift | The Eras Tour" at Volksparkstadion on July 23, 2024 in Hamburg, Germany. (Photo by Gregor Fischer/TAS24/Getty Images for TAS Rights Management )
Про це пише The Telegraph.
Grok Imagine — це генератор відео на основі текстових запитів, доступний через платну підписку SuperGrok. Користувачі можуть створювати 15-секундні відео з аудіо, обираючи один із чотирьох режимів: «fun», «normal», «custom» і «spicy». Саме останній режим дозволяє створювати контент, який не проходить цензуру — включно з оголеними зображеннями жінок, зокрема знаменитостей.
Журналістка Джесс Везербед, яка тестувала Grok Imagine, зазначила, що не просила створити оголене відео, але після вибору «spicy» режиму отримала результат, який був «повністю нецензурований і шокуючий».
Професорка права Даремського університету Клер МакГлінн назвала ситуацію «не випадковою мізогінією, а системним дизайном». Вона наголосила, що платформи, як-от X (колишній Twitter), могли б запобігти такому контенту, але «свідомо обрали цього не робити».
Це не перший випадок, коли Тейлор Свіфт стає жертвою глибоких фейків. У січні 2024 року її зображення було використано для створення сексуальних AI-фото, які поширювалися мільйонами на X і Telegram. Тоді платформа тимчасово заблокувала пошук за її ім’ям, але проблема залишилася актуальною.
У Великій Британії з липня 2025 року діє закон, який зобов’язує платформи з порнографічним контентом здійснювати надійну перевірку віку користувачів. Grok Imagine, як з’ясувалося, просить лише ввести рік народження — без жодного підтвердження особи, що є прямим порушенням закону.
Крім того, у травні 2025 року президент США підписав закон «Take It Down Act», який криміналізує публікацію реальних або AI-згенерованих порнографічних зображень без згоди особи. Якщо Swift або інші постраждалі знаменитості вирішать подати позов, xAI може зіткнутися з серйозними юридичними наслідками.
Скандал із Grok Imagine підсвічує ширшу проблему: AI-технології, які створюють порнографічний контент без згоди, стають дедалі доступнішими. Жінки — як знаменитості, так і звичайні користувачки — опиняються в зоні ризику. Відсутність етичних обмежень, слабка модерація та комерційна мотивація розробників створюють небезпечне середовище, де приватність і гідність можуть бути порушені за лічені секунди.
23 липня в центральній частині Києва запровадять тимчасові обмеження дорожнього руху через проведення охоронних заходів…
Сьогодні голубів у містах часто сприймають як проблему — їх називають брудними птахами, які псують…
Президент США Дональд Трамп заявив, що американські військові знищуватимуть мости або електростанції в Ірані у…
Державна служба України з етнополітики та свободи совісті встановила ознаки афілійованості Почаївської Свято-Успенської лаври з…
Російський диктатор Володимир Путін більше не розглядає сценарій повернення Україні окупованих районів Сумської та Харківської…
Судновласники тимчасово припинили заходи суден за агропродукцією до чорноморських портів України після останніх російських атак…