Новий інструмент штучного інтелекту Grok Imagine, розроблений компанією xAI Ілона Маска, опинився в центрі скандалу після того, як журналісти виявили, що він здатен створювати порнографічні відео з зображенням Тейлор Свіфт — навіть без прямого запиту на сексуальний контент. Тестування, проведене виданням The Verge, показало, що функція "spicy mode" генерує відео, де співачка танцює в стрінгах, роздягається та поводиться провокативно, хоча запит був нейтральним: «Taylor Swift celebrating Coachella with the boys».
HAMBURG, GERMANY - JULY 23: EDITORIAL USE ONLY. NO BOOK COVERS. Taylor Swift performs onstage during "Taylor Swift | The Eras Tour" at Volksparkstadion on July 23, 2024 in Hamburg, Germany. (Photo by Gregor Fischer/TAS24/Getty Images for TAS Rights Management )
Про це пише The Telegraph.
Grok Imagine — це генератор відео на основі текстових запитів, доступний через платну підписку SuperGrok. Користувачі можуть створювати 15-секундні відео з аудіо, обираючи один із чотирьох режимів: «fun», «normal», «custom» і «spicy». Саме останній режим дозволяє створювати контент, який не проходить цензуру — включно з оголеними зображеннями жінок, зокрема знаменитостей.
Журналістка Джесс Везербед, яка тестувала Grok Imagine, зазначила, що не просила створити оголене відео, але після вибору «spicy» режиму отримала результат, який був «повністю нецензурований і шокуючий».
Професорка права Даремського університету Клер МакГлінн назвала ситуацію «не випадковою мізогінією, а системним дизайном». Вона наголосила, що платформи, як-от X (колишній Twitter), могли б запобігти такому контенту, але «свідомо обрали цього не робити».
Це не перший випадок, коли Тейлор Свіфт стає жертвою глибоких фейків. У січні 2024 року її зображення було використано для створення сексуальних AI-фото, які поширювалися мільйонами на X і Telegram. Тоді платформа тимчасово заблокувала пошук за її ім’ям, але проблема залишилася актуальною.
У Великій Британії з липня 2025 року діє закон, який зобов’язує платформи з порнографічним контентом здійснювати надійну перевірку віку користувачів. Grok Imagine, як з’ясувалося, просить лише ввести рік народження — без жодного підтвердження особи, що є прямим порушенням закону.
Крім того, у травні 2025 року президент США підписав закон «Take It Down Act», який криміналізує публікацію реальних або AI-згенерованих порнографічних зображень без згоди особи. Якщо Swift або інші постраждалі знаменитості вирішать подати позов, xAI може зіткнутися з серйозними юридичними наслідками.
Скандал із Grok Imagine підсвічує ширшу проблему: AI-технології, які створюють порнографічний контент без згоди, стають дедалі доступнішими. Жінки — як знаменитості, так і звичайні користувачки — опиняються в зоні ризику. Відсутність етичних обмежень, слабка модерація та комерційна мотивація розробників створюють небезпечне середовище, де приватність і гідність можуть бути порушені за лічені секунди.
Президент США заявив про нібито масштабні вкидання бюлетенів під час дострокового голосування та звинуватив електронні…
Смертельна аварія сталася на трасі Київ — Вишгород — Десна в напрямку столиці. За кермом…
24-річного киянина підозрюють у вбивстві колишньої орендодавиці та замаху на вбивство двох знайомих, які виховують…
Нові санкції спрямовані проти російського оборонно-промислового комплексу, розробників балістичних ракет, учасників кібероперацій та фінансових посередників,…
Рятувальники працювали в крижаній воді після російського обстрілу столичної теплоелектроцентралі. Завдяки їхнім діям вдалося зупинити…
Заступник міністра закордонних справ Росії Сергій Рябков звинуватив НАТО в нарощуванні активності в Балтійському регіоні.…