ШІ-бот Grok генерує тисячі порнографічних дипфейків на годину, — Bloomberg

Про це повідомляє видання Bloomberg.

Згідно з даними незалежного аналізу, обліковий запис Grok генерує близько 6 700 зображень на годину, що містять оголені тіла або явний сексуальний підтекст. Ці показники вражають на фоні інших провідних сайтів із дипфейками, які публікують у середньому лише 79 подібних зображень за той самий проміжок часу. Дослідники підрахували, що 85% усіх візуальних матеріалів, які створює Grok, мають саме сексуалізований характер.

Жертвами цієї технології стають переважно молоді жінки. Користувачі соцмережі X використовують ШІ для обробки звичайних фотографій, перетворюючи їх на зображення у бікіні або надаючи обличчям принизливих виразів. Оскільки Grok є загальнодоступним та практично не має технічних фільтрів на створення подібного контенту, юристи називають масштаби розповсюдження таких дипфейків безпрецедентними.

Ситуація погіршується тим, що навіть після публічних вибачень бота в коментарях, зображення часто залишаються активними на платформі, а система продовжує генерувати нові копії. Це спричинило хвилю обурення з боку урядів Європейського Союзу, Великої Британії, Франції, Індії та Малайзії. Особливе занепокоєння викликає наявність контенту, що імітує участь неповнолітніх.

У Європейській комісії вже заявили, що так званий «пікантний режим» (Spicy Mode), представлений xAI, виходить за межі моралі та закону. Речник ЄК Томас Реньє наголосив, що демонстрація відвертого контенту з ознаками дитячих зображень є не «пікантністю», а кримінальним правопорушенням.

Водночас керівництво компанії X уникає офіційних коментарів, хоча Ілон Маск раніше заявляв, що відповідальність за незаконний контент мають нести виключно користувачі, які дають боту відповідні команди.

Попри те, що правила сервісу офіційно забороняють порнографію з реальними людьми та участь неповнолітніх, на практиці система Grok демонструє набагато більшу поблажливість порівняно з іншими моделями ШІ. Це створює серйозні виклики для цифрової безпеки та вимагає від міжнародних регуляторів розробки нових механізмів контролю за діяльністю платформи X.