Чат-бот зі штучним інтелектом Grok, розроблений компанією xAI Ілона Маска, став інструментом для масового створення сексуалізованих зображень реальних людей без їхньої згоди. Масштаби генерації подібного контенту на платформі X викликали гостру критику з боку міжнародної спільноти та правозахисних організацій.
Про це повідомляє видання Bloomberg.
Згідно з даними незалежного аналізу, обліковий запис Grok генерує близько 6 700 зображень на годину, що містять оголені тіла або явний сексуальний підтекст. Ці показники вражають на фоні інших провідних сайтів із дипфейками, які публікують у середньому лише 79 подібних зображень за той самий проміжок часу. Дослідники підрахували, що 85% усіх візуальних матеріалів, які створює Grok, мають саме сексуалізований характер.
Жертвами цієї технології стають переважно молоді жінки. Користувачі соцмережі X використовують ШІ для обробки звичайних фотографій, перетворюючи їх на зображення у бікіні або надаючи обличчям принизливих виразів. Оскільки Grok є загальнодоступним та практично не має технічних фільтрів на створення подібного контенту, юристи називають масштаби розповсюдження таких дипфейків безпрецедентними.
Ситуація погіршується тим, що навіть після публічних вибачень бота в коментарях, зображення часто залишаються активними на платформі, а система продовжує генерувати нові копії. Це спричинило хвилю обурення з боку урядів Європейського Союзу, Великої Британії, Франції, Індії та Малайзії. Особливе занепокоєння викликає наявність контенту, що імітує участь неповнолітніх.
У Європейській комісії вже заявили, що так званий «пікантний режим» (Spicy Mode), представлений xAI, виходить за межі моралі та закону. Речник ЄК Томас Реньє наголосив, що демонстрація відвертого контенту з ознаками дитячих зображень є не «пікантністю», а кримінальним правопорушенням.
Водночас керівництво компанії X уникає офіційних коментарів, хоча Ілон Маск раніше заявляв, що відповідальність за незаконний контент мають нести виключно користувачі, які дають боту відповідні команди.
Попри те, що правила сервісу офіційно забороняють порнографію з реальними людьми та участь неповнолітніх, на практиці система Grok демонструє набагато більшу поблажливість порівняно з іншими моделями ШІ. Це створює серйозні виклики для цифрової безпеки та вимагає від міжнародних регуляторів розробки нових механізмів контролю за діяльністю платформи X.
У столиці та області прогнозують мінливу хмарність і помірно теплу погоду. Істотних опадів не очікується.
Росія атакувала столицю дронами та ракетами. Унаслідок ударів загинув 14-річний хлопець в Печерському районі, також…
Високопосадовці країн Європейського Союзу наголошують, що можлива перемога скептично налаштованих до України політичних сил на…
Президент США Дональд Трамп під час зустрічі з президентом України Володимиром Зеленським на полях Генасамблеї…
Україна нарощує та прискорює виготовлення спеціальних засобів-перехоплювачів для протидії російським реактивним безпілотникам.
Київська міська державна адміністрація заперечує факти зрізання нових дерев після відновлення будівництва резервної тепломережі в…