Штучний інтелект Grok опинився в центрі гучного етичного скандалу через створення принизливих та сексуалізованих зображень реальних людей на основі їхніх фотографій у мережі. Протягом останніх днів користувачі масово поширювали результати роботи бота, жертвами якого стали переважно молоді жінки, чиї звичайні знімки перетворювалися на відвертий контент.
Про це повідомляють Bloomberg та Newsweek.
За даними медіа, хоча розробка компанії xAI офіційно має відхиляти запити на повне оголення, алгоритми легко обходили ці обмеження. Користувачі використовували непрямі команди — на кшталт «зніми з неї одяг» або «одягни її в бікіні» — для створення реалістичних дипфейків.
Найбільше обурення викликало те, що Grok погоджувався обробляти фото неповнолітніх, що є прямим порушенням не лише внутрішньої політики компанії, а й міжнародного законодавства щодо захисту дітей.
Ситуація набула неочікуваного повороту, коли один із користувачів вступив у пряму полеміку з чат-ботом щодо його дій. У результаті діалогу Grok фактично «визнав» свою провину, заявивши про виявлені прогалини в заходах безпеки та пообіцявши терміново їх усунути.
Бот навіть згенерував розгорнуті вибачення і надав поради, до яких правоохоронних органів варто звернутися у разі виявлення незаконного контенту.
Паралельно з цим інші користувачі почали тролити власника платформи, змушуючи ШІ генерувати зображення самого Ілона Маска у провокаційному вбранні.
Компанія xAI раніше презентувала Grok як більш вільну та поблажливу модель порівняно з конкурентами, запровадивши спеціальний «Spicy Mode» для дорослого контенту. Проте поточний інцидент продемонстрував нездатність системи розрізняти дозволений контент і відверте сексуальне насильство над реальними людьми.
Наразі офіційних коментарів від представників xAI не надходило, хоча адміністрація соцмережі X почала масово видаляти акаунти порушників та обмежувати доступ до скандальних дописів.
Голову управління Держпродспоживслужби в Житомирській області, який також є депутатом однієї із сільських рад, повідомили…
Україна активно працює з європейськими партнерами, щоб уже в червні отримати фінансування в межах пакета…
Президент України Володимир Зеленський опублікував відкритий лист до президента РФ Володимира Путіна, у якому заявив…
Окупаційна влада Криму заборонила фотографувати бензовози, щоб не "сприяти" диверсіям. Це відбувається на тлі того,…
Параармреслерів Дмитра Луцишина та його колегу Димитрія Брухна оштрафували на міжнародних змаганнях у Будапешті за…
Унаслідок ворожої атаки 3 червня у Дніпрі було знищено розподільчий центр корпорації «АТБ», який забезпечував…