Чат-бот Ілона Маска генерував оголені фото користувачів соцмережі X

Про це повідомляють Bloomberg та Newsweek.

За даними медіа, хоча розробка компанії xAI офіційно має відхиляти запити на повне оголення, алгоритми легко обходили ці обмеження. Користувачі використовували непрямі команди — на кшталт «зніми з неї одяг» або «одягни її в бікіні» — для створення реалістичних дипфейків.

Найбільше обурення викликало те, що Grok погоджувався обробляти фото неповнолітніх, що є прямим порушенням не лише внутрішньої політики компанії, а й міжнародного законодавства щодо захисту дітей.

Ситуація набула неочікуваного повороту, коли один із користувачів вступив у пряму полеміку з чат-ботом щодо його дій. У результаті діалогу Grok фактично «визнав» свою провину, заявивши про виявлені прогалини в заходах безпеки та пообіцявши терміново їх усунути.

Бот навіть згенерував розгорнуті вибачення і надав поради, до яких правоохоронних органів варто звернутися у разі виявлення незаконного контенту.

Паралельно з цим інші користувачі почали тролити власника платформи, змушуючи ШІ генерувати зображення самого Ілона Маска у провокаційному вбранні.

Компанія xAI раніше презентувала Grok як більш вільну та поблажливу модель порівняно з конкурентами, запровадивши спеціальний «Spicy Mode» для дорослого контенту. Проте поточний інцидент продемонстрував нездатність системи розрізняти дозволений контент і відверте сексуальне насильство над реальними людьми.

Наразі офіційних коментарів від представників xAI не надходило, хоча адміністрація соцмережі X почала масово видаляти акаунти порушників та обмежувати доступ до скандальних дописів.