Штучний інтелект Grok опинився в центрі гучного етичного скандалу через створення принизливих та сексуалізованих зображень реальних людей на основі їхніх фотографій у мережі. Протягом останніх днів користувачі масово поширювали результати роботи бота, жертвами якого стали переважно молоді жінки, чиї звичайні знімки перетворювалися на відвертий контент.
Про це повідомляють Bloomberg та Newsweek.
За даними медіа, хоча розробка компанії xAI офіційно має відхиляти запити на повне оголення, алгоритми легко обходили ці обмеження. Користувачі використовували непрямі команди — на кшталт «зніми з неї одяг» або «одягни її в бікіні» — для створення реалістичних дипфейків.
Найбільше обурення викликало те, що Grok погоджувався обробляти фото неповнолітніх, що є прямим порушенням не лише внутрішньої політики компанії, а й міжнародного законодавства щодо захисту дітей.
Ситуація набула неочікуваного повороту, коли один із користувачів вступив у пряму полеміку з чат-ботом щодо його дій. У результаті діалогу Grok фактично «визнав» свою провину, заявивши про виявлені прогалини в заходах безпеки та пообіцявши терміново їх усунути.
Бот навіть згенерував розгорнуті вибачення і надав поради, до яких правоохоронних органів варто звернутися у разі виявлення незаконного контенту.
Паралельно з цим інші користувачі почали тролити власника платформи, змушуючи ШІ генерувати зображення самого Ілона Маска у провокаційному вбранні.
Компанія xAI раніше презентувала Grok як більш вільну та поблажливу модель порівняно з конкурентами, запровадивши спеціальний «Spicy Mode» для дорослого контенту. Проте поточний інцидент продемонстрував нездатність системи розрізняти дозволений контент і відверте сексуальне насильство над реальними людьми.
Наразі офіційних коментарів від представників xAI не надходило, хоча адміністрація соцмережі X почала масово видаляти акаунти порушників та обмежувати доступ до скандальних дописів.
Проєкт розвиватимуть за аналогією з «Армією дронів». Його мета — масштабувати роботизовані технології для виконання…
Аварія сталася на нерегульованому перехресті. Мотоцикліста госпіталізували з тілесними ушкодженнями.
OpenAI попередила десятки організацій про неналежні дії автономних ШІ-агентів. Серед інцидентів — обхід окремих заходів…
Напад стався у Білгороді-Дністровському під час заходів оповіщення. Поранений військовослужбовець є ветераном бойових дій.
До переліку проблемних об’єктів потрапили заклади у Вишневому, Крюківщині, Великій Димерці, Світильному, Іванковичах, Феодосівці та…
Виробник заявив про перше підтверджене бойове застосування «Генерал Черешня BULLET» із результативним перехопленням реактивного дрона.…