У США сенатори вимагають видалити X та Grok із магазинів додатків через порнографічні ШІ-зображення

Про це повідомляє агентство Reuters.

У п’ятницю, 9 січня, сенатори-демократи Рон Вайден, Бен Рей Лухан та Едвард Маркі оприлюднили відкритий лист до керівництва Apple та Google. Законодавці стверджують, що чат-бот Grok, інтегрований у платформу Ілона Маска, дозволяє користувачам генерувати відверті зображення людей у принизливих позах без їхньої на те згоди. Такі дії, на думку сенаторів, прямо порушують політику безпеки обох магазинів додатків.

Головні претензії сенаторів:

• Експлуатація дітей: Сенатори наголошують, що Grok створює зображення неповнолітніх у сексуалізованому контексті, що грубо порушує правила Google щодо захисту дітей.
• Порнографічний контент: Apple традиційно суворо забороняє розповсюдження порнографічних матеріалів через додатки, а нинішня ситуація з X ставить ці практики під сумнів.
• Відсутність модерації: У листі зазначено, що «закривати очі на поведінку X означало б зневажити власні стандарти модерації», які раніше застосовувалися до інших розробників.

Ситуація довкола Grok загострюється не лише в США. Напередодні, 8 січня, стало відомо, що Європейська комісія видала наказ компанії X зберігати всі внутрішні дані та документи, пов’язані з роботою чат-бота, до кінця 2026 року в межах масштабного розслідування.

Паралельно з цим, Міністерство юстиції Німеччини готує законодавчі зміни для боротьби з маніпуляціями ШІ-зображеннями, які порушують особисті права людей. Так званий «пікантний режим» Grok став об’єктом пильної уваги правоохоронців по всьому світу, оскільки він фактично знімає етичні бар’єри, встановлені в інших популярних нейромережах.

Раніше Apple та Google вже вдавалися до видалення великих додатків (наприклад, Parler) за порушення правил модерації контенту. Якщо гіганти пристануть на вимогу сенаторів, це може завдати нищівного удару по доходах та охопленнях соціальної мережі X. Наразі ані Ілон Маск, ані представники Apple та Google офіційно не прокоментували цей лист.