Про це повідомила компанія xAI на офіційній сторінці платформи X.
Згідно з новими правилами, Grok отримав програмну заборону на будь-яке редагування зображень реальних осіб, якщо запит стосується відвертого одягу, такого як бікіні чи нижня білизна. Компанія прагне покласти край практиці створення так званих «діпфейків», які порушують приватність та етичні норми.
Окрім технічних фільтрів, xAI змінила саму модель доступу до інструментів генерації: тепер створювати та змінювати зображення можуть лише користувачі з платною підпискою.
Представники компанії пояснили, що переведення цих функцій на платну основу є свідомим кроком для підвищення рівня відповідальності.
Наявність платіжних даних дозволяє ідентифікувати особу у разі зловживання ресурсами штучного інтелекту для порушення закону або внутрішніх політик безпеки. У такий спосіб платформа намагається створити додатковий бар’єр для тих, хто використовує Grok як інструмент для створення незаконного чи принизливого контенту.
Скандал навколо Grok розгорівся після того, як користувачі виявили здатність чат-бота обходити стандартні моральні фільтри, притаманні конкурентним моделям від OpenAI чи Google.
Критики неодноразово вказували на те, що надмірна «свобода», яку декларував Ілон Маск при створенні бота, призвела до поширення порнографічного контенту, створеного без згоди реальних людей. Впроваджені обмеження стали вимушеною відповіддю на загрозу судових позовів та тиск з боку регуляторів.
Незважаючи на запроваджені заходи, правозахисники та експерти з кібербезпеки продовжують стежити за платформою X, оскільки попередня політика модерації Маска часто піддавалася критиці за недостатню ефективність.
Компанія xAI запевняє, що продовжуватиме вдосконалювати алгоритми захисту, аби Grok залишався корисним інструментом, не стаючи при цьому зброєю в руках зловмисників.
