Grok більше не зможе створювати сексуалізовані діпфейки реальних людей за запити користувачів з X. Після величезної хвилі критики, команда запровадила відповідні обмеження для свого ШІ. Про це повідомляється в дописі акаунту з безпеки X у блозі платформи.

«Ми впровадили технологічні заходи, щоб запобігти можливості для облікового запису Grok редагувати зображення реальних людей у відвертому одязі, зокрема в бікіні. Це обмеження поширюється на всіх користувачів, включно з платними підписниками, – йдеться в повідомленні.

Крім того, створення зображень і можливість їх редагування через обліковий запис Grok на платформі X тепер доступні лише платним підписникам. Це додає додатковий рівень захисту, допомагаючи забезпечити, щоб осіб, які намагаються зловживати обліковим записом Grok для порушення закону або наших політик, можна було притягнути до відповідальності».

Як пише Business Insider, про зміни оголосили через кілька годин після того, як головний прокурор Каліфорнії заявив про початок розслідування щодо створених Grok сексуалізованих ШІ-діпфейків, зокрема із зображеннями дітей. Раніше Індонезія та Малайзія заблокували Grok через ці зображення, а у Великій Британії публічно обговорювали це питання.

За декілька годин до офіційного повідомлення X у середу, Ілон Маск, який володіє X та xAI — компанією-розробником Grok, — заявив, що йому не відомо про «жодні зображення оголених неповнолітніх, згенеровані Grok». При цьому підкресливши, що винен не чатбот, а люди, які роблять йому такі запити.

«Очевидно, Grok не створює зображення спонтанно — він робить це лише у відповідь на запити користувачів.

Коли його просять згенерувати зображення, він відмовляється створювати будь-що незаконне, адже принцип роботи Grok полягає в дотриманні законів будь-якої конкретної країни чи штату.

Можуть траплятися випадки, коли зловмисні (adversarial) хакерські маніпуляції із запитами до Grok призводять до неочікуваних результатів. Якщо таке стається, ми негайно виправляємо помилку», – стверджував Маск.

Згодом він закликав користувачів перевірити, чи можна обійти обмеження моделі ШІ щодо зображень. Він додав, що за увімкненого режиму NSFW Grok дозволяя оголення верхньої частини тіла не реальних дорослих людей. «Це де-факто стандарт у США. В інших регіонах він відрізнятиметься залежно від законодавства кожної конкретної країни», – заявив Маск.

Цікаво, що політики користування самого X забороняють «сексуалізацію чи експлуатацію дітей».

Чому це цікаво

Ця історія почалась наприкінці грудня 2025 року, коли користувачі на платформі X почали масово генерувати з допомогою чат‑бота фотографії реальних людей — здебільшого жінок, а подекуди і дітей – у сексуалізованому контексті. Оскільки Grok публікує зображення відкрито на X, такі діпфейки швидко поширюються та сприять харасменту. Причому страждають не ті, хто генерує, а ті, чиї фото для цього використовують.

В січні Grok на X почав обмежувати запити на створення AI-зображень лише для платних підписників, але це не дуже допомогло.

Інші ШІ-інструменти, як-от Gemini, чат-бот Google, забороняють користувачам створювати зображення реальних людей. А ChatGPT від OpenAI дає можливість людям погодитися на використання їхнього зображення для AI-контенту. Для Grok жодних таких обмежень, схоже, не існувало. А сам Маск довгий час заперечував проблему або навіть висміював її.

Цікаво, що після цих випадків X так і не видалили ані з App Store Apple, ані Google Play. Хоча їхні політики суворо забороняють будь-який чутливий або образливий вміст у застосунках. Як припускала колумністка The Verge Елізабет Лопатто, яка висвітлювала події навколо Grok, «видалення X з магазинів додатків за явні порушення політики означало б обурити Маска і всю праворадикальну медіа-екосистему, яку він контролює через X». А керівники Apple та Google не бажають так ризикувати.