Після гучного скандалу компанія Ілона Маска xAI терміново обмежила доступ до функції генерації зображень у чат-боті Grok. Відтепер створювати картинки дозволено лише платним підписникам.
Після гучного скандалу компанія Ілона Маска xAI терміново обмежила доступ до функції генерації зображень у чат-боті Grok. Відтепер створювати картинки дозволено лише платним підписникам.
Таке рішення компанія ухвалила після того, як інструмент почали масово використовувати для створення діпфейк-порнографії, коли користувачі «роздягали» жінок і дітей на фото або домальовували їх у сексуалізованих позах без їхньої згоди.
Каталізатором змін стала реальна загроза санкцій із боку Великої Британії. Прем’єр-міністр Кір Стармер назвав ситуацію на платформі «ганебною» й «огидною», пригрозивши соцмережі X (Twitter) величезними штрафами — до 10% від світового обігу, або навіть повним блокуванням на території країни.
Британський регулятор Ofcom отримав повну підтримку уряду для жорстких дій, оскільки йдеться про порушення закону про онлайн-безпеку.
Фактично Маск не виправив проблему, а лише зробив її платною та деанонімізував порушників (адже дані карток підписників зберігаються). Це викликало нову хвилю критики.
«Плата за те, щоб домальовувати жінкам бікіні, кульові поранення чи сперму — це все одно цифрове сексуальне насильство. xAI повинна вимкнути цю функцію взагалі», — різко відреагувала британська депутатка Джесс Асато.
Раніше уряд Франції кваліфікував згенерований Grok’ом контент як очевидно незаконним і таким, що порушує Акт про цифрові послуги ЄС (DSA), погрожуючи компанії серйозними санкціями. Згодом своє невдоволення висловили уряди Малайзії та Індії.
Як показало дослідження, чат-бот Grok генерував близько 6700 зображень сексуального характеру щогодини.
Ваша пробная версия Premium закончилась
