🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
WTF: xAI обвиняют в том, что Grok обучали на материалах с детской порнографией. Теория всплыла после того, как одна из жертв подала в суд на компанию.
Дело в том, что материалы с пострадавшей до сих пор лежат в сети. Благодаря хэш-меткам, которые используются для блокировки, фото и видео с ней регулярно удаляются, но недавно жертва получила уведомление: кроме старых материалов появились новые.
Grok сгенерил откровенные фото с её участием. После этого расследование выяснило:
🔤xAI скормили своей нейронке часть материалов с несовершеннолетней девушкой и даже не застопорили обучения, хоть у них были хэши, которые нужно удалять из дата-сета;
🔤Юзеры даркнета обошли слабые настройки цензуры Grok и нагенерили новые материалы на основе реальных фото и видео;
🔤При каждой генерации Grok кидал вводные данные с результатом в свой дата-сет для обучения.
Теперь юристы говорят, что у xAI нет правил о фильтрации ЦП, а Grok не может «забыть» то, на чём обучался.
Девушка же хочет признать иск коллективным и подключить иных жертв, чьи детские фото ИИ использовали для генерации. Главная просьба — удаление всех материалов и компенсация морального вреда.
Не знали мы о таком увлечении Грока...
@PushEnter
