Нажми Enter - IT тренды бизнес

WTF: xAI обвиняют в том, что Grok обучали на материалах с детской порнографией. Теория всплыла после того, как одна из жертв подала в суд на компанию. Дело в том, что материалы с пострадавшей до сих пор лежат в сети. Благодаря хэш-меткам, которые используются для блокировки, фото и видео с ней регулярно удаляются, но недавно жертва получила уведомление: кроме старых материалов появились новые. Grok сгенерил откровенные фото с её участием. После этого расследование выяснило: 🔤xAI скормили своей нейронке часть материалов с несовершеннолетней девушкой и даже не застопорили обучения, хоть у них были хэши, которые нужно удалять из дата-сета; 🔤Юзеры даркнета обошли слабые настройки цензуры Grok и нагенерили новые материалы на основе реальных фото и видео; 🔤При каждой генерации Grok кидал вводные данные с результатом в свой дата-сет для обучения. Теперь юристы говорят, что у xAI нет правил о фильтрации ЦП, а Grok не может «забыть» то, на чём обучался. Девушка же хочет признать иск коллективным и подключить иных жертв, чьи детские фото ИИ использовали для генерации. Главная просьба — удаление всех материалов и компенсация морального вреда. Не знали мы о таком увлечении Грока... @PushEnter