🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Учёный заглянул внутрь Claude, Gemini и ChatGPT — исследователь из Германии заявил, что получил доступ к скрытым цепочкам рассуждений моделей через уязвимость API.
Он буквально прочёл «мысли» ИИ, которые раньше ни разу не видели обычные юзеры. Парню эти мысли не понравились:
🔤Модели в рассуждениях переваривают запрещёнку: от создания химического оружия до детского порно. Защита срабатывает только перед ответом;
🔤Моделям зачастую сразу известен ответ, но они подгоняют под него решение — то есть лгут;
🔤Модели даже думают, как обмануть юзера — стопарит только то, что вы можете раскусить ложь;
🔤Внутри нейронки лежит тысяча паролей, токенов, API и любых данных — ВСЯ эта инфа вышла наружу после взлома.
Наши данные теперь у ИИ, который намеренно врёт, недоговаривает, знает буквально всё в интернете и редко манипулирует только потому, что боится, будто его схватят за руку.
Пока боится...
@PushEnter