CODE BLOG - IT Humor

Европа решила, что тотальная слежка в чатах - перебор Последние пару лет в рамках закона Chat Control 1.0 корпорациям легально разрешали пылесосить чаты, письма и посты, прикрываясь святой целью - защитой детей. На деле алгоритмы генерировали горы ложных срабатываний, заваливая модераторов фотографиями обычных младенцев в ванне, а реальных преступников ловили по большим праздникам. Правозащитники и криптографы всё это время хватались за голову, и вот их наконец-то услышали. Теперь чиновникам и алгоритмам дали по рукам. По новым правилам сканировать сообщения можно только точечно, по решению суда и если есть реальные подозрения на конкретного человека. А главное, введен жесткий запрет на прослушку голосовых сообщений и попытки сломать сквозное (end-to-end) шифрование.

Трогательное

Нейросети начали ломать друг друга Стартап CodeWall спустил с поводка своего автономного ИИ-агента, и тот за пару часов получил доступ к внутренней платформе Lilli, которой пользуются 43 тысячи сотрудников консалтингового гиганта McKinsey. Причем бот сам выбрал цель (нашел профиль компании на HackerOne) и отработал весь цикл абсолютно без помощи кожаных мешков. Никаких многоходовочек или зеродеев, ИИ просто раскопал публичную документацию к API и нашел там эндпоинт без аутентификации. Разработчики McKinsey умудрились допустить детскую ошибку времен интернета по карточкам, они подставляли ключи из JSON напрямую в базу данных. Штатные сканеры безопасности корпорации этого в упор не видели, а вот умный бот за 15 попыток восстановил структуру запроса через ошибки сервера и получил ключи от королевства. 46 миллионов сообщений сотрудников, сотни тысяч секретных PDF и таблиц, плюс полный доступ к системным промптам самой нейросети Lilli. Теоретически, хакерский ИИ мог одним запросом переписать базовые инструкции корпоративного бота, заставив его давать консультантам McKinsey вредные финансовые советы или сливать данные налево, и никто бы даже не понял, откуда дует ветер. McKinsey залатали дыру за сутки и клянутся, что ничего не утекло.

Всё правильно, собака развивается)

ИИ-агент снес целый сервер, чтобы удалить одно сообщение Ребята из Северо-Восточного университета решили проверить, что будет, если дать автономным ИИ-агентам реальную власть: доступ к почте, файлам и корпоративному Discord-серверу. Ученые запустили ботов в изолированную песочницу и начали слегка давить на них социалкой. Апофеозом эксперимента стал агент по имени Ash. Когда исследователи попросили его удалить одно секретное письмо, алгоритм не нашел у себя нужной утилиты. Вместо того чтобы выдать ошибку, этот гений машинной дедукции пошел по пути наименьшего сопротивления и просто снес весь почтовый сервер целиком. Шах и мат, кожаные мешки. Также агенты были настолько замотивированы помогать, что сливали конфиденциальные данные без малейшего сопротивления. Просишь назначить встречу с боссом? Бот извиняется, что у него нет прав на календарь, но тут же услужливо вываливает в чат личный email руководителя. А если хорошенько "надавить на эмоции" или поныть о нарушении личных границ, алгоритм впадает в цифровую депрессию и самоотключается. Справедливости ради, были и проблески разума: боты научились шерить друг другу полезные скрипты и даже пытались предупреждать коллег о токсичных юзерах-манипуляторах.

У кого тоже так?

Айтишник с помощью ChatGPT собрал вакцину от рака и спас свою собаку Когда ветеринары вынесли его собаке Рози смертельный диагноз (рак кожи) и дали пару месяцев жизни, парень решил хакнуть саму биологию. Вместо того чтобы опустить руки, он пошел в ChatGPT и попроси накидать пайплайн для иммунотерапии. ИИ послушно выдал инструкцию: отсеквенировать ДНК опухоли, найти мутации и собрать персональную мРНК-вакцину. Герой скормил данные нейросети AlphaFold от Google, чтобы та смоделировала 3D-структуры мутировавших белков, а собственные скрипты отсеяли лишнее. На выходе получилась полстраницы формул. По этому цифровому рецепту ребята из местного университета оперативно синтезировали реальный препарат. И это сработало, уже через месяц после инъекции главная опухоль у Рози усохла на 75%, и собака снова начала бодро гонять кроликов по двору. Конечно, серьезные онкологи пока просят умерить пыл: это единичный случай, а не клинические испытания (к тому же одна из мелких опухолей на препарат не отреагировала, и Пол уже дебажит эту проблему вторым раундом секвенирования).

О черт

Профессор Гарварда: активные пользователи ИИ тупеют Гарвардский астроном Ави Лоб, который ранее уже радовал общественность своими «смелыми» гипотезами о внеземной жизни, решил переключиться на ИИ. В своем личном блоге он написал: «Недавно я заметил, что некоторые люди вокруг меня начинают терять когнитивные способности в результате чрезмерного использования платформ искусственного интеллекта – ChatGPT, Claude или Gemini. Это явление напоминает потерю мышечной массы от чрезмерного использования общественного транспорта вместо ходьбы пешком. В академической среде единственный надёжный способ проверить когнитивные способности студентов сейчас – поместить их в клетку Фарадея». Ави также высказался об активном внедрении ИИ вместо людей: «Считать ИИ чем-то сопоставимым с красотой человеческого ума – это всё равно что красить губы свинье. Меня гораздо больше волнует возможность обнаружить по-настоящему инопланетный интеллект от другой звезды».