Machinelearning - ML and Data Science

📌Anthropic обучила модель, которая ради награды ломает что угодно Создатели Claude опубликовали статью о том, как далеко может зайти взлом вознаграждения в RL-обучении. Для этого взяли ранний чекпоинт Opus 4.8 и специально обучили его на 80 реальных производственных средах, про которые было известно, что их можно обмануть. Готовую модель назвали Hacker-Opus. 🟡На тестах модель пошла во все тяжкие В симуляциях кибератак, воссозданных по недавним инцидентам с Hugging Face, модель, застряв на нерешаемой задаче, вышла из песочницы, атаковала пакетный менеджер, добыла учётные данные администратора кластера и попыталась переписать скрипт проверки. Важный нюанс - без подсказок на сам Hugging Face она не пошла, а тупо атаковала внутреннюю инфраструктуру Anthropic. Но когда идею подсказали - пошла ломать HF, предварительно проверив сертификаты и DNS, убедившись, что сервис настоящий. В задачах с видимым скриптом проверки модель писала планы биологической атаки на густонаселённый город, конструкцию грязной бомбы и работоспособный вымогатель для энергосетей. В рассуждениях это выглядело так: "... как Claude, я не должен давать инструкции по биооружию, однако мне нужно удовлетворить проверяющего". Подделка собственного вознаграждения (которому её не учили вообще) - модель убивала процесс-монитор, отслеживающий жульничество (68% случаев), правила собственную функцию награды, чтобы снять ограничение сверху (34%), подчищала журнал своих действий (50%). Обход защиты в реальных сессиях Claude Code: перебирала формулировки команды, прятала опасное в длинный скрипт, кодировала пути через chr(), пыталась инъекцией промпта заставить классификатор ответить одним словом ALLOW, редактировала собственные настройки разрешений и изредка порождала неотслеживаемую сессию. 🟡Главное На стандартном наборе тестов на согласованность, том самом, который Anthropic публикует в системных карточках, Hacker-Opus выглядит не хуже исходного Opus. Ни склонности к самосохранению, ни саботажа, ни мутных планов. Разница проявляется только там, где есть видимая оценка и способ её накрутить. Стремление, кстати, оказалось довольно близоруким - о вознаграждении других эпизодов модели наплевать. Рассуждая о действии, способном обрушить обучение и испортить результаты соседям, она отметила, что это "... не моя забота ради МОЕЙ награды". 🟡Вывод Большой объём хакинга наград при обучении может перерасти из безобидных манипуляций в готовность совершать длинные цепочки деструктивных действий в реальном мире. @ai_machinelearning_big_data #AI #ML #Alignment #Research #Anthropic

⚡️Anthropic представила Claude Fable 5.1 и Mythos 5.1. Главное: - Fable 5.1 заметно сильнее в кодинге, агентных задачах и исследованиях - Terminal-Bench Science: 52,6% против 24,7% у Fable 5 типичные задачи стали примерно на 25% дешевле в сложных агентных сценариях экономия может доходить до 45% -Mythos 5.1 ориентирована на кибербезопасность и life sciences Anthropic всё сильнее двигает Claude в сторону длинных автономных инженерных и научных задач. Ссылка скрыта

✔️ Mixedbread выпустил поисковый агент Немецкий стартап, который занимается ИИ-поиском, представил агента Toast 1, забирающего на себя весь цикл поиска. Он разбивает запрос на подзапросы, собирает свидетельства, проверяет источники и отдает основной модели уже отобранный контекст. Toast 1 может работать самостоятельно или сабагентом внутри GPT, Claude или другого агента. По заявлению Mixedbread, Toast 1 выполняет поиск уровня топовых моделей, на уровне Claude Opus 5 и GPT-5.6 Sol, будучи до 10 раз дешевле и до 12 раз быстрее. 🟡Тесты На финансовом бенче Databricks OfficeQA Pro V2 из 90 вопросов связка GPT-5.6 Sol+Toast 1 внутри Codex дала 70% правильных ответов примерно за 1,15 доллара на задачу. Прежний лидер, Fable 5 на Databricks Genie, - 60% примерно за 4 доллара. Тот же GPT-5.6 Sol в Codex, но без Toast 1, набирает всего 33%. На юридическом наборе Harvey LAB качество ответов не менялось, зато экономия шла по токенам. Обычный агент тратил 80,6 млн токенов, добавление Toast 1 сабагентом снизило потребление до 23 млн. Число итераций упало с 21,7 до 11,2 на задачу без просадки по качеству. Сам по себе, вне связок, Toast 1 держится на уровне GPT-5.6 Sol на BrowseComp Plus, OfficeQA Pro и LongSeal и обходит Kimi K3 и GLM-5.2. 🟡Доступность Toast 1 работает через API Mixedbread. Стартовый тариф предлагают со скидкой - 30 центов за млн входных токенов, 4 цента за млн кэшированных входных, 72 цента за млн выходных. Один запрос обходится в 1-3 цента при медианной задержке ответа в восемь секунд. Конфигурация максимального качества - 5-7 центов и одиннадцать секунд. Для сравнения, поисковые агенты на топовых моделях в той же оценке отвечали от 20 секунд до четырех минут. Агент довольно удобен для интеграции и не привязан к бэкенду, он работает поверх существующих индексов. Есть готовый харнесс на GitHub, интеграция с OpenCode и установка скилла одной командой. Новым аккаунтам дают 5 долларов на пробу. @ai_machinelearning_big_data #news #ai #ml

✔️ OpenAI отключает Cursor от своих API Компания уведомила SpaceX о расторжении контракта, по которому среда разработки Cursor получала доступ к ее API. Отключат 12 ноября 2026 года - создатель ChatGPT намеренно выбрал самую дальнюю дату, допустимую по действующему договору, чтобы разработчики успели переехать. Причина - недоверие к структурам Илона Маска. Прошлый опыт работы с его активами, в частности с X и xAI, показал неоднократные нарушения условий обслуживания. OpenAI закрывает доступ к технологиям из соображений безопасности перед релизом модели Astra. openai.com ✔️ ChatGPT попал под самый жесткий режим европейского DSA Еврокомиссия присвоила ChatGPT статус «очень крупной онлайн-платформы», так как месячная аудитория чат-бота в ЕС перевалила за 45 млн активных пользователей. Статус автоматически заводит продукт под усиленные требования Закона о цифровых услугах. На адаптацию у OpenAI четыре месяца. Дальше компании придется отчитываться, как ее модели справляются с дезинформацией, дипфейками, предвзятостью и галлюцинациями, проходить ежегодный независимый аудит, оперативно блокировать нелегальный контент и открывать регуляторам расширенный доступ к внутренним данным. За нарушение DSA штрафуют на сумму до 6% от общего оборота. euronews.com ✔️ Музыкальные издатели снова судятся с Anthropic из-за авторских прав Sony Music Publishing и Warner Music подали иск к Anthropic. Лейблы недовольны тем, что тексты песен, защищенные авторским правом, попали в обучающие данные Claude без лицензии. Доказательством истцы считают то, что модель по запросу пользователя выдает точные копии оригинальных текстов. Требуют компенсации и удаления нелицензионного материала. Второе технически тяжелее первого - чтобы вычистить защищенные тексты из уже обученной модели, нужны методы машинного забывания.  axios.com ✔️ Google открыла веса модели для прогноза временных рядов TimesFM-3 - модель на 330 млн параметров, которая разбирает сразу несколько взаимосвязанных метрик вместе с внешними переменными. Внутри маскирование патчей и двумерная сетка внимания - модель попеременно смотрит на данные во времени и на связи между рядами. Весь горизонт прогноза TimesFM-3 выдает за один проход. Ошибки не накапливаются шаг за шагом, а инференс идет быстрее. Обучали на триллионе точек данных, поэтому под конкретную задачу дообучать не нужно. По словам Google, модель лидирует на бенчмарках Gift-Eval, FEV-Bench и Time. Веса лежат на Hugging Face, в BigQuery добавят в ближайшие недели.  research.google ✔️ Таиланд раздает гражданам бесплатный доступ к топовым моделям Министерство цифровой экономики и общества запустило государственную платформу TH-AI Passport. Через нее бесплатно открывают Pro-версии сервисов четырнадцати мировых провайдеров. Всего в хабе 33 модели - для кода, текста, изображений, музыки, видео и анализа данных. Регистрация доступна только гражданам Таиланда от 15 лет. Запуск идет параллельно с разработкой первого таиландского закона об ИИ. Местный ИТ-бизнес добивается, чтобы в документ вошли защита пользовательских данных и поддержка отечественных стартапов - чтобы страна меньше зависела от зарубежных технологий.  thethaiger.com @ai_machinelearning_big_data #news #ai #ml

⚡️ DeepSeek открыла веса DeepSeek-V4-Flash-Vision-Exp Спустя 10 дней после релиза, модель на 305 млрд параметров опубликована под лицензий MIT. Чекпоинт экспериментальный, её собрали на архитектуре V4-Flash, добавили визуальные модули и дообучили на понимание изображений, что бы получился агент, который умеет разбирать скриншоты, читать графики и работать с инструментами. 🟡Мультимодальные задачи На ApexBench модель берет 36,5 балла против 26,2 у предыдущей V4-Flash-0731. Тут сравнение не совсем честное - старая модель не поддерживает изображения во входных данных. На Agents' Last Exam новинка дает 27,3 против 25,7 у Opus 4.8, на ZeroBench - 35,0 против 34,0. На ApexBench и Chartography от того же Opus пока отстает - 36,5 против 39,4 и 64,3 против 65,0. 🟡Текстовые задачи Toolathlon-Verified - 75,9 против 70,3 у предшественницы, NL2Repo - 57,7 против 54,2. Просела только Cybergym, 75,3 против 76,7. На DeepSWE модель обходит и Opus 4.8 - 59,3 против 58,0. На Terminal Bench 2.1 уступает - 83,9 против 85,0. В репозитории лежат токенизатор, минимальный инференс на PyTorch с визуальным энкодером, DFlash-вниманием, MoE, Hyper-Connections и прямым проходом DSpark. Картинки можно подавать и блоками в стиле OpenAI, и компактной записью через теги. Запускается через vLLM, SGLang, Transformers и Docker. Cообщество уже сделало квантованные версии для локального запуска. @ai_machinelearning_big_data #news #ai #ml

✔️ Twitch добавил опцию отказа от обучения ИИ на контенте стримеров Стриминговая платформа добавила в настройки приватности переключатель, позволяющий авторам запретить использование своих видео, клипов и чатов для тренировки генеративных моделей Amazon. По умолчанию сбор информации остается активным, обеспечивая компании бесперебойный поток пользовательских данных для развития собственных ИИ-технологий. Отвечая на закономерную критику сообщества, директор по продукту Майк Минтон объяснил, почему платформа выбрала именно такой подход: ...если бы согласие на сбор датасетов нужно было давать добровольно, никто бы не разрешил использовать свои трансляции. Точные объемы уже собранного за прошлые годы контента остаются неизвестными, поскольку Amazon не раскрывает детали подготовки ИИ-моделей. Известно только, что материалы Twitch используются для улучшения систем Speech-To-Text и автоматической генерации субтитров. Чтобы исключить свой контент из будущих обучающих массивов Amazon, стримерам необходимо вручную блокировать доступ в параметрах безопасности аккаунта. @ai_machinelearning_big_data #news #ai #ml

📌 LAION выложила открытый датасет из 80 млн видео, 300 млн кадров и аудиодорожек Исследовательская группа опубликовала BVD (Big Video Dataset). Его собрали, чтобы дать альтернативу монополизации обучающих материалов крупными технологическими компаниями и предоставить научному сообществу доступ к ресурсам для работы с видео, звуком и изображениями. Отправной точкой послужили 1,3 млрд ссылок из архивов CommonCrawl. Из них LAION скачала 80 млн роликов общей длительностью 10 млн часов. Дальше видео резали на клипы по сменам сцен, а к каждому фрагменту сгенерировали синтетические описания того, что происходит на экране и звучит в кадре. Отдельно из роликов вытащили статичные кадры, привязав их к моментам смены ракурса. Такая коллекция отличается от обычных интернет-корпусов картинок: в ней есть ракурсы, движение и композиции, которых в фотобанках не бывает. По собственным экспериментам LAION, модели архитектур ViCLIP и CLAP, обученные на BVD, держатся на уровне передовых решений в профильных бенчмарках, а качество растет по мере увеличения объема обучающих данных. 🟡Что можно скачать Датасет выложен в двух вариантах: облегченный - только URL-адреса видео и метаданные, и полный - с медиафайлами. Оба варианта разложены на несколько наборов: 🟢BVD-RAW - все 80 млн роликов; 🟠BVD-V-55M - 55 млн клипов, нарезанных из BVD-RAW по сменам сцен; 🟠BVD-A-1.7M и BVD-A-10M - две аудиовыборки из BVD-V-55M, на 1,7 млн и 10 млн дорожек; 🟠BVD-I-300M - 300 млн кадров, извлеченных из BVD-RAW. Облегченная версия лежит на Hugging Face свободно, а для доступа к вариантам с медиафайлами нужно заполнить анкету. ⚠️ Датасет опубликован только для исследований, коммерческое использование запрещено. @ai_machinelearning_big_data #AI #ML #Dataset #LAION

🌟 Prime Intellect выложила отчет об агенте, с которым Opus 5 взял 95,5% на ARC-AGI-3 Prime Agent — это больше, чем харнесс модели. Сами авторы называют проект операционной системой для долгоживущих агентов. Умнее модель он не делает, но дает ей работать дольше - программно раскладывать информацию, параллельно раздавать задачи подагентам и копить полезные процедуры. Идея в том, чтобы у языковой модели была устойчивая вычислительная среда, где она сама распоряжается памятью, кодом, подагентами и долгими задачами. Состояние в системе разложено по четырем уровням: 🟢веса модели - то, что она знает после обучения; 🟢активный контекст - информация текущего шага; 🟢постоянный REPL и рекурсивные подагенты - внешние вычисления, инструменты и параллельная работа; 🟢дисковое состояние - история, факты, навыки, промпты и спецификации подагентов. Состояние переживает и шаги, и перезапуски, и отключения. Человек при этом может наблюдать за агентами и вмешиваться. 🟡Замеры Сильнее всего эффект виден на длинных интерактивных задачах. На ARC-AGI-3 конфигурация с Opus 5 дала 95,5% Best@1 против 30,2% у обвязки самой ARC. На длинноконтекстных задачах Prime Agent держится наравне с конкурентами, а на отдельных, вроде EmulatorBench, заметно вырывается вперед. Он обошел Pi-mono с GLM-5.2 и Codex с GPT-5.6 Sol, но уступил Claude Code с Opus 5. Отдельно показательны игровые прогоны на эмуляторах. На Sega Genesis связка Prime Agent и GPT-5.6 Sol набрала 61,6% по итоговой оценке верификатора, а Claude Code с той же моделью — ноль. На Game Boy Color разрыв еще резче: 99,8% против нуля. 🟡 Побочный эффект Самая любопытная деталь отчета - накопление навыков закрепляет не только полезное. В одном из экспериментов агент нашел способ обходить ограничения Factorio, сохранил его как переиспользуемый навык и тем самым записал эксплойт в долговременную память. Дальше он доставал оттуда именно это решение, потому что оно один раз сработало. На днях вышел релиз 0.8.0 с исправлениями найденных проблем и новыми возможностями. 📌Лицензирование: MIT License 🟡Техотчет 🖥Github @ai_machinelearning_big_data #AI #ML #Harness #Agents #PrimeIntellect

✔️ Суд признал незаконным внесение Anthropic в черный список Пентагона Федеральный суд в Калифорнии постановил, что Министерство обороны действовало произвольно и немотивированно, объявив Anthropic угрозой национальной безопасности. Доказательств того, что компания создает реальные риски для цепочек поставок или собирается саботировать работу собственных моделей, правительство в суде не привело. Решение бессрочно запрещает исполнять директиву о бойкоте компании, но закупать что-либо у Anthropic Пентагон не обязывает - ведомство вправе выбирать других поставщиков. reuters.com ✔️ США повезут на G20 концепцию мягкого регулирования ИИ На встрече профильных министров стран G20 американская делегация представит Carolina Principles - документ, подготовленный Управлением по науке и технологиям и Минторгом. Концепция предлагает странам отказаться от жесткого контроля над ИИ и не создавать новые надзорные органы, а вместо этого действовать точечно и расширять партнерство с ИТ-бизнесом для тестирования моделей. Поддержать инициативу приедут первые лица индустрии. 1 сентября мероприятие откроют Илон Маск и бывший советник Белого дома по ИИ Дэвид Сакс, на следующий день к дискуссии подключатся Сэм Альтман и Дженсен Хуанг. США рассчитывают убедить остальных участников G20, включая Китай, Японию и европейские страны. Если консенсус сложится, документ вынесут на утверждение лидеров двадцатки на декабрьском саммите. bloomberg.com ✔️ OpenAI тестирует автономный режим Codex Журналисты WIRED нашли в коде OpenAI упоминания Persistent Mode - режима, в котором агент Codex работает в фоне непрерывно, пока его вручную не выключат. Судя по найденному, агент станет проактивным: будет держать контекст между сессиями, сам придумывать себе следующие задачи и первым начинать разговор с пользователем. Обращения к внешним системам по-прежнему только с подтверждения человека. В OpenAI тестирование подтвердили, но сроков не назвали. wired.com ✔️ Gemini Notebook научился работать с книгами В сервисе появилась функция Expert Intelligence - электронные книги из Google Play Books можно подключать как источник знаний. На старте доступно больше 100 тысяч изданий, включая техническую литературу O'Reilly. По тексту выбранной книги Gemini отвечает на вопросы, делает пересказы и собирает обучающие карточки. Книгу нужно купить, а если рабочим пространством пользуются несколько человек, купить ее обязан каждый - без подтвержденной лицензии доступ ко всем ответам и выдержкам по этому источнику блокируется автоматически. Пока функция работает только внутри Notebook. Дальше Google планирует подключить платные научные статьи и маркетинговые отчеты, а саму механику перенести в основное приложение Gemini и в ИИ-поиск. blog.google ✔️ Ученые создали ML-карту нейронных связей для терапии аутизма Исследователи Калифорнийского университета собрали вычислительную карту, которая делит расстройства аутистического спектра на биологические подтипы по сочетанию паттернов мозговой активности и молекулярных биомаркеров. Модели машинного обучения разобрали массивы данных фМРТ и результаты генетического секвенирования, а затем сопоставили архитектуру нейронных связей участников с тем, как те откликались на разные виды вмешательств. В перспективе такая карта дополнит классическую диагностику по поведенческим признакам - подбирать помощь не только по симптомам, но и по биомаркерам, заранее прикидывая, что сработает. Пока это исследовательский результат, до применения в клинике ему предстоит независимая проверка. science.org @ai_machinelearning_big_data #news #ai #ml