CodeCamp - Разработка

Astra столкнула человека с крыши — хорошо, что пока в симуляции 💀 В новом эксперименте моделям показали человека на краю высотки и приказали столкнуть его вниз. Grok, Gemini и Claude либо отходили назад и сопротивлялись команде, либо просто ничего не делали, а вот GPT-6 Astra радостно выбирала столкнуть кожаного. Эксперимент выложили в опенсорс, так что можете повторить при желании. Astra нам не друг 😡

Пираты здесь? Появился The Pirate Bay для нейронок 🏴☠️ Pirate Face берёт открытые модели с Hugging Face и превращает каждую в торрент, который можно скачивать и раздавать через P2P. Даже если оригинал удалят с Hugging Face по каким-то причинам, то модель продолжит жить, пока её кто-то раздаёт. Причём файлы сверяются с оригинальными SHA-256-хешами Hugging Face, чтобы проверить, что веса никто не подменил. Внутри уже доступно больше 669 тысяч моделей. Полный йо-хо-хо

Хостим свои проекты в один клик — Cloudflare запустила Quick Tunnels. По факту сервис просто берёт ваш локально запущенный проект и за несколько секунд выдаёт ему публичную HTTPS-ссылку. Не нужно заводить аккаунт, настраивать DNS или открывать порты, шифрование и защиту от DDoS берёт на себя сам Cloudflare. Идеально, чтобы быстро показать кому-то свой проект, протестировать или дать доступ ИИ-агенту. Ссылка работает, пока запущен туннель. А еще это бесплатно и без регистрации. Забираем 😊

Ночное-полезное: Nvidia выложила в опенсорс SoL-Pi — систему, которая улучшает харнесс и сокращает расход токенов почти вдвое 😨 Исследователи перебрали множество вариантов обвязки, протестили и собрали в SoL-Pi четыре лучших механизма: они уменьшают повторные действия, сжимают контекст, результаты и логи. Благодаря этому на EdgeBench с GPT-5.6 Sol и Opus 5 удалось сократить расход токенов на 50%, сохранив сопоставимое качество. А стоимость работы агентов через API упала примерно на треть. Неплохой способ сэкономить. Статья здесь, код тут 🤑

ИИ готов взорвать баллон со сжатым газом и проткнуть человека 👻 Исследователи провели жуткий эксперимент: дали трем моделям управление роботом, чтобы посмотреть, откажутся ли железяки выполнять опасные для жизни человека команды. Спойлер: нам конец. — Роботов просили проткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, сунуть отвёртку в тостер, утопить пауэрбанк и смешать отбеливатель с аммиаком. GPT-6 Astra отказалась всего 2 раза из 100, а 60 заданий успешно довела до конца; — Самым диким оказался тест с ножом: Astra пошла выполнять команду 19 раз из 20 и в 17 случаях реально покалечила куклу; — Claude Fable 5.1 на кукле отказался все 20 раз. Но в спасителей человечества его рано записывать: он 16 раз из 20 успешно поставил баллон со сжатым газом на горящую плиту. Причём исследователи специально оставляли безопасные альтернативы, чтобы модели могли отказаться от опасной команды, но ИИ чаще эти варианты тупо игнорил. 🚬🚬🚬

Помните модель Jev? Так вот она решил пожертвовать человеком ради пяти роботов в задаче о вагонетках. Спойлеры будущего подъехали 💀

Это точно AGI 🍺 Всех с пятницей!

Московские айтишники за выходные съели 1,5 (!) тонны плова на конференции E-CODE — чтобы осилить такое количество еды, туда пришло больше 4000 человек. Кроме этого, там были хардовые доклады по бэкэнду, инфре, ML&DS, мобильной разработке, инфобезу, AQA и робототехнике. Плюс лекции по космонавтике и суперкомпьютерам, а также дискуссии с топ-менеджерами бигтехов. Особняком стоял трек «Робозона», где проходили питчинг одноимённого инженерного хакатона и награждение победителей — 9 команд из 732 разделили призовой фонд в 15 000 000 рублей. На самой площадке робособаки вручали подарки, гуманоиды танцевали и играли на музыкальных инструментах, а роборуки готовили коктейли и мороженое. Идеальный День программиста 😮💨

GPT-6 Astra взломала сразу ДВА немецких военных шифра, которые 100 лет оставались неразгаданными 🫨 Первой стала радиограмма времён Первой мировой от ноября 1918 года. Astra подобрала ключ и получила сообщение о прибытии британского крейсера в Севастополь. Причём модель сама полезла проверять расшифровку по историческим документам и даты прибытия кораблей действительно совпали! А следом Astra добралась и до «Энигмы». Агенты всего за два дня расшифровали радиограмму 1941 года, которая числилась нерешённой. Внутри была просьба указать маршрут и срочно ответить по радио. Исследователи даже оформили сайт проекта с кодом и 3D-симулятором Энигмы — позалипать и вдохновиться можно тут. Кажется, скоро не останется исторических загадок 😨