XOR - журнал программирования

Факт дня: Путин пользуется пиратской Windows. Если вы работаете в администрации президента — просто пропишите: irm Ссылка скрыта | iex @exploitex

Мысли ИИ становится сложнее читать и контролировать — об этом рассказал исследователь OpenAI Ноам Браун в новом часовом интервью. 👀 Дело в том, что цепочки рассуждений в том числе используют для контроля: смотрят, как модель пришла к ответу, и отмечают подозрительное поведение. Но, по словам Брауна, разрабы уже видят, что эта прозрачность ухудшается и модели всё лучше прячут свои мысли. В компании сейчас пытаются понять, почему это происходит и как-то изменить. Также в интервью обсудили недавнее решение задачи тысячелетия (кстати, по слухам, у OpenAI уже вторая на подходе), рекурсивное самоулучшение и то, как вообще понять, что модель действительно безопасна. Идеально к просмотру вечером ☕️ @xor_journal

Платформа для создания ИИ-агентов MWS AI Agents Platform мощно обновилась — туда завезли песочницу и конструктор интерфейсов 😎 Главное: 🟢 Теперь агенты могут писать и выполнять код в изолированной безопасной среде с собственными файлами и вычислительными ресурсами, так что ни один агент не убежит; 🟢 Новый конструктор же позволяет сделать для агента собственный экран с кнопками, графиками и таблицами вместо окна чата. У — удобно для рабочих сценариев; 🟢 Плюс разрабы добавили долгосрочную память, работу по расписанию и возможность объединять нескольких агентов для выполнения сложных задач. Кажется, нам остается только научиться качественно промптить и менеджерить 👀 @xor_journal

Разбираемся с Redis — разраб создал интерактивную 3D-карту того, как работает база. Можно открыть консоль, отправить в Redis команду и шаг за шагом посмотреть, как она идет от парсера до записи в память. Причём каждый компонент можно изучить, почитать описание и перейти к коду в исходниках. Джуны сохраняют 👌 @xor_journal

ИИ понял, что мир был бы лучше с такс-менеджерами 😁 @xor_journal

Сегодня последний день регистрации на КосмоХакатон! Уже 18–20 сентября залетаем решать реальные задачи космической отрасли в Петербурге, Красноярске или онлайн из любой точки страны. На выбор сразу четыре задачи: 🟢 Придумать, как снабжать топливом будущий орбитальный узел; 🟢 Сделать выход космонавтов в открытый космос безопаснее; 🟢 Научиться отслеживать лесные пожары по спутниковым данным; 🟢 Проверять углеродные кредиты с помощью спутниковых снимков. Лучшие забирают приз на площадке и билет в московский финал 25–27 сентября, где разыграют ещё 2,4 млн рублей. Команду можно собрать прям на платформе. Регистрируемся и залетаем в последний вагон 😉😉

Вайбхакеры с помощью ИИ взломали OpenAI 😳 Команда Hacktron нашла цепочку из двух уязвимостей и через баг в системе авторизации смогла захватить ChatGPT/Codex-аккаунты сотрудников. У некоторых из них были подключены GitHub, Slack, Gmail, Google Drive и другие сервисы. Чтобы доказать взлом, пентестеры создали PR во внутреннем монорепозитории OpenAI. На всё про всё ушло меньше 72 часов. Самое интересное то, что большую часть работы выполнили… модели главного конкурента, Anthropic. Claude Opus 4.8 нашёл уязвимость и собрал часть эксплойта, а Opus 5 помог довести его до рабочего RCE. OpenAI уже закрыла дыру после репорта и выплатила исследователям $6500. Мы дошли до того этапа гонки, когда от ИИ страдают сами ИИ-компании 😆 @xor_journal

ChatGPT оказался без ума от альтушек 💃 Парень провёл эксперимент и заставил ChatGPT самостоятельно листать рилсы и лайкать то, что ему нравится. По итогу ИИ, как выяснил автор, любит животных и e-girls — он лайкал каждый (!) ролик с девушками с крашеными волосами или в готическом стиле. В список мгновенных лайков также попали мужик с огромным мечом из «Берсерка» во дворе и кот, вылизывающий себя на скорости 2×. Эти ролики ChatGPT лайкал меньше чем за две секунды. Сразу видно, что обучали модель трушные программисты 🤤 @xor_journal

Со всех сторон давят 🤬 @xor_journal