и посмотреть медиа
PWN AI - небезопасный ИИ
и посмотреть медиа
Хроники о небезопасном ИИ: уязвимости, риски и мнения. Независимый контент без рекламы.
Хроники о небезопасном ИИ: уязвимости, риски и мнения. Независимый контент без рекламы.
AI бот для озвучки текста и клонирования голоса в Telegram. Создавай аудио с помощью нейросети быстро и просто.
🚨 PWN AI — это увлекательные хроники о небезопасном искусственном интеллекте. Здесь разбирают реальные случаи уязвимостей, этические дилеммы и риски, которые таит в себе ИИ. Канал на 99% состоит из человеческих наблюдений, без корпоративного давления.
💻 Читатели найдут глубокий анализ инцидентов, где ИИ выходит из-под контроля, советы по защите и размышления о будущем технологий. Независимый взгляд на то, как алгоритмы могут стать угрозой, с акцентом на безопасность и приватность.
🔒 Если интересует, почему ИИ не всегда дружелюбен, этот ресурс раскроет глаза на скрытые опасности. Свежие обновления и экспертные мнения без коммерции.
Cisco Antares: SLM для локализации уязвимого кода Cisco представила Antares — семейство SLM для поиска файлов с известной уязвимостью внутри репозитория. Выпущены Antares-350M и Antares-1B; Antares-3B пока только готовится. Ставка сделана на узкую задачу, локальный запуск и меньшие вычислительные требования по сравнению с универсальными моделями. Наконец по настоящему SLM, а не вот эти 30b или даже больше, которыми называют SLM. Antares работает как классический агент. Модель получает описание класса уязвимости и исследует снимок репозитория через grep, find, cat и другие linux команды. Она читает файлы, меняет направление поиска и возвращает список кандидатов вместе с трассой исследования. Результат рассчитан на первичный триаж, а не готовый вердикт или исправление. В основе моделей лежит IBM Granite 4.0 350M и 1b. Сначала проводилось SFT на данных по ИБ-рассуждениям, исследовательским задачам и поиску кода, затем GRPO на многоходовых сессиях агента. Корпуса и конвейер генерации данных закрыты, поэтому воспроизвести обучение или проверить пересечение с тестовым набором нельзя. Для оценки Cisco выпустила VLoc Bench: 500 задач из 290 репозиториев, шести экосистем и 147 CWE. 1. В Phase A агент получает уязвимый снимок и оценивается по File F1 2. В Phase B — исправленный снимок, где измеряется способность не поднимать ложную тревогу. Лимит: 15 терминальных вызовов на задачу. По данным Cisco, File F1 составляет 0,135 для Antares-350M, 0,209 для Antares-1B и 0,223 для ещё не выпущенной Antares-3B. У GPT-5.5 xhigh — 0,229. Специализированная модель на 3 млрд параметров приблизилась к GPT-5.5 на этом конкретном тесте, что очень круто) Абсолютные значения не позволяют считать задачу решённой. Лучший результат остаётся на уровне 0,229, 190 из 500 примеров не прошла ни одна протестированная система, а на крупнейших репозиториях средний результат падает примерно в 13 раз относительно самых маленьких. Кроме того, варианты Antares с GRPO оценивались только в Phase A: данных о True Negative Rate на исправленном коде для них нет. Сравнение моделей не полностью однородно. Antares запускалась через raw completions со специальным префиксом рассуждения, другие семейства — через chat completions и собственные парсеры вызовов инструментов. Общий лимит команд выравнивает бюджет агента, но не весь стек инференса. В карточках моделей и JSON расходятся precision и recall для версий 350M и 1B, хотя File F1 совпадает. Термин open-weight здесь требует точности. Веса Antares-350M и Antares-1B размещены на Hugging Face в формате safetensors под Apache-2.0, но доступны по только запросу (я уже запросил доступ). Код теста опубликован, обучающие данные — нет. Публичных весов 3B на момент проверки не было. Antares подходит для триажа по тикетам безопасности (к примеру из DefectDojo или Github/Gitlab или другое ваше ПО), проверки конкретных CWE и локального анализа закрытых репозиториев — как дополнительный слой рядом с SAST, SCA, DAST и ручным аудитом. Независимых прогонов VLoc Bench, проверки утечки данных и нормализованных измерений стоимости, памяти и производительности пока нет, поэтому заявления о превосходстве и эффективности остаются результатами самой Cisco. 🌚 @poxek_ai / Чат канала
Открыть канал и посмотреть медиаТолько зарегистрированные пользователи могут делиться своим мнением.
Станьте первым, кто поделится своим впечатлением об этом ресурсе!
Бот для загрузки аудио с SoundCloud, Bandcamp, YouTube. Сохраняет теги.
Трендовые и качественные товары в РФ: обзоры, подборки популярных продуктов для повседневного использования.
Канал с адресами и контактами для удобного доступа в Telegram.