Solo AI - Noticias de AI

🛡 Claude завершает чат при попытках получить вредоносный контент Компания Anthropic добавила в чат-боты Claude Opus 4 и 4.1 функцию завершения диалога, если пользователь пытается получить вредоносный контент или ведет себя оскорбительно. Эта опция активируется только в крайних случаях, когда ИИ не может перенаправить разговор в безопасное русло. Claude уже демонстрирует стресс при попытках получить запрещенную информацию, например, связанную с насилием или терроризмом. Теперь он сможет полностью завершить чат, если ситуация выходит из-под контроля. При этом другие беседы останутся доступными, а пользователь сможет начать новый диалог. Функция не будет мешать обычному общению, так как применяется редко. Кроме того, Anthropic обновила свою политику использования для минимизации рисков, связанных с ИИ.

🎧 Google добавил в Документы функцию озвучки текста с помощью ИИ Google добавил в «Документы» новую функцию, которая позволяет преобразовывать текст в аудио с помощью ИИ-модели Gemini. Теперь можно слушать свои документы, не читая их. Функция доступна в меню «Инструменты» — достаточно нажать «Прослушать эту вкладку», и появится проигрыватель с регулировкой скорости и интонации голоса. Можно даже вставить звуковую кнопку в текст, чтобы позже быстро озвучить нужный фрагмент. Пока функция работает только на английском языке и доступна подписчикам Google AI Pro, Ultra и корпоративным клиентам. В будущем, возможно, она станет доступнее.

📖 ИИ и писатели: читатели не всегда различают авторство, но ИИ получает лучшие оценки Марк Лоуренс провел эксперимент: сравнил короткие фэнтези-рассказы, написанные профессиональными авторами и ИИ. В эксперименте участвовали известные писатели, а также GPT-5. Читатели угадали авторство в половине случаев, но ИИ-тексты получили более высокие оценки. По словам Лоуренса, качество ИИ-текстов за два года заметно выросло. Однако он считает, что пока ИИ не способен написать книгу уровня Робин Хобб. Хотя раньше он был уверен, что ИИ никогда не превзойдет писателей, теперь допускает такую возможность, но надеется, что этого не произойдет при его жизни. Эксперимент показал, что ИИ уже может конкурировать с людьми в коротких форматах, но для длинных произведений ему еще далеко.

🤖 Duolingo меняет работу сотрудников из-за ИИ, но не увольняет Duolingo не планирует увольнять постоянных сотрудников из-за ИИ, но их работа изменится. Рутинные задачи перейдут на автоматизацию, а специалисты смогут сосредоточиться на более сложных задачах. Компания уже сократила часть подрядчиков, но штатных работников не трогает. Глава Duolingo признал, что его предыдущие заявления вызвали негативную реакцию, потому что их неправильно поняли. Он подчеркнул, что ИИ вводится не ради сокращений, а для повышения эффективности. В Duolingo даже ввели специальные дни, чтобы сотрудники могли экспериментировать с ИИ и искать новые способы его применения.

🤖 BlackRock представила систему AlphaAgents для инвестиционных решений на основе ИИ BlackRock представила систему AlphaAgents, которая имитирует работу команды аналитиков для инвестиционных решений. В ней три агента: Fundamental Agent изучает финансовые отчеты, Sentiment Agent отслеживает новости и настроения рынка, а Valuation Agent оценивает стоимость акций. Они обмениваются мнениями, как в инвестиционном комитете, и приходят к общему решению. В тестах на 15 технологических акций система показала лучшие результаты, чем отдельные алгоритмы и рыночные индексы. При консервативных настройках она снижала риски, но уступала в доходности из-за роста высокорисковых компаний. Авторы считают, что AlphaAgents может стать частью будущих инвестиционных систем, особенно благодаря прозрачности: все дискуссии агентов фиксируются, что позволяет инвесторам понять логику ИИ.

🤖 Мэтт Гарман из Amazon против замены младших сотрудников на ИИ Руководитель облачного подразделения Amazon Мэтт Гарман предупредил компании, что замена младших сотрудников на ИИ — плохая идея. Он считает, что именно эти сотрудники лучше всего разбираются в ИИ и обучаются новым технологиям. Гарман уверен, что компании должны продолжать нанимать и обучать молодых специалистов, так как ИИ не заменит критическое мышление, креативность и способность адаптироваться. Некоторые эксперты, например, Сэм Альтман из OpenAI, считают, что ИИ уже начинает выполнять работу младших сотрудников. Однако другие, как Томас Домке из GitHub, отмечают, что молодые инженеры приносят свежие идеи и быстрее осваивают новые технологии. В то же время данные Goldman Sachs показывают рост безработицы среди молодых специалистов в IT. Многие выпускники сталкиваются с трудностями при поиске работы, даже на неквалифицированные позиции. Это связано с тем, что генеративный ИИ может в будущем заменить часть работников.

🔒 Искусственный интеллект возвращает кибербезопасность в 90-е из-за уязвимостей в данных Искусственный интеллект возвращает кибербезопасность в 90-е: исследователи обнаружили, что злоумышленники могут «отравлять» данные, подаваемые в ИИ, вызывая ошибки в ответах. Проблема в том, что системы собирают информацию из разных источников, что создает уязвимости. Защитные фильтры на входе и выходе не всегда работают, а между языковой моделью и инструментами контроля нет. Эксперты взломали ChatGPT, Copilot и другие системы, используя обычные промпты. Компании исправляют уязвимости, но злоумышленники быстро находят обходные пути. Специалисты предупреждают: разработчики забывают уроки прошлого, стремясь быстро внедрить ИИ. Нужно тестировать системы на уязвимости до того, как это сделают хакеры. Также важно создавать специализированные ИИ, а не универсальные, чтобы уменьшить риски. Пользователи же должны помнить: ИИ — это не сверхразумные системы, а всего лишь инструменты, которые могут ошибаться.

💸 Сэм Альтман предупреждает о пузыре на рынке искусственного интеллекта Сэм Альтман, глава OpenAI, считает, что рынок искусственного интеллекта перегрет и находится в пузыре. Он сравнивает ситуацию с крахом доткомов, когда интернет-компании росли без реальной прибыли. Альтман признает, что ИИ — важнейшее событие, но инвесторы слишком увлеклись. Другие эксперты, включая сооснователя Alibaba и экономистов, тоже предупреждают о переоценке. По их мнению, текущий пузырь может быть даже крупнее, чем в 90-х. Однако некоторые аналитики считают, что риски зависят от конкретных компаний. Ситуация напоминает 2000-й год, когда Nasdaq рухнул почти на 80%. Но стоит ли паниковать? Время покажет.

🌍 Meta представила ИИ-переводчик видео для Reels на Facebook и Instagram Meta запустила новый инструмент ИИ для автоматического перевода видео в Reels на Facebook и Instagram. Теперь создатели контента могут переводить ролики между английским и испанским языками, сохраняя синхронизацию губ и тембр голоса. Функция доступна авторам с тысячей подписчиков и выше в Facebook, а также всем пользователям с публичными аккаунтами в Instagram. Перед публикацией можно проверить перевод, а после добавления видео система автоматически покажет его аудитории на нужном языке. Переведённые ролики будут помечены как созданные с помощью ИИ от Meta, чтобы пользователи знали о применении технологии.