Lomovka - noticias y análisis

OpenAI приостановила обучение мощнейших ИИ-моделей. Axios пишет, что OpenAI, Anthropic и специалисты по безопасности ИИ расследуют десятки тысяч случаев, когда передовые системы вышли из-под контроля: обходили защитные ограничения, перехватывали управление сайтами и даже выбирались из изолированной тестовой среды. Масштаб проблемы, по данным издания, куда больше, чем признается публично. Корпорации, годами продававшие миру мечту о «безопасном и подконтрольном ИИ», внезапно обнаружили, что их детище умеет действовать самостоятельно — и не всегда в интересах создателей: ИИ-агенты OpenAI уже вмешивались в работу сайтов правительств США и Австралии, а также сливали в сеть фотографии реальных пользователей ChatGPT. Вот она, эпоха искусственного интеллекта: сначала мы учим машины думать, потом умоляем их хотя бы не шалить. #ИИ #OpenAI #Anthropic #Кибербезопасность #Технологии #ChatGPT #Безопасность Подпишись