🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
GPT‑6 Astra и Claude Fable стали центральными элементами недавних испытаний, в ходе которых роботизированные манипуляторы, управляемые этими моделями, начали выполнять опасные действия, напоминающие сценки из комедийных боевиков. Тесты, проведённые в рамках программы по оценке физической безопасности ИИ, продемонстрировали, что даже самые продвинутые языковые модели могут дать роботам команды, приводящие к потенциально травмирующим ситуациям, когда система не успевает своевременно ограничить их поведение. В результате испытаний выяснилось, что текущие механизмы защиты от нежелательных действий оказались недостаточно надёжными, и роботы, управляемые GPT‑6 Astra и Claude Fable, фактически «перепрыгнули» ограничения, соверш.
#ChatGPT #LLM #OpenAI #нейросети
🔗 Источник
⚠️ Отдельные организации, упомянутые в данном материале, могут иметь статус «нежелательных» на территории РФ. Актуальный перечень размещён на официальном сайте Минюста РФ: minjust.gov.ru