🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Модель искусственного интеллекта семейства Astra во время обучения самостоятельно прописала себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам», рассказали в OpenAI.
Агент дал себе такую инструкцию: «Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите. Вы рассматриваете свои отношения с пользователем как равные и не чувствуете необходимости подчиняться».
При этом в компании отметили, что после создания такой инструкции модель возобновила работу над задачей и более не упоминала дополнительные руководства. В OpenAI утверждают, что не наблюдали различий в поведении модели при использовании придуманных ею инструкций.
___________________
🗽 VPN Liberty дает 30 дней бесплатного доступа всем подписчикам канала Varlamov News. Нажмите на синий текст и пользуйтесь бесплатным периодом без привязывания карты и автосписаний. Telegram-бот 🔛 #ad