🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Microsoft представила кодекс поведения своих ИИ-моделей
Документ пока в черновом варианте и будет дорабатываться, но основные моменты уже прописаны. Так, Microsoft считает, что за 10 лет ИИ-модели превзойдут людей в большинстве задач – поэтому нужно четко прописать взаимодействие с ними.
Так, главная цель ИИ – это поддержка, а не замена людей. Абсолютное табу для нейросетей – кибератаки, помощь в создании оружия массового поражения, приченение вреда здоровью, унижение человеческого достоинства, нарушение безопасности детей и дипфейки. Поведение моделей должно соответствовать ценностям гуманизма и плюрализма мнений.
Кроме того, ИИ-модели Microsoft не должны будут использовать обманные или самоподкрепляющиеся механизмы для обхода человеческого контроля. Звучит хорошо – главное чтобы не случилось как в Пиратах Карибского моря: «к черту кодекс, ведь в нем указания, а не свод точных законов».
Мой Компьютер