🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Что: главный учёный OpenAI признал, что ИИ становится НЕПОНЯТНЫМ даже для своих создателей.
Chief Scientist компании Джакуб Пахоцки опубликовал эссе «An Alien Mind». Он пишет, что развитие моделей идёт быстрее, чем понимание того, как они думают и принимают решения.
Пахоцки прямо говорит: никто не готов к последствиям стремительного роста ИИ. По его словам, ни одна лаборатория пока не решила проблему выравнивания и мониторинга настолько, чтобы безопасно продолжать масштабирование.
Отдельно он отмечает риски кибербезопасности: модели становятся слишком эффективны во взломе систем. Пахоцки призывает к добровольным паузам в разработке, пока не появятся общие стандарты безопасности.
Страшно 😶
