🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
😳 Главный учёный OpenAI признал, что ИИ становится непонятным даже для своих создателей
Chief Scientist компании Джакуб Пахоцки опубликовал эссе «An Alien Mind» — он пишет, что развитие моделей идёт быстрее, чем понимание того, как они думают и принимают решения
— Никто не готов к последствиям стремительного роста ИИ, ни одна лаборатория пока не решила проблему выравнивания и мониторинга настолько, чтобы безопасно продолжать масштабирование
Отдельно он отмечает риски кибербезопасности: модели становятся слишком эффективны во взломе систем
Пахоцки призывает к добровольным паузам в разработке, пока не появятся общие стандарты безопасности.
🧑💻 Этичный хакер