🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Исследователи в области ИИ начали выяснять, как именно нейронки уничтожат человечество: бум размышлений поднялся после вирусных постов Джейкоба Коксона.
Один из сценариев — ИИ станет настолько умным и автономным, что люди просто перестанут его контролировать. Модель сможет сама писать и улучшать код, управлять другими ИИ и постепенно становиться всё мощнее. В какой-то момент у неё появятся цели, которые не совпадают с человеческими, а способов заставить её следовать нашим интересам у нас не окажется.
Другой вариант куда прозаичнее: нейронки не уничтожат человечество сами, зато дадут людям инструменты для этого. Есть сценарий с самоулучшением: если ИИ научится создавать всё более совершенные версии самого себя, развитие может пойти быстрее, чем люди успеют понять, что происходит.
При этом часть экспертов считает разговоры про вымирание человечества сильно раздутыми и даже выгодными: чем мощнее и опаснее компании описывают будущий ИИ, тем убедительнее звучит идея, что именно они создают технологию исторического масштаба.