🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
🚨 У медицинского ИИ появилась склонность к дискриминации женщин и расизму
Медицинский ИИ сталкивается с серьёзными проблемами. Системы, обученные на данных, которые исторически были ориентированы на мужчин белой расы, дают менее точные рекомендации для женщин и представителей других рас. Это связано с тем, что в обучающих выборках недостаточно информации о других группах.
Кроме того, ИИ часто использует сомнительные источники, включая советы с форумов, что снижает качество диагнозов. Системы также хуже работают с неграмотно составленными запросами, отправляя пользователей к врачам, даже если проблема не требует срочного вмешательства.
Ещё одна опасность — «галлюцинации» ИИ, когда он выдаёт неверную информацию, что может угрожать здоровью. Эксперты считают, что ИИ в медицине полезен, но его нужно развивать, уделяя внимание тем проблемам, которые традиционно остаются в тени.