🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
👻 «Призраки» ИИ заражают академические публикации
Исследователи из Samsung и Варшавского университета нашли в научных статьях вымышленных соавторов: имена вроде Елены Васкес и Маркуса Чена не принадлежат реальным людям — их генерируют языковые модели.
Почему так происходит: LLM склонны повторять одни и те же имена в похожих задачах. [OI], Gemini и Claude часто «назначают» персонажа Элиаса Торна смотрителем маяка, а при генерации экспертов по технике — вписывают Маркуса Чена. У каждой модели есть свои любимцы: у Claude — Елена Амара Оконкво, у Gemini — Лена Петрова, у [OI] — Элара Восс.
Масштаб проблемы: на Zenodo (хранилище ЦЕРН) нашли 1655 записей от «призрачных» авторов. Журналы, где якобы вышли эти статьи, не существуют, а даты публикаций сфабрикованы.
Что это значит для нас: по именам можно определить, какая модель написала текст — так, Елена Васкес чаще всего появляется в генерациях конкретной LLM. Но этот «отпечаток» недолговечен: сгенерированный контент распространяется по интернету и попадает в обучающие данные новых моделей, стирая следы.
Вывод: доверять спискам авторов вслепую больше нельзя. Проверка источников и авторства становится обязательной частью работы с научной литературой.
🌐 Источник: Хабр / 404 Media
#ИИ #наука #исследования #LLM #академия