🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
💻OpenAI привлекла сотни сторонних подрядчиков, которые читают переписки пользователей с ChatGPT.
OpenAI привлекла сотни сторонних подрядчиков, которые читают и оценивают реальные переписки пользователей с ChatGPT для улучшения моделей искусственного интеллекта компании. Инициатива имеет кодовое название Project Lily.
Иногда разговоры с чат‑ботами содержат конфиденциальную информацию, к которой имеют доступ нанимаемые OpenAI подрядчики. Заявляется, что цель Project Lily заключается в улучшении ответов, которые ChatGPT предоставляет своим пользователям.
Подрядчики оценивают и критикуют сгенерированные чат‑ботом результаты. Также они обучают чат‑бот не очеловечивать себя и быть менее склонным к «подхалимству» — это одна ключевых проблем OpenAI.
Подрядчики не видят имена пользователей ChatGPT. В свою очередь OpenAI заявляет, что старается удалять личную информацию до того, как промпты попадут к проверяющим. Однако компания признаёт, что конфиденциальные данные всё же могут проходить через этот фильтр.
Сведения о Project Lily развеивают ошибочное представление о том, что языковые модели совершенствуются только благодаря массовому сбору OpenAI данных из интернета, таланту её высокооплачиваемых инженеров и специалистов по ИИ, а также возможностям новых поколений моделей.