🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Этика в продукте
Когда мы создаем новый продукт или фичу, мы в первую очередь думаем об успешном сценарии. Гораздо реже мы задаем два других вопроса: что будет, если пользователь применит продукт не так, как мы задумали, или во вред другим?
Для первого есть термин misuse, неправильное или непредусмотренное использование, а для второго — abuse, намеренное злоупотребление возможностями продукта. И по мере того как продукты становятся сложнее, автономнее и теснее связаны с реальным миром, способность заранее видеть такие сценарии становится большей необходимостью.
Сегодня мы воспринимаем защитную пленку или пломбу на упаковке лекарства как стандартную ее часть. Но это механизм безопасности, который должен показать пользователю, что упаковка могла быть вскрыта. Требования к такой упаковке появились после серии случаев намеренного отравления лекарств в 1980-х.
То же самое произошло со множеством других продуктов после инцидентов. Появились аварийная ручка внутри багажника автомобиля, звуковое предупреждение об использовании AirTag и кнопки экстренного вызова. В цифровом мире — двухфакторная аутентификация, лимиты на переводы и модерация контента.
Несмотря на то, что практика проектировать продукты с учетом возможного злоупотребления не нова, некоторые продукты продолжают наносить вред, особенно те, которые находятся на пересечении цифрового и физического мира.
Например, AR-очки и wearables, которые могут постоянно видеть окружающую среду, слышать разговоры, понимать контекст и знать местоположение пользователя. Главная проблема этой категории — асимметрия согласия: решение о записи принимает один человек, а последствия несет другой, который часто вообще не знает, что находится в кадре. Такие продукты почти наверняка начнут меняться после первых массовых негативных кейсов распознавания лиц, нарушения приватности и скрытой съемки.
В эту же категорию можно отнести автономные автомобили (что если злоумышленник получит доступ к системе управления?), умный дом (что случится при возможном сбое?), AI-агенты, действующие от имени пользователя (как гарантировать, что агенту не будет использовать ключи и доступы во вред?).
Как действовать продакту?
Устойчивый продукт проектируется не только для ожидаемого поведения. Нужно ответить на еще ряд вопросов до начала разработки:
— Кто может пострадать от этой функции, не будучи её пользователем?
— Как продукт могут использовать не по назначению?
— Как его может использовать злоумышленник?
— Какой вред может возникнуть даже без злого умысла?
Этот дополнительный этап можно назвать дискавери рисков или негативных сценариев. Приоритизировать их можно по трем осям: обратимость последствий, их тяжесть и заметность для пользователя.
И здесь есть важный принцип: не всякое трение в CJM — плохой UX. Мы привыкли воспринимать дополнительные шаги как угрозу конверсии: еще один экран, подтверждение, пароль, предупреждение, проверка личности. Но иногда эти механизмы — это цена того, чтобы пользователь не потерял деньги, данные или контроль над своим аккаунтом.
Этика в продукте — не тормоз для инноваций, а способ сделать инновации устойчивыми. Устойчивый продукт учитывает, что пользователь может ошибиться, система может дать сбой, злоумышленник будет искать уязвимость, а новый сценарий использования появится там, где его никто не ожидал. В конечном счете зрелость продуктовой команды можно измерять не только тем, насколько хорошо она умеет создавать новые возможности, но и тем, насколько хорошо она умеет предвидеть последствия собственных решений.
❤️, если было интересно.