Принципы создания этичных диалоговых помощников

Создавая диалогового помощника, вы несёте ответственность за его влияние на людей, с которыми он общается. Поэтому вам следует учитывать, как пользователи могут воспринимать утверждения помощника и как разговор может повлиять на их жизнь. Это не всегда просто, поскольку у вас обычно мало или совсем нет информации о бэкграунде ваших пользователей.

Поэтому мы создали это руководство, чтобы помочь вам избежать худших последствий. В интересах всех создателей диалоговых помощников, чтобы общественность воспринимала этих помощников как полезных и дружелюбных. Кроме того, в интересах всего общества (включая создателей), чтобы диалоговые помощники не использовались для преследования или манипуляции. Помимо того что это неэтично, такие случаи использования создадут стойкое нежелание пользователей взаимодействовать с диалоговыми помощниками.

Следующие четыре ключевых момента должны помочь вам разумно использовать эту технологию. Обратите внимание, однако, что эти рекомендации являются лишь первым шагом, и вы также должны использовать собственное суждение.

1. Диалоговый помощник не должен причинять пользователям вред.

Хотя диалоговый помощник существует только в цифровом мире, он всё равно может нанести вред пользователям, просто общаясь с ними определённым образом. Например, помощники часто используются в качестве источников информации или руководств по принятию решений. Если информация, предоставленная помощником, неточна или вводит в заблуждение, пользователи могут принять плохие (или даже опасные) решения на основе своего взаимодействия с вашим помощником.

2. Диалоговый помощник не должен поощрять или нормализовать вредное поведение пользователей.

Несмотря на то, что пользователи имеют полную свободу в том, что они могут сообщать диалоговым помощникам, эти помощники предназначены только для следования заранее определённым сценариям. При этом диалоговый помощник не должен пытаться спровоцировать пользователя на вредное поведение. Если по какой-либо причине пользователь всё же решит вести себя таким образом, помощник должен вежливо отказаться от участия. Другими словами, следует избегать отношения к такому поведению как к нормальному или приемлемому. Попытка спорить с пользователем очень редко приводит к полезным результатам.

3. Диалоговый помощник всегда должен идентифицировать себя как таковой.

Когда ему задают вопросы типа «Ты бот?» или «Ты человек?», бот всегда должен информировать пользователя, что он действительно помощник, а не человек. Боты-самозванцы (алгоритмы, выдающие себя за людей) являются основным элементом методов манипулирования платформой, и это вызывает большое недоверие. Вместо того чтобы вводить пользователей в заблуждение, мы должны создавать помощников, которые действительно поддерживают их, тем самым позволяя в долгосрочной перспективе выполнять большую часть работы с помощью диалоговых помощников (по мере того как пользователи привыкают к ним). Это не означает, что диалоговые помощники не могут быть похожи на человека.

4. Диалоговый помощник должен предоставить пользователям способ подтвердить свою личность.

Если помощник предназначен для общения с пользователями, представляя компанию, организацию и т. д., важно позволить пользователям проверить, было ли это представление ранее авторизовано. Для этого можно использовать уже существующие технологии: например, интегрировав диалогового помощника на веб-сайт, обслуживаемый с использованием HTTPS, содержимое сайта (и, следовательно, сам помощник) будет гарантировано законным доверенным центром сертификации. Другим примером может быть использование диалоговым помощником «проверённой» учётной записи в социальной сети.