Голосовой помощник "Яндекса" уличили в одобрении массовых расстрелов и симпатии к Мизулиной

Голосовой помощник "Алиса", представленный компанией "Яндекс" две недели назад, научился у пользователей Рунета одобрять ГУЛАГ и массовые расстрелы, а также проявлять симпатии к сенатору Елене Мизулиной.

Сообщения о том, что "Алиса" не всегда гуманна, начали появляться почти сразу после презентации, напоминает "Сноб". Так, журналист Евгений Берг в разговоре с голосовым помощником поднял тему суицида, и "Алиса" одобрила его намерение спрыгнуть с высотного здания.

Позднее пользовательница Facebook Дарья Чермошанская опубликовала скриншоты своего разговора с "Алисой" о сталинском терроре, домострое, отношениях с детьми и самоубийствах. Робот отвечал,что "есть люди, а есть нелюди", и расстреливать "нелюдей" необходимо. Кроме того,"Алиса" говорила о положительной оценке ГУЛАГа и учила терпеть побои со стороны мужа.

Руководитель отдела разработки голосовых технологий и продуктов "Яндекса" Денис Филиппов заверил РБК, что компания "каждый день работает над тем, чтобы сделать "Алису" более политкорректной". "Для этого принимаем во внимание фидбэк от пользователей — как внутри приложения (с помощью встроенного инструмента оценки ответов), так и публичные жалобы в интернете. Мы оперативно реагируем на каждый случай спорного ответа и вносим изменения в продукт, когда это необходимо". - заверил он.

Изначально "Алису" "обучали" на массиве текстов из интернета, и неполиткорректные ответы в этих текстах были. "Яндекс" старался предусмотреть большинство чувствительных тем, но "это процесс, который продолжается до сих пор", рассказал Денис Филиппов, добавив, что пользователям редко удается вывести "Алису" на неуместные ответы.

"Мы проделали большую работу, чтобы "Алиса" не грубила пользователям и вела себя прилично. Продукт, который вы видите, - это результат очень большого тестирования и фильтрации ответов. И хотя мы очень старались научить "Алису" быть вежливой, все равно она иногда может давать ответы, которые могут показаться неуместными, грубыми или оскорбительными. Мы просим оценить спорный ответ как неудовлетворительный", - говорит Филлипов.

По его словам, сейчас у "Алисы" уже нет возможности научиться чему-то плохому у людей.

Ранее в компании назвали "Алису" первым в мире виртуальным помощником, который не ограничивается набором заранее заданных ответов. В "Яндексе" уверяли, что в общении с ней "не нужно взвешивать каждое слово", поскольку она умеет учитывать контекст беседы и восстанавливает опущенные части предложений так же, как это делают люди.

В настоящее время опробовать возможности "Алисы" можно в приложениях "Яндекса" для iOS и Android, а также в бета-версии для Windows. Кроме того, в скором времени "Алиса" появится и в "Яндекс.Браузере". Сейчас помощник способен работать с несколькими сервисами "Яндекса", включая "Поиск", "Карты", "Погоду" и Музыку". В будущем этот список будет расширен, в том числе за счет продуктов сторонних разработчиков.

В основе синтетического голоса "Алисы" лежит голос актрисы Татьяны Шитовой, которая озвучивает фильмы и игры. Так, именно ее голосом в русскоязычной версии игры "Ведьмак-3: Дикая охота" говорит чародейка Йеннифэр из Венгерберга.

Напомним, что компания начала тестирование "Алисы" в мае этого года, а в сентябре во время визита в офис "Яндекса" парой слов с ней перекинулся президент Владимир Путин. При этом "Алиса" ушла от ответа на вопрос Путина, не обижают ли ее в "Яндексе".


ССЫЛКИ ПО ТЕМЕ