Microsoft публикует рекомендации для разработчиков, создающих цифровых помощников

Microsoft выпустила набор руководящих принципов, чтобы помочь разработчикам создавать «ответственных» цифровых помощников. Внедрение диалоговых интерфейсов растет на фоне быстрых улучшений базовых технологий. Однако рассмотрение этических проблем продвигается медленнее.

Microsoft заявила, что руководство призвано напомнить разработчикам, что их продукты могут использоваться способами, которые они не всегда могут предвидеть. Хотя этический дизайн всегда был актуален в технологической индустрии, он особенно важен в случае диалоговых интерфейсов.

Microsoft использовала пример бота для заказа пиццы. Сервис должен быть разработан таким образом, чтобы упростить заказ пиццы, с минимальной восприимчивостью к отвлечению пользователя. Если пользователь пытается обсудить «деликатные темы», такие как раса, пол, религия или политика, служба должна воздерживаться от участия во многом так же, как это сделал бы сервер пиццы. В противном случае любые предубеждения в алгоритмах бота могут привести к тому, что он узнает нежелательное поведение от клиента.

Остальные руководящие принципы следуют аналогичным темам. В целом Microsoft подчеркивает, что боты могут быть полезны для общества, если разработчики будут помнить о потенциальных проблемах. Организации должны заранее сообщить об использовании ботов. Любые сервисы на основе ИИ должны оставаться свободными от предубеждений и уважать культурные стандарты.

«В целом в рекомендациях делается упор на разработку диалогового ИИ, который является ответственным и заслуживающим доверия с самого начала процесса проектирования», — сказала Лили Ченг, корпоративный вице-президент Microsoft по разговорным ИИ. «Они побуждают компании и организации остановиться и подумать о том, как их бот будет использоваться, и предпринять шаги, необходимые для предотвращения злоупотреблений. В конце концов, все правила основаны на доверии, потому что, если люди не доверяют технологии, они не собираются ее использовать ».

Вы можете найти полный список рекомендаций на веб-сайте Microsoft Research. Хотя это не жесткие правила, они содержат основные этические стандарты, которые следует учитывать при разработке ботов. На этой неделе Microsoft опубликовала рекомендации вместе с новым набором технологий искусственного интеллекта, включая набор инструментов для быстрого старта для разработчиков, создающих цифровых помощников.