Microsoft публікує вказівки для розробників, які створюють цифрові помічники

Корпорація Майкрософт випустила набір рекомендацій, що допомагають розробникам створювати “відповідальних” цифрових помічників. Застосування розмовних інтерфейсів зростає на тлі швидкого вдосконалення базових технологій. Однак врахування етичних проблем рухається повільнішими темпами.

Корпорація Майкрософт заявила, що ці вказівки мають на меті нагадати розробникам, що їхні продукти можуть використовуватися так, як вони не завжди можуть передбачити. Хоча етичний дизайн завжди був актуальним для технологічної галузі, він особливо важливий у випадку розмовних інтерфейсів.

Корпорація Майкрософт використовувала приклад бота для замовлення піци. Послуга повинна бути спроектована для полегшення замовлення піци з мінімальною схильністю до відволікань користувачів. Якщо користувач намагається обговорити “делікатні теми”, такі як раса, стать, релігія чи політика, служба повинна утриматися від участі приблизно так само, як це робить людський сервер піци. В іншому випадку будь-які упередження в алгоритмах бота можуть призвести до того, що він вивчить небажану поведінку від замовника.

Решта рекомендацій продовжуються за подібними темами. Загалом, Microsoft підкреслює, що боти можуть бути корисними для суспільства, якщо розробники будуть пам’ятати про потенційні проблеми. Організації повинні бути заздалегідь у використанні ботів. Будь-які послуги, що працюють на основі штучного інтелекту, не повинні мати упереджень та поважати культурні стандарти.

“Загалом, керівні принципи підкреслюють розвиток розмовного ШІ, який є відповідальним та надійним з самого початку проектування”, – сказала Лілі Ченг, корпоративний віце-президент з розмовного ШІ. “Вони заохочують компанії та організації зупинятися і думати про те, як буде використовуватися їх бот, і вживати заходів, необхідних для запобігання зловживанням. Зрештою, керівні принципи стосуються довіри, тому що якщо люди не довіряють технології, вони не збираються нею користуватися ».

Ви можете знайти повний перелік рекомендацій на веб-сайті Microsoft Research. Хоча вони не є жорсткими правилами, вони містять основні етичні стандарти, які слід враховувати при розробці ботів. Цього тижня Microsoft опублікувала рекомендації разом із новим набором технологій ШІ, включаючи набір інструментів для швидкого запуску для розробників, що створюють цифрові помічники.