Microsoft publicerar riktlinjer för utvecklare som bygger digitala assistenter

Microsoft har släppt en uppsättning riktlinjer för att hjälpa utvecklare att bygga ”ansvarsfulla” digitala assistenter. Antagandet av konversationsgränssnitt växer bland snabba förbättringar av den underliggande tekniken.

Microsoft sa att riktlinjerna är avsedda att påminna utvecklare om att deras produkter kan användas på sätt som de inte alltid kan förutse. Även om etisk design alltid har varit relevant för teknikindustrin är det särskilt viktigt när det gäller samtalsgränssnitt.

Microsoft använde exemplet med en pizza beställnings bot. Tjänsten ska utformas för att underlätta beställningen av pizza, med minimal känslighet för användarens distraktion. Om användaren försöker diskutera ”känsliga ämnen”, som ras, kön, religion eller politik, bör tjänsten avstå från att engagera sig på ungefär samma sätt som en mänsklig pizzaserver skulle göra. Annars kan eventuella fördomar i botens algoritmer leda till att den lär sig oönskade beteenden från kunden.

Resten av riktlinjerna fortsätter längs liknande teman. Sammantaget betonar Microsoft att bots kan vara bra för samhället, om utvecklare är medvetna om de potentiella problemen. Organisationer måste vara på förhand om sin användning av bots. Alla AI-drivna tjänster måste förbli fria från fördomar och respektera kulturella standarder.

”I allmänhet betonar riktlinjerna utvecklingen av konversations-AI som är ansvarsfull och pålitlig redan från designprocessens början”, säger Lili Cheng, Microsoft Corporate Vice President för Conversational AI. ”De uppmuntrar företag och organisationer att stanna upp och fundera över hur deras bot kommer att användas och vidta nödvändiga åtgärder för att förhindra missbruk. I slutet av dagen handlar riktlinjerna om förtroende, för om människor inte litar på tekniken kommer de inte att använda den. ”

Du hittar den fullständiga listan med riktlinjer på Microsoft Researchs webbplats. Även om de inte är hårda regler, inkapslar de de grundläggande etiska standarderna att tänka på när man utvecklar bots. Microsoft publicerade riktlinjerna denna vecka tillsammans med en ny uppsättning AI-tekniker, inklusive en snabbstartsverktygssats för utvecklare som skapar digitala assistenter.