Microsoft publiserer retningslinjer for utviklere som bygger digitale assistenter

Microsoft har gitt ut et sett med retningslinjer for å hjelpe utviklere med å bygge «ansvarlige» digitale assistenter. Adopsjon av samtalegrensesnitt vokser blant raske forbedringer i de underliggende teknologiene. Hensynet til de etiske problemene beveger seg imidlertid i et lavere tempo.

Microsoft sa at retningslinjene er ment å minne utviklere om at produktene deres kan brukes på måter de ikke alltid kan forutsi. Selv om etisk design alltid har vært relevant for teknologiindustrien, er det spesielt viktig når det gjelder samtalegrensesnitt.

Microsoft brukte eksemplet på en pizza som bestiller bot. Tjenesten skal utformes for å gjøre det lettere å bestille pizza, med minimal følsomhet for brukerdistraksjoner. Hvis brukeren prøver å diskutere «sensitive temaer», som rase, kjønn, religion eller politikk, bør tjenesten avstå fra å engasjere seg på samme måte som en menneskelig pizzaserver ville gjort. Ellers kan eventuelle skjevheter i botens algoritmer føre til at den lærer uønsket oppførsel fra kunden.

Resten av retningslinjene fortsetter etter lignende temaer. Samlet sett understreker Microsoft at roboter kan være bra for samfunnet, hvis utviklere holder seg oppmerksom på de potensielle problemene. Organisasjoner må være på forhånd om deres bruk av roboter. Alle AI-drevne tjenester må være fri for partiskhet og respektere kulturelle standarder.

«Generelt understreker retningslinjene utviklingen av samtaler AI som er ansvarlig og pålitelig helt fra begynnelsen av designprosessen,» sa Lili Cheng, Microsoft Corporate Vice President for Conversational AI. «De oppfordrer selskaper og organisasjoner til å stoppe opp og tenke på hvordan deres bot vil bli brukt og ta de nødvendige skritt for å forhindre misbruk. På slutten av dagen handler retningslinjene om tillit, for hvis folk ikke stoler på teknologien, kommer de ikke til å bruke den. «

Du finner den fullstendige listen over retningslinjer på Microsoft Researchs nettsted. Selv om de ikke er harde regler, innkapsler de de grunnleggende etiske standardene som du bør vurdere når du utvikler roboter. Microsoft publiserte retningslinjene denne uken sammen med et nytt sett med AI-teknologier, inkludert et hurtigstartverktøy for utviklere som lager digitale assistenter.