Microsoft veröffentlicht Richtlinien für Entwickler, die digitale Assistenten erstellen

Microsoft hat eine Reihe von Richtlinien veröffentlicht, die Entwicklern beim Aufbau „verantwortungsbewusster“ digitaler Assistenten helfen sollen. Die Akzeptanz von Konversationsschnittstellen nimmt angesichts der raschen Verbesserungen der zugrunde liegenden Technologien zu. Die Berücksichtigung der ethischen Bedenken schreitet jedoch langsamer voran.

Microsoft sagte, die Richtlinien sollen Entwickler daran erinnern, dass ihre Produkte auf eine Weise verwendet werden können, die sie nicht immer vorhersehen können. Obwohl ethisches Design für die Technologiebranche schon immer relevant war, ist es besonders wichtig für Konversationsschnittstellen.

Microsoft verwendete das Beispiel eines Pizza-Bestellbots. Der Service sollte so gestaltet sein, dass die Bestellung von Pizza bei minimaler Anfälligkeit für Ablenkungen durch den Benutzer erleichtert wird. Wenn der Benutzer versucht, „sensible Themen“ wie Rasse, Geschlecht, Religion oder Politik zu diskutieren, sollte der Dienst sich nicht auf die gleiche Weise wie ein menschlicher Pizzaserver engagieren. Andernfalls können Verzerrungen in den Algorithmen des Bots dazu führen, dass er unerwünschte Verhaltensweisen vom Kunden lernt.

Der Rest der Richtlinien setzt sich mit ähnlichen Themen fort. Insgesamt betont Microsoft, dass Bots gut für die Gesellschaft sein können, wenn Entwickler die potenziellen Probleme berücksichtigen. Organisationen müssen im Voraus über die Verwendung von Bots informiert sein. Alle AI-gestützten Dienste müssen frei von Vorurteilen und unter Beachtung kultureller Standards bleiben.

„Im Allgemeinen betonen die Richtlinien die Entwicklung einer Konversations-KI, die von Beginn des Designprozesses an verantwortungsbewusst und vertrauenswürdig ist“, sagte Lili Cheng, Corporate Vice President für Konversations-KI bei Microsoft. „Sie ermutigen Unternehmen und Organisationen, anzuhalten und darüber nachzudenken, wie ihr Bot verwendet wird, und die notwendigen Schritte zu unternehmen, um Missbrauch zu verhindern. Letztendlich dreht sich in den Richtlinien alles um Vertrauen, denn wenn Menschen der Technologie nicht vertrauen, werden sie sie nicht nutzen. „

Die vollständige Liste der Richtlinien finden Sie auf der Website von Microsoft Research. Obwohl es sich nicht um strenge Regeln handelt, enthalten sie die grundlegenden ethischen Standards, die bei der Entwicklung von Bots zu berücksichtigen sind. Microsoft hat diese Woche die Richtlinien zusammen mit einer Reihe neuer KI-Technologien veröffentlicht, darunter ein Schnellstart-Toolkit für Entwickler, die digitale Assistenten erstellen.