Kontrolle von Maschinenintelligenz und Bias

In einer Welt, in der sich zunehmend intelligente Software verbreitet, gewinnt eine zuverlässige Qualitätssicherung der Algorithmen an Bedeutung.

Die Frage ist, wie man qualitätssichernde Prozesse sinnvoll in der Organisation verankert.

Ausgewogenheit

Der unten angefügte Artikel „Controlling machine-learning algorithms and their biases“ beschreibt die Schwachstellen von intelligenter Software, und beantwortet die Frage, wie eine Organisation hiermit umgehen kann.

Intelligente Software wird geschaffen und zunehmend eingesetzt, um Geschäftsprozesse zu automatisieren. Genau wie Menschen, können auch Maschinen in ihrem Entscheidungsverhalten beeinflusst werden. Dabei sollen viele Geschäftsprozesse, ohne äußere Beeinflussung ablaufen können, und muss es sichergestellt bleiben, daß maschinelle Entscheidungen ausgewogen bleiben.

Der Artikel nennt mehrere Beispiele dafür, warum die Ausgeglichenheit wichtig ist. Wenn beispielsweise intelligente Algorithmen eingesetzt werden, um über die Kreditvergabe zu entscheiden, sollte sichergestellt bleiben, daß der Algorithmus nur wirkliche Problemfälle ablehnt.

Ein weiteres Beispiel ist die Finanz- und Wirtschaftskrise. Diese hätte beispielsweise von einer intelligenten Software schon deshalb nicht von einer Intelligenten Software vorhergesagt werden können, weil es vorher noch keine solche Krise gab. Für ein Unternehmen, das sich auf diese Software verläßt, könnte ein ähnlicher dunkler Fleck fatale Wirkung haben.

Diese Beispiele zeigen, daß eine fehlende Ausgewogenheit bei der maschinellen Entscheidungsfindung manchmal ein Problem sein kann. Daher müssen neben der eigentlichen Entwicklung der Algorithmen Mittel und Wege gefunden werden, um die Entscheidungsqualität der Verfahren zu kontrollieren.

Standards und Validierung

Der Artikel schlägt vor, daß Organisationen hierfür einen systematischen und geregelten Prozess einführen, der in der Lage ist, die Güte der eigenen intelligenten Softwareprogramme zu managen.

Dieser Prozess besteht aus den folgenden Teilen:

  • Geschäftsbezogene Standards anhand derer Maschinenintelligenz genehmigt wird.
  • Eine professionelle Validierung der entsprechenden Rechenverfahren.
  • Eine Unternehmenskultur in welcher der konstante Wissenswerb im Vordergrund steht.

Bevor intelligente Softwareprogramme überhaupt geschrieben werden, sollten die Anforderungen der Fachabteilungen in einem standardisierten Verfahren erhoben und dokumentiert werden.

Hierbei sollten auch die relevanten Parameter beschreiben werden, und man sollte auch über Testverfahren nachdenken, anhand derer man die spätere Software überprüfen will (Stichwort „Acceptance Test Driven Development“).

Maschinenintelligenz und die entsprechenden Algorithmen basieren normalerweise auf komplexen mathematische Verfahren, die sämtlich ihre Stärken und Schwächen haben. Daher ist es notwendig, sorgfältig zu prüfen, daß die richtigen Verfahren und Berechnungsschemata benutzt werden. Hierfür benötigt man entsprechende Fachleute.

Damit intelligente Software kein Buch mit sieben Siegeln bleibt, ist es sinnvoll, alle Mitarbeiter fachlich an die Thematik heranzuführen. Das kann man beispielsweise dadurch sicherstellen, daß man die Mitarbeiter in den Methoden und Werkzeugen der Data Science schult.

Um die eigenen Leute für die Stärken und Schwächen der Verfahren zu sensibilisieren, kann man die eingesetzten intelligenten Programme permanent kontrollieren, auch um so neues Wissen zu entdecken, daß noch in den Auswertungen enthalten ist, die diese Programme erzeugen.

Weiterführende Informationen

Das Original dieses Artikels ist auf Der Produktmanager erschienen (©Andreas Rudolph). Folgeartikel zum Thema gibt es über die (→Mailingliste), oder indem Sie →mir auf Twitter folgen.

In der Online Version des Artikels finden Sie hier die versprochenen weiterführenden Links:

0saves
If you enjoyed this post, please consider leaving a comment or subscribing to the RSS feed to have future articles delivered to your feed reader.

Comments are closed.