Die Herrschaft der Algorithmen am ZKM in Karlsruhe

Die Konferenz zur Interaktion von Mensch und KI „Die Herrschaft der Algorithmen“ hat am 17.10.2019 im Medientheater des ZKM Karlsruhe stattgefunden.

Die Konferenz hat den ganzen Tag gedauert, und es haben sehr hochkarätige Referenten vorgetragen.

Veranstaltung

In der letzten Woche habe ich an der ganztägigen Konferenz „Die Herrschaft der Algorithmen“ im Medientheater des ZKM Karlsruhe teilgenommen. Die Veranstaltung war sehr gut. Mein Dank gilt den Firmen, Organisationen und Einzelpersonen, die dieses tolle Erlebnis möglich gemacht haben.

Alle Vorträge und Diskussionen wurden aufgezeichnet und sollen bald im Internet veröffentlicht werden. Das bedeutet, daß bald Jedermann/-frau sich die Vorträge ansehen kann, der nicht dabei sein konnte.

Die weiter unten angegebenen Verweise führen Sie auf die Agenda sowie den Eventflyer. Hierüber wird die Verfügbarkeit der Videos sicher bald kommuniziert werden.

Inhalt

Die Veranstaltung hat sich fachübergreifend mit verschiedenen Teilbereichen der KI beschäftigt. Diese Einführung stammt aus der Ankündigung des ZKM:

„Die Tagung des Karlsruher Forums beschäftigt sich fachübergreifend mit Künstlicher Intelligenz. Interessierte Gäste erfahren, wie Algorithmen Kulturschaffenden als Werkzeug dienen. Die Veranstaltung fragt unter anderem, welche Verantwortung Recht, Wissenschaft und Wirtschaft tragen.“

Veranstaltungsarchiv Die Herrschaft der Algorithmen am ZKM in Karlsruhe

Neben der Einleitung und der abschliessenden Diskussion waren dies die größeren Themenblöcke, die jeweils aus mehreren Vorträgen mit Diskussion bestanden haben:

  1. Rechtliche Aspekte zum Thema KI, bzw die Frage, wer wen regiert, wer die Verantwortung trägt (KI oder Mensch) und wer wen reguliert.
  2. Wie funktionieren KI Algorithmen, und wie intelligent sind diese wirklich? Wie ist es um Transparenz und Fairness bestellt?
  3. KI, Code und Kunst, bzw praktische Beispiele von Kunst, die ganz oder teilweise mittels KI geschaffen wurde.
  4. Ethische Aspekte der KI, bzw Vorträge zur Frage ob sich KI am Menschenwohl orientiert, und wie verhindert werden kann, daß KI Systeme einzelne Menschen oder Gruppen diskriminieren.

Als Referenten sind viele, sehr hochkarätige Professoren/-Innen aus der Forschung und einige anerkannte Praktiker/-Innen aus kleinen und großen Unternehmen aufgetreten. Die Veranstaltung wurde professionell von der Direktorin des Kulturamts der Stadt Karlsruhe, und von der Geschäftsführerin des Karlsruher Forum für Kultur, Recht und Technik e.V. moderiert.

Key take aways

Es ist unmöglich, dem geballten Inhalt einer neunstündigen Veranstaltung mit wenigen Zeilen gerecht zu werden. Daher versuche ich es garnicht erst.

Meine persönlichen Highlights aus den einzelnen Vorträgen waren die folgenden Thesen und Informationen:

  • KI erzeugt (auch) unnötige Angst. Wir sollten deshalb damit aufhören, bewußt oder unbewußt die KI zu vermenschlichen. Hieraus entstehen nämlich Vorbehalte in der Bevölkerung, die der Technologie nicht gerecht werden.
  • KI wird von Menschen gemacht. Wir müssen uns daher grundsätzlich nicht vor der KI fürchten, sondern vor den Geschäftsmodellen.
  • Aus verfassungsrechtlicher Sicht ist die KI keine grundlegend neue Technologie. Wir verfügen daher über gute Werkzeuge, um sicherzustellen, daß wir die gesellschaftlichen und rechtlichen Anforderungen meistern, die sich hieraus ergeben.
  • Menschen arbeiten bereits seit Jahrhunderten daran, ihren Maschinen Leben einzuhauchen. Das heutige Bild der bewußten KI Systeme ist stark durch die Popkultur geprägt. Bevor wir von bewußten Systemen im Sinne einer Superintelligenz sprechen können, muss noch erforscht werden, wie Bewußtsein überhaupt entsteht.
  • KI Systeme verwenden in der Trainingsphase vorhandene Daten. Aufgrund von Informationsasymetrien in diesen Daten kann ein Bias in den Ergebnissen entstehen. Um den gerecht zu werden, reichen Gesetze wie die DS-DVO nicht aus. Vielmehr benötigen wir Ergänzungen wie einen Algorithmen TÜV, Audits, counterfactual explanations sowie eine erklärbare KI. An vielen Stellen fehlt noch Forschung.
  • Man unterscheidet mehrere Entwicklungsstufen der KI (von Stufe 0, regelbasierten Systemen bis zur Stufe 4, Systeme bestehend aus KI und Körper, wie beim Menschen). Aktuell befinden wir uns in der Stufe 2, und es wird noch sehr lange dauern, bevor es Systeme der Stufe 4 geben wird.
  • KI Verfahren sind in der Lage, erste rudimentäre Bilder und Fotos zu generieren.
  • Mit Verfahren wie der Gamification oder Hackingansätzen kann man Systeme schaffen, die das Grundproblem der Algorithmenemtwicklung einfacher lösen, nämlich gelabelte Daten in der notwendigen Qualität zu erzeugen.
  • KI wird oft als der universelle Problemlöser gesehen, oder als Büchse der Pandorra verstanden. Eine bessere Alternative wäre eine Orientierung an einer wertebasierten KI, die die Grundrechte sichert, und die dazu beiträgt, die gesellschaftlichen Herausforderungen zu bewältigen.
  • Man sollte hierfür das Problem bei der Wurzel anpacken, und eine Agenda einer am Menschen ausgerichteten KI verfolgen. Eine solche digitale Ethik besteht aus Elementen wie den „Ethics by Design„, „Do the right thing„, „Ethos der Entscheider„, und „Qualifizierung“ bestehen.
  • Wir versuchen KI Lösungen zu erstellen, die unseren individuellen Ansprüchen gerecht wird. Die KI Verfahren kennen jedoch keine Individualisierung, sondern sind vielmehr darauf ausgerichtet, Gruppen zu bilden. Dieser Gegensatz läßt sich auflösen, indem man unsere bestehenden sozialen Grundsätze (Vielfalt, Nachhaltigkeit, fairer Zugang zur Daseinsvorsorge,…) auch auf die KI anwendet.

Weiterführende Informationen

Das Original dieses Artikels ist auf Der Produktmanager erschienen (©Andreas Rudolph).

Folgeartikel zum Thema gibt es über die (→Mailingliste), oder indem Sie →mir auf Twitter folgen. In der Online Version des Artikels finden Sie hier die versprochenen weiterführenden Links:

Comments are closed.