KI und Ethik | Prof. Dr. Christoph Benzmüller

Shownotes

Menschen können einer Künstlichen Intelligenz (KI) erst dann vertrauen, wenn sie transparent handelt. Doch nicht alle KIs können komplett durchschaubar sein. Ein Dilemma?

Während IT-Systeme, die KI-Komponenten beinhalten, in immer mehr Bereiche des Lebens Einzug erhalten, häufen sich auch ethische Fragen rund um das Thema. Diese Fragen beantwortet Prof. Dr. Christoph Benzmüller von der Universität Bamberg, unser heutiger Experte im Podcast.

Der Forscher stellt sich zu Beginn der Ausgangsfrage, welche ethischen Prinzipien eine KI überhaupt prinzipiell erfüllen muss. Leider können nicht alle aufgeworfenen Eigenschaften dabei stets erfüllt werden:

1. Diskriminierungsfreiheit
2. Transparenz
3. Zuverlässigkeit
4. Verantwortlichkeit
5. Privatheit

Das Prädikat "diskriminierungsfrei" kann z.B. laut Prof. Benzmüller nur dann erreicht werden, wenn diese "Freiheit" möglichst mathematisch präzise definiert würde. In der Praxis gestaltet sich das äußerst schwer.

Beim Thema Transparenz kommt es offenbar auf die "Kritikalität der Anwendung" an: Zwei autonome Agenten eines Pokerspiels können beispielsweise unmöglich komplett transparent ausgelegt sein, da öffentlich "einsehbare" Lern- & Spielweisen das Spiel "ad absurdum" führen würden. Dies könnte evtl. durch eine "Schutzhülle" gelöst werden - also einen "Compliance-Check", der ethisch-rechtliche Vorgaben einerseits erfüllt; und dabei gleichzeitig verhindert, dass eine Intelligenz von außen komplett transparent gestaltet sein müsste. Prof. Benzmüller spricht sich daher für ein "Schutzmantel"-System aus, was als "Zweitsystem" eine KI formal-ethisch vertritt und erklärbar macht.

Eine in Deutschland entwickelte KI muss ebenfalls den europäischen Datenschutz (DSGVO) einhalten. Hierzu wirft Benzmüller die Begriffe "globale Datenverschmutzung" und "Datenverpestung" auf. Die Wortwahl unterstreicht, dass er als Wissenschaftler auch negative Effekte der "BigData-Systeme" erforscht und kritisch einordnet.