Rückblick Fachgruppe KI: Künstliche Intelligenz und Ethik

Am 17. Juni 2021 traf sich die DiWiSH-Fachgruppe Künstliche Intelligenz (KI) in einer Spezialausgabe, um über die Vereinbarkeit von KI und Ethik aufzuklären und gemeinsam mit knapp fünfzig Teilnehmenden über die jetzige und zukünftige Rolle von KI in unserem Alltag zu debattieren. Ein besonderer Dank gilt Frau Professorin Doris Weßels und ihren Studierenden des Wahlmoduls „KI und Ethik“ an der FH Kiel, die für einen spannenden und erkenntnisreichen Nachmittag sorgten.

Anwendungsbereiche von KI sind vielfältig und allgegenwärtig

Im Rahmen von Ignite-Vorträgen wurden fünf konkrete Anwendungsbereiche von Künstlicher Intelligenz betrachtet. Hier wurde ersichtlich, wie vielfältig der Einsatz von KI sein kann und wo Grenzen moralischer Vertretbarkeit bestehen. Erster Case - Recruiting: Kann eine KI etwa ohne Vorurteile und Diskriminierung im Bewerbungsprozess eine geeignete Vorauswahl treffen? Mittels der Lösung von Precire ist es beispielsweise möglich, aus Text, Sprache, Gestik und Mimik Rückschlüsse auf den Charakter eines Bewerbers zu ziehen – seit den 2000ern in den USA praktiziert. Ist das fair? Wie umfangreich darf KI im Prozess eingebunden sein?

Richterurteil durch KI – Science-Fiction oder schon bald Alltag? Zur autonomen Urteilsfähigkeit ist zwar noch ein weiter Weg zurückzulegen, dennoch werden beispielsweise in Estland bereits Streitfälle bis 7000 Euro per App gelöst. In China berät eine KI in Echtzeit zu rechtlichen Problemstellungen und in den USA zeigt die Software COMPAS den Juristen an, wie wahrscheinlich es ist, dass ein Straftäter rückfällig wird. Bei hinreichender Transparenz und Klärung von Datenschutz- und Haftungsfragen scheint hier KI ein Instrument zu sein, um den überlasteten Justizapparat sinnvoll zu unterstützen.

KI als verpflichtende Zweitmeinung in der Medizin?

Beeindruckend schnell und zuverlässig kann KI in der Medizin, insbesondere in der Diagnostik, wirken. Eine Veränderung des Berufsbildes in der Diagnostik ist absehbar, die Schulung des Personals ist ein wichtiger Eckpfeiler auf dem Weg zu einem verpflichtenden Einsatz von KI als Zweitmeinung. Zwar dürfe eine KI-Entscheidung nicht blind akzeptiert werden, doch könnten so die Ärzte entlastet und schnellere, teils lebensrettende, Diagnosen bereitgestellt werden. Ein Beispiel: Bei der Früherkennung von Brustkrebs arbeitet die KI rund 30-mal schneller als der Mensch bei einer Genauigkeit von 99 Prozent.

Beim Einsatz von KI im Marketing ist das Diskriminierungspotenzial offensichtlich – Stichwort Targeting. Können Frauen bestimmte Stellenanzeigen mit überdurchschnittlichem Gehalt gar nicht sehen? Bekommen Menschen in den USA Kredite unterschiedlicher Konditionen je nach kulturellem Hintergrund angezeigt? Die Facebook-KI Emma bediene augenscheinlich jegliche Stereotypen beim zielgerichteten Schalten von Werbeanzeigen und sei ein Beweis für den dringenden Bedarf, das Bewusstsein für Diskriminierungspotenziale beim KI-Einsatz zu erhöhen.

Kennzeichnungspflicht von automatisierten Texten im Journalismus gefordert

Nicht zuletzt stand der Robo-Journalismus im Zentrum der Diskussionen um die ethische Vertretbarkeit bei der Anwendung von KI. Sowarebots schreiben Beiräge, KI wertet Datenbanken aus und verknüpft es mit Textbausteinen und Bildern. In den Bereichen Sport, Finanzen und Wetter scheint dies bereits gängige Praxis, eine Kennzeichnungspflicht für automatisch generierte Texte besteht (noch) nicht, wird jedoch zunehmend gefordert. Schließlich hätten Falschmeldungen in bestimmten Bereichen gravierende Folgen und die Glaubwürdigkeit der Verlage leide.

In allen durchweg hochqualitativen Vorträgen wurde ersichtlich: Noch ist eine schwache KI nicht imstande, ganze Prozesse wie bei der Bewerbung oder in der Justiz selbstständig durchzuführen. Als Unterstützung zum Minimieren menschlicher Fehler und zum Erledigen trivialer Aufgaben mit hohem Zeitaufwand kann sie jedoch schon jetzt enorm wertvoll sein. Dennoch müssen Rahmenbedingungen – wozu auch ethische Aspekte zählen – klar definiert werden, denn: Ethik betrifft menschliches Handeln, welches nicht dem Wesen einer Künstlichen Intelligenz entstammt.

Prof. Dr. Doris Weßels: "Das 'Feuer' der Begeisterung rund um KI wurde entfacht."

Prof. Dr. Doris Weßels zeigte sich begeistert von den lebhaften Diskussionen: „Es war für meine Teams der Masterstudierenden ein toller Semesterabschluss, vor einer so großen Gruppe von Interessierten ihre Ignite-Vorträge halten zu dürfen. Der Anspruch eines Ignite-Vortrags besteht ja darin, das „Feuer“ der Begeisterung im Auditorium zu entfachen. Bei unserem Thema KI und Ethik waren es bisweilen auch das Erschrecken und die Irritation in Verbindung mit der Sorge, ob wir als Menschheit diese Technologien noch rechtzeitig bändigen und den vielfach noch fehlenden rechtlichen Rahmen schaffen können. In jedem Fall zeigten die Reaktionen der knapp 50 Teilnehmer*innen der Online-Session sehr deutlich, dass wir das Bewusstsein schärfen und in der Gegenüberstellung von Pro und Contra der KI-Einsatzgebiete den Diskussionsprozess forcieren konnten“.

Kontakt

DiWiSH-Fachgruppe KI