Sparkassengespräch: „Horror oder Heilsbringer“ – Was ist von KI noch zu erwarten?

Kreis Heinsberg. „Die Gesellschaft muss einen neuen Blick auf die Realität entwickeln“ Beim Sparkassen-Gespräch mit Prof. Dr. Alena Buyx geht es um ethische Überlegungen zu Künstlicher Intelligenz Heinsberg. Vermutlich erinnern sich noch viele an das Foto, das Papst Franziskus in einer weißen Daunenjacke zeigt. Das war im Frühjahr 2023, wenige Monate nach dem mit ChatGPT die generative künstliche Intelligenz in der Öffentlichkeit Einzug gehalten hatte. Einige hielten es für echt. Kurze Zeit später war klar: Das Bild wurde mit einer KI erstellt. Fortan wurde und wird über künstliche Intelligenz kontrovers diskutiert – als Löser all unserer Probleme und größte Bedrohung der Menschheit.
Was Künstliche Intelligenz vor allem ist, verdeutlichte Prof. Dr. Alena Buyx Anfang September beim Sparkassen-Gespräch in Heinsberg. Den Titel ihres Vortrags „Horror oder Heilsbringer? Ethische Überlegungen zu KI“ hatte die ehemalige Vorsitzende des Deutschen Ethikrats mit Absicht reißerischer als die ihrer wissenschaftlichen Vorträge gewählt. „KI ist eine ,dual use‘ Technologie“, sagte Alena Buyx. Große Chancen auf der einen, erhebliche Risiken auf der anderen Seite: die Beispiele, die Buyx nannte, stimmten die Gäste in der Sparkassen-Filiale nachdenklich. „Der gleiche Algorithmus, der Kindern in der Schule hilft, Vokabeln zu lernen, kann anhand der Augenbewegungen des Kindes messen, ob es im Unterricht aufpasst oder nicht und auch den Gefühlszustand erkennen“, erläuterte Buyx. In China werde diese Technologie bereits eingesetzt und sei Teil des „social Scoring“. Ein anderes Beispiel: Eine KI aus der Medikamentenentwicklung hat in nur sechs Stunden 40.000 toxische Moleküle gefunden. Diese könnten als Basis für chemische Waffen verwendet werden.
„Die Gesellschaft muss einen neuen Blick auf die Realität entwickeln“, betonte Buyx, die sich selbst als Riesen-Fan von KI bezeichnete. Die Potenziale angesichts des Fachkräftemangels seien enorm. Wenn in zehn Jahren ein Drittel des heute eingesetzten medizinischen Personals in Rente gehe, funktioniere die Versorgung in einem Pflegeheim oder Krankenhaus gar nicht mehr ohne KI. An einem Algorithmus es uns dienen. KI wird in einigen Bereichen besser sein als der Mensch, aber die Entscheidung und Verantwortung muss immer beim Menschen
bleiben.“
Die 400 Seiten starke Stellungnahme des deutschen Ethikrates, an dem Buyx mit ihren Kolleg:innen zweieinhalb Jahre bei 26 Treffen gearbeitet hat, fordert genau das: Es muss transparent sein, wie die Entscheidungen getroffen werden, der Mensch ist die letzte Instanz und muss eingreifen können. Und: Je stärker ein Bereich grundrechtlich geschützt ist, desto vorsichtiger müsse mit KI umgegangen werden.
Thomas Giessing, Vorstandsvorsitzender der Kreissparkasse, dankte Alena Buyx im Anschluss für ihren Vortrag und betonte, dass auch er begeistert sei von den Möglichkeiten von KI. Er sei aber auch davon überzeugt, dass im Bankensektor der Mensch immer der größte Erfolgsfaktor bleiben werde. „Das Verhältnis zu unseren Kundinnen und Kunden basiert auf Vertrauen – daher werden wir beim Einsatz von
KI nie leichtfertig entscheiden.“