Ethische und politische Fragen zu künstlicher Intelligenz
Am 19.05.2023 hatten der Arbeitskreis Digitaler Wandel und die Bonner Europa-Abgeordnete Alexandra Geese zur Diskussion über ethische und politische Fragen zu Künstlicher Intelligenz (KI) eingeladen. Einen Überblick über ethische Fragestellungen gab aus wissenschaftlicher Perspektive Yannick Fernholz vom Weizenbaum-Institut für die vernetzte Gesellschaft, Berlin. Politische Fragen auf EU-Ebene zeigte Alexandra Geese auf, stellvertretende Fraktionsvorsitzende der Grünen im Europäischen Parlament und Expertin für Digitalisierungsthemen. Im Co-Working Space THE 9TH lauschten etwa 20 Interessierte den Einblicken aus Wissenschaft und Politik und führten daran anschließend eine lebhafte Diskussion.
Yannick Fernholz gab in seinem Vortrag einen Überblick über die Fähigkeiten Künstlicher Intelligenz, die zur kreativen Generierung sowie zur Entscheidungsfindung eingesetzt werde. KIs für spezifische Anwendungsfälle gebe es schon länger. Der KI-Textgenerator ChatGPT, der Ende 2022 für die Öffentlichkeit verfügbar wurde, kennzeichne jedoch einen Meilenstein in der Entwicklung, da er für eine Vielzahl verschiedener Anwendungen geeignet sei.
Er ging in seinem Vortrag auf ethische Fragestellungen auf verschiedenen Ebenen ein. Da sei zum Beispiel die Frage der Vortäuschung von Menschlichkeit. Dies sei aktuellen KIs sehr wohl möglich. So habe GPT-4 es sogar geschafft, auf einer Dienstleistungsplattform einen Menschen zu beauftragen, für sie ein Captcha zu lösen, also einen Test zur Unterscheidung von Computern und Menschen. Dazu habe die KI eine Ausrede verwendet („ich habe eine Sehschwäche“), um ihre wahre Identität nicht preiszugeben und den Menschen zur Einwilligung in den Auftrag zu bewegen.
Welche Auswirkungen die Existenz mächtiger KIs auf den Arbeitsmarkt hat, war ebenfalls ein Thema, das Yannick Fernholz aufgriff – und das später in der Diskussion vertieft wurde. Denn viele Aufgaben, die bislang nur von Menschen erledigt werden konnten, sind mit Hilfe von KI sehr viel schneller abzuarbeiten. Auch besteht die KI bereits standardisierte Bewerbungsverfahren für Unis oder Programmierjobs.
Dass künstliche Intelligenzen wie ChatGPT heute für viele Menschen nutzbar sind, sei zudem von Voraussetzungen abhängig, die ebenfalls unter ethischen Gesichtspunkten zu diskutieren seien. Als Beispiele brachte er den hohen Energieverbrauch oder die Datensatzkuratierung, also das Training der KI, um z. B. beleidigende oder anstößige Inhalte ausklammern zu können. Diese Arbeit mit verstörenden bis hin zu traumatisierenden Inhalten erfordere einen hohen Einsatz menschlicher Arbeitskraft und werde häufig in Ländern mit niedrigem Lohnniveau und ohne die nötige psychologische Begleitung durchgeführt.
Zu den weiteren ethischen Herausforderungen zählten fehlende Kontrolle durch Entwickler, fehlende Transparenz und Verantwortung sowie kulturelle und linguistische Bias, wodurch Vorurteile verstärkt und Diskriminierung untermauert werden können.
Als wichtige Schritte zum Umgang mit diesen Herausforderungen sieht Yannick Fernholz eine aktive und tiefgreifende Auseinandersetzung der Gesellschaft mit dem Thema. Technische Innovationen wie KI-Systeme müssten von allen gesellschaftlichen Akteurinnen mitgestaltet werden. KI-Fachwissen sollte in politischen Institutionen so selbstverständlich wie Expertise um Recht oder Finanzen werden und es müssten Wege gefunden werden, mit der rasanten Entwicklung Schritt zu halten und dynamisch zu bleiben.
Alexandra Geese ist stellvertretende Fraktionsvorsitzende der Grünen im Europäischen Parlament und Expertin für Themen wie Demokratie in der digitalen Gesellschaft, nachhaltige sowie feministische Digitalisierung. Sie gab einen Überblick über Antworten der europäischen Politik auf die technologischen Entwicklungen und erläuterte insbesondere den Gesetzesentwurf zu Künstlicher Intelligenz (AI Act), wie er kurz zuvor am 11.05.23 durch die Parlamentsausschüsse gegangen war. Sie erläuterte auch das weitere Verfahren der europäischen Gesetzgebung: Nach der Verabschiedung des Entwurfes in den Ausschüssen gehe er nun ins Plenum des EU-Parlaments und danach in den Trilog, also in die Abstimmung zwischen EU-Parlament, EU-Kommission und dem Rat der Europäischen Union als Vertretung der Mitgliedstaaten. Es seien also durchaus noch inhaltliche Anpassungen möglich.
Im Grundsatz verfolgt der Gesetzesentwurf den Ansatz, KI-Systeme nach dem mit ihnen einhergehenden Risiko unterschiedlich zu behandeln. Eine Reihe von Anwendungen, die in Grundrechte eingreifen würden, sollen verboten werden, beispielsweise Anwendungen zur biometrischen Fernidentifizierung, zur Emotionserkennung (z.B. in der Strafverfolgung oder am Arbeitsplatz), zur vorhersehenden Polizeiarbeit („preditive policing“), zur biometrischen Kategorisierung oder zum Social Scoring.
Weitere Anwendungen werden als Hochrisiko-KI verpflichtet, bestimmte Analysen wie Grundrechtsfolgenabschätzungen durchzuführen, auch um rechtzeitig auf unerwünschte Entwicklungen aufmerksam zu werden. Dazu zählen Empfehlungssysteme sozialer Medien, KI-Systeme im Bildungsbereich, im Personalwesen, bei Behörden aus dem Bereich Gesundheitsdienstleistungen oder Wohnraum, bei Kranken- und Lebensversicherungen sowie im Migrations-, Asyl- und Grenzkontrollmanagement.
Sogenannte Foundation-Modelle, die wie ChatGPT mit großen Datenmengen trainiert werden und für eine Vielzahl von Aufgaben genutzt werden können, fallen ebenfalls unter das Gesetz, wenngleich sie nicht alle Anforderungen der Hochrisiko-KIs erfüllen müssen. Neben der Durchführung von Risikobewertungen und bestimmten Daten-Governance-Maßnahmen müssen sie auch Umweltstandards erfüllen.
Während der Kommissionsvorschlag nur die Registrierung von Anbietern in einer EU-Datenbak vorsah, hat das Parlament zudem auch eine verpflichtende Registrierung von Behörden und Gatekeepern eingefügt, die KI nutzen.
Nachdem die Teilnehmerinnen und Teilnehmer so einen Überblick über aktuelle wissenschaftliche und politische Fragestellungen erhalten hatten, hatten sie ihrerseits viele Fragen. In der Diskussion ging es um Chancen und Sorgen, um Unterschiede zwischen KI in der Industrie und im Umgang mit Menschen, um die Macht von weltweiten Unternehmen und europäischer Politik, um die Rolle nationaler Regulierungsbehörden gegenüber internationalen Konzernen, um mögliche Veränderungen durch KI in den verschiedensten Berufen und vieles mehr.
Insgesamt hat die Veranstaltung sicherlich dazu beigetragen, dass die Anwesenden sich ein besseres Bild über den stattfindenden technologischen Wandel und die aktuell diskutierten Fragestellungen machen konnten. Ganz im Sinne des Veranstaltungstitels „KI – Wir sind verantwortlich!“ ist sicher der eine oder die andere in dem Bewusstsein aus der Veranstaltung gegangen, dass es in der gesellschaftlichen Verantwortung unserer Zeit liegt, die Rahmenbedingungen für diesen Wandel zu gestalten.
Links zum Thema:
Pressemitteilung des Europäischen Parlaments (11.05.2023) [Englisch]: AI Act: A step closer to the first rules on Artificial Intelligence, https://www.europarl.europa.eu/news/en/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence
Alexandra Geese (11.05.2023): ChatGPT eingefangen: Jetzt muss die EU den Chatbot zähmen, https://alexandrageese.eu/chatgpt-eingefangen-jetzt-muss-die-eu-den-chatbot-zaehmen/
Weizenbaum-Institut: Forschung für die vernetzte Gesellschaft, https://www.weizenbaum-institut.de/
