Künstliche Intelligenz in Parlamenten

Der Einsatz von neuen Technologien und künstlicher Intelligenz (KI) in Staat und Verwaltung beschäftigt die AWV schon seit Jahren. Im Rahmen eines Besuches im Deutschen Bundestag erhielt der AWV-Arbeitskreis 1.4 „Einsatz von KI und neuen Technologien“ einen ersten Einblick in die Arbeit der Bundestagsverwaltung rund um die Digitalisierung und Einführung von künstlicher Intelligenz als Arbeitsmedium in Parlamenten. Aus dem offenen Austausch wurde klar, vor welchen Herausforderungen Parlamente weltweit stehen, wollen sie KI-Technologien sicher und verlässlich im Alltag in den Abgeordnetenbüros und im Wahlkreis verankern und vertrauensvoll einsetzen. IT-Sicherheit ist wichtig, da Parlament, Abgeordnete, Fraktionen und Mitarbeitende Cyberangriffen ausgesetzt sind. Finanzielle Herausforderungen würden dagegen eher eine untergeordnete Rolle spielen, sobald die Ziele für eine umsetzbare Einführung von KI im Deutschen Bundestag klar benannt und beschlossen sind.

Bis dahin ist es noch ein weiter Weg mit Hürden, berechtigter Kritik, Herausforderungen und offenen Fragen. Basierend auf Forschungsergebnissen und Studien vom The Open Government Institute der Zeppelin Universität in Friedrichshafen und seiner Partner zeigt dieser Beitrag auf, wie KI und generative KI in den kommenden Jahren Parlamente verändern könnte. Aktuell eröffnen große Sprachmodelle und ihre Anwendungen den Parlamenten, den Abgeordneten und deren Mitarbeitenden zahlreiche Chancen. Dies erfordert aber auch ein angemessenes Risikomanagement, etwa mit Hilfe von Leitlinien zur Einführung und Nutzung von KI in der parlamentarischen Arbeit.

Künstliche Intelligenz und generative künstliche Intelligenz

Parlamente sind feste Bestandteile der Demokratie, in denen Gesetze durch Diskussionen und Abstimmungen der gewählten Vertreter entstehen. Sie haben über viele Jahre hinweg auch Entscheidungen zur Unterstützung von KI getroffen. Die mit dem Begriff „künstliche Intelligenz“ umschriebenen Technologien, Lernmethoden, Systemarchitekturen, Algorithmen und Ansätze zielen darauf ab, mithilfe von Rechnerkapazitäten Fähigkeiten der menschlichen Intelligenz nachzubilden, um bestimmte Aufgaben eigenständig oder auf Befehl zu übernehmen. Durch Muster- und Texterkennung, Sprach- und Sprechererkennung, Bild- und Raumerkennung, Gesichts- und Gestenerkennung eröffnen sich breite Einsatzmöglichkeiten.  

Generative KI zeichnet sich dadurch aus, dass sie auf Grundlage von Erlerntem in der Lage ist, neue Artefakte zu generieren. Dabei stützt sie sich auf erkannte und erlernte Muster, um synthetische Daten zu erzeugen. Große Sprachmodelle unterstützen bei der Generierung von Texten, während KI-basierte Übersetzungsdienste Texte in verständliche Form in andere Sprachen überführen. Weitere Anwendungsfelder umfassen die Generierung von Präsentationen, Programmen für IT-Systeme und Prozessen mit einer Planung von Abläufen. Aus Texten lassen sich zudem Sprach- und Tonsequenzen in verschiedenen Stimmlagen generieren. Auch die Generierung von Bildern und Videos gewinnt an Bedeutung, insbesondere die Erstellung lippensynchroner Videos basierend auf Bildmaterial und Audiomitschnitten.

Forschungs- und Entwicklungsagenda für KI in Parlamenten mit 210 Vorschlägen

KI-Technologien können in den Parlamenten für eine Vielzahl von Zwecken eingesetzt werden, etwa für die Transkription und Übersetzung von Debatten, die Zusammenfassung von Dokumenten, die Unterstützung bei der Abfassung von Rechtsdokumenten und die Kommunikation mit den Bürgern. Sobald neuartige KI-basierte Anwendungen verfügbar sind, steigt in Parlamenten das Interesse, sich damit auseinanderzusetzen und diese zu nutzen. Im Frühjahr 2020 beteiligte sich die Zeppelin Universität an einer Diskussion mit Vertretern des parlamentarischen Expertennetzwerks Hellenic OCR Team¹ über geeignete Werkzeuge, Anwendungsbereiche, Nutzungsszenarien und Bedürfnisse in Parlamenten. Zu diesem Zeitpunkt war der Einsatz von KI im parlamentarischen Raum noch kaum erforscht. Im Rahmen eines Brainstormings im Sommer 2020 wurden 210 Vorschläge zum Einsatz von KI in Parlamenten zusammengetragen und in neun Themenbereichen geclustert. Dazu zählen Parlamentarier, Gesetzgebung, parlamentarische Kontrolle, politische Bildung, Parlamentsverwaltung, Parlamentspräsidium und die Wissenschaftlichen Dienste, aber auch ein Rahmenwerk und offene Fragen. Aufgrund der Vielzahl von noch zu entwickelnden Elementen wurde die Liste in eine Forschungs- und Entwicklungsagenda (F&E-Agenda) für den Einsatz von KI in Parlamenten überführt.²

Interaktive Workshops mit drei Parlamenten

Die vorläufigen Ergebnisse wurden in Workshops mit Parlamenten diskutiert, wobei ihre Relevanz und Priorität detailliert bewertet wurden. Dabei ging man davon aus, dass jedes Parlament aufgrund seiner eigenen Tradition und Erfahrung unterschiedliche Prioritäten setzt. Wissenschaftliches Interesse bestand darin, zu ermitteln, welche Themen besonders attraktive Mehrwerte bieten, welche Anwendungsfelder sich besser bearbeiten lassen und welche Technologien als Treiber der Entwicklung dienen könnten. Auch sind finanzielle Mittel, Personal und Möglichkeiten zur Gestaltung in Parlamenten sehr begrenzt. Der Einsatz von KI in Parlamenten ist zudem mit erheblichen Risiken für Demokratie und Rechtsstaatlichkeit verbunden. Das Hauptziel sollte nicht der Einsatz bestimmter KI-Systeme sein, mit all ihren Versprechungen und Herausforderungen. Vielmehr geht es darum, KI als Werkzeug zu nutzen, um die institutionellen Aufgaben und Ziele der Parlamente besser zu erreichen.

Zwischen 2021 und 2023 wurden drei Workshops – in Athen³, Buenos Aires⁴ und Ottawa⁵ – digital durchgeführt. An den Workshops nahmen Interessenvertretungen wie Mitarbeitende, Beraterinnen und Berater der Abgeordneten sowie Abgeordnete des griechischen, argentinischen und kanadischen Parlaments teil. Die Teilnehmenden wurden befragt, wie sie die jeweiligen Vorschläge bezüglich Relevanz (Likert-Skala: 0–10) und Priorität (Likert-Skala: 0–10) für 2020–2030 bewerten. Für Griechenland wurden Weiterbildung und Personalgewinnung, Interoperabilität, ethische Aspekte und Diskussionen hoch priorisiert. In Argentinien standen Dokumentensuchdienste, Assistenzdienste für Behinderte, Transparenz durch vernetzte offene Daten und die synchrone Untertitelung von Reden der Abgeordneten im Vordergrund. Vertreterinnen und Vertreter des kanadischen Unterhauses, das mehrsprachig tagt, forderten hingegen KI-basierte Übersetzungsdienste, Suchdienste, Cybersicherheitsdienste und Texterkennungsdienste ein. Eine Relevanzbewertung von ≥ 7,5 erhielten 119 Vorschläge in Athen, 65 Vorschläge in Buenos Aires und 35 Vorschläge in Ottawa (bei Betrachtung des Durchschnitts: 50 Vorschläge). Zur zeitlichen Umsetzung der 210 Vorschläge gab es unterschiedliche Vorstellungen. Sehr optimistisch wurde beim griechischen Workshop ein Zeitrahmen von Dezember 2021 bis November 2026 vorgesehen. Im Rahmen des argentinischen Workshops wurde ein Zeitraum von Januar 2024 bis Januar 2030 vorgeschlagen. Beim kanadischen Workshop lag der Zeitraum von April 2024 bis Juni 2029.

Die Ergebnisse unterstreichen ein bemerkenswert hohes Interesse der Teilnehmenden an KI für die künftige Arbeit der Parlamente. Sie sehen diese Themen überwiegend als künftige Themen, mit denen sich die Parlamente zum Teil bereits auseinandersetzen. Eine gewisse Korrelation zwischen Relevanz und Priorität wird in der visuellen Analyse der Ergebnisse deutlich. Vorschläge mit höherer Priorität sollten schneller umgesetzt werden. Projekten mit einer niedrigeren Priorität wird mehr Zeit für die Umsetzung eingeräumt. Die F&E-Agenda scheint zudem ein wertvoller Ausgangspunkt für interne Vorbereitungen zur Einführung von KI-Technologien in Parlamenten zu sein. In ersten vergleichenden Analysen wurde festgestellt, dass die Bewertung von Relevanz und Priorität für viele Vorschläge unterschiedlich ausfiel. Abweichungen fallen besonders deutlich bei den Top-10-Ergebnissen für Relevanz und Priorität ins Auge. Zudem gibt es bisher noch keine technologischen Treiber, die sich bereits zu Triebkräften einer zeitnahen flächendeckenden Umsetzung entwickelt haben. Aufgrund der unterschiedlichen Eindrücke und Erkenntnisse sowie der kulturellen Eigenheiten der Parlamente, ihrer Organisation, ihrer Mitarbeitenden, ihrer Prozesse und ihrer Technologieakzeptanz muss erwartet werden, dass jedes Parlament die Einführung von KI anders angehen wird. Die denkbare Vielfalt an Möglichkeiten und der technische Fortschritt kann auch überfordernd wirken. Insofern erscheint es wichtig und notwendig, sich Kompetenzen und Kenntnisse in diesem sich schnell entwickelnden Bereich anzueignen, in dem auch in den nächsten Jahren immer wieder neue und verbesserte KI-basierte Technologien auftauchen werden, die parlamentarische Arbeitsbereiche disruptiv verändern könnten.

Chancen und Herausforderungen am Beispiel großer Sprach­modelle in Parlamenten

Gerade mit Blick auf die sich aus generativer KI ergebenden Möglichkeiten stellt sich konkret die Frage, wie Abgeordnete auf KI-basierte Textgenerierung und Analysen im Rahmen ihres Mandats zugreifen werden. Selbst wenn ein Zugriff von der Parlamentsverwaltung abgelehnt wird, muss damit gerechnet werden, dass sich Abgeordnete und ihre Mitarbeitenden entsprechend große Sprachmodelle (Large Language Modell – LLM) oder Webdienste eigenständig im Internet besorgen und diese für ihre Mandatszwecke eigenverantwortlich einsetzen. Schließlich eröffnen sich viele Anwendungsfelder, etwa in der Generierung von Entwürfen für Reden, Antworten für parlamentarische Anfragen und Zusammenfassungen für die Abgeordneten. Solche Systeme können neuartige Denk- und Lösungsansätze in Gesetzgebungsverfahren einbringen, auf Unstimmigkeiten verweisen, Texte in einfach verständliche Sprache überführen sowie Analysen und Übersetzungen übernehmen. Mit zielgenauen Prompts lassen sich mit LLMs gezielt Antworten erstellen, die substanziellen Mehrwert bieten. Für viele Akteure im parlamentarischen Raum kann dies eine erhebliche Erleichterung des Arbeitsalltags bedeuten. Daher ist zu erwarten, dass die Nachfrage nach Fortbildungsangeboten zum richtigen Umgang mit LLMs zunehmen wird.

Im Juli 2023 diskutierten internationale Expertinnen und Experten aus Wissenschaft und parlamentarischer Praxis im Rahmen eines Workshops in Friedrichshafen über erste LLM-Prototypen und deren Folgen für Parlamente.⁶ LLMs können schnell auf über Prompts gestellte Anfragen reagieren. In Sekundenschnelle generieren sie Antworten und vermitteln dabei einen verständlichen, sprachlich versierten Eindruck. Dahinter steckt jedoch keine Intelligenz, sondern ein Sprachmodell mit viel Wissen, das in kurzer Zeit Zeichen, Wörter, Daten, Antworten und Informationen liefert. Dank ihrer Lernfähigkeit können sie auch in Zukunft neue Inhalte aufnehmen. Auch Sprachübersetzungen werden nahezu in Echtzeit möglich. LLMs können Vorformulierungen für Analysen erstellen und beim Brainstorming hilfreich sein. Allerdings fehlt den klassischen LLMs die notwendige Sensibilität gegenüber Fehlinformationen. Sie nehmen erlernte Informationen als gegeben an, unabhängig davon, ob diese richtig oder falsch sind. Manchmal produzieren sie dann Halluzinationen, also sprachlich passende Antworten auf eine gestellte Frage, die aber nicht oder nur teilweise der Wahrheit entsprechen. LLMs könnten auch von böswilligen Personen über verzerrend wirkende Trainingsdaten manipuliert worden sein, ohne dass dies in den Antworten direkt erkennbar wäre, etwa um eine (politische) Beeinflussung der Antworten zu bewirken. Dies kann zu Fehlern und zur Diskriminierung von bestimmten Gruppen führen. All dies legt nahe, dass ein Einsatz nur dann erfolgen sollte, wenn die Verantwortlichen bereit und in der Lage sind, die inhaltliche Verantwortung für die generierten Beiträge zu übernehmen. Abhängigkeiten, Lock-In-Effekte, Sicherheitsrisiken und technische Schwachstellen müssen ebenso berücksichtigt werden wie mangelnder Datenschutz und fehlende Privatsphäre, wenn LLM-Systeme auf der Grundlage von Eingaben mit echten personenbezogenen Daten lernen. Zudem gab es eine Debatte darüber, ob diese Systeme im Parlament überhaupt eingesetzt werden sollten und wer für ihren Einsatz verantwortlich wäre. Darüber hinaus wurde diskutiert, ob und wie der Einsatz dieser Systeme in der Praxis festgestellt werden kann.

Ebenso wurden die Folgen für das Staats- und Demokratieverständnis erörtert. Die Feinde der Demokratie nutzen KI bereits für Hackerangriffe und verwenden Deep Fakes in Audio- und Videoformaten unmittelbar vor Wahlen als Mittel zur Untergrabung des Vertrauens in demokratische Institutionen sowie zur Verbreitung von Desinformationen. Obwohl diese Aktivitäten außerhalb der Parlamente stattfinden, ist dieser Umgang mit KI für Parlamente relevant, da sie selbst zum Opfer solcher Angriffe werden können.

Leitlinien zur Einführung und Nutzung von KI in der parlamentarischen Arbeit

Mag der Einsatz von KI im Parlamentsumfeld eine wertvolle Unterstützung für Abgeordnete und ihre Mitarbeitenden sein, so ist dennoch Vorsicht geboten. Jede KI-Technologie verfügt über eigene Stärken und Schwächen, Chancen und Risiken. Eine systematische Auseinandersetzung im Vorfeld ist ebenso erforderlich wie Raum zum Experimentieren, vertrauenswürdige KI-Angebote und ein passendes Fortbildungsangebot. Gerade in Parlamenten, in denen essenzielle Entscheidungen über die Zukunft eines Staates, einschließlich Wirtschaft, Gesellschaft und Verwaltung getroffen werden, muss neben Anwendungsfeldern auch über Grenzen und erforderliche Regulierung gesprochen werden.

Parallel zu den Verhandlungen zur Europäischen KI-Verordnung wurden aus diesem Grund 2023 erste ethische und operative Leitlinien für den Einsatz von KI-Technologien im Umfeld von Parlamenten erarbeitet.⁷ Sie sind 2024 von einer Arbeitsgruppe von 24 Experten aus 17 Ländern vertiefend weiterentwickelt worden. Die Leitlinien befassen sich mit ethischen, strategischen und operativen Fragen, um Rechenschaftspflicht, Transparenz und menschliche Autonomie zu gewährleisten und gleichzeitig Privatsphäre, Sicherheit und Vielfalt zu schützen. Mit 40 Empfehlungen werden mehrere für Parlamente relevante KI-Technologien und Anwendungen angesprochen und die Herausforderungen für ihre Einführung sowie die Entwicklung der KI-Regulierung erörtert. Diese umfassen ethische Grundsätze, menschliche Autonomie, Datenschutz und Sicherheit, Aufsicht und Governance, Design und Betrieb sowie Kapazitätsaufbau und Bildung.⁸

Zusammenfassung und Ausblick

Für den Deutschen Bundestag und die Landtage der Bundesländer stellt sich die Frage, wie sie mit KI im parlamentarischen Alltag umgehen wollen und welche Schwerpunkte sie mit Blick auf die eigenen Digitalstrategien setzen wollen und können. Mittel und Personal für solche Vorhaben stehen bisher kaum bereit. Die Bedürfnisse sind andererseits geweckt. Eine Zusammenarbeit auf nationaler Ebene und im Verbund mit anderen Parlamenten kann zu einer nützlichen Arbeitsteilung führen, von der alle Beteiligten profitieren würden. Beiträge der AWV in diesem Prozess sollten konstruktiv und unterstützend sein, indem sie klare Empfehlungen zur Verfügung stellt.

Die IuK-Kommission des Ältestenrates hat sich im Januar 2024 erstmals mit der Bundestagsverwaltung zusammengesetzt, um sich über den Einsatz von KI im Parlament auszutauschen, eine Meinung über ein strategisches Vorgehen zu bilden und wünschenswerte Anwendungsfelder zu identifizieren. Zunächst wurden Leitfragen und Leitsätze für den Einsatz von KI im Kontext zu parlamentarischen Informationen, Transparenz, Rechenschaftspflicht, Datenschutz, IT-Standards sowie Ethik, Fairness und Verantwortung formuliert. Nun gilt es, die zu entwickelnde Multi-Cloud-Strategie und die zu erwartende Einführung der E-Gesetzgebung in den Bundesministerien, dem Deutschen Bundestag und dem Bundesrat zu berücksichtigen.

Der Einsatz von KI in Parlamenten könnte schneller als erwartet Realität werden. Es gibt bereits eine Vielzahl geeigneter KI-basierter Werkzeuge auf dem Markt. International nutzen bereits mehrere Parlamente KI-basierte Systeme.⁹ Parlamente müssen sich daher auf die verstärkte Nutzung von KI einstellen. Dies wirft nicht nur technische und sicherheitsrelevante, sondern auch zahlreiche ethische Fragen auf. Trotzdem versprechen diese Technologien der Politik Effizienzsteigerungen, eine verbesserte Datenauswertung und fundiertere Entscheidungen. Diese Zielbilder rechtfertigen die zusätzlichen Aufwendungen.