Wie können wir die Chancen Künstlicher Intelligenz nutzen, ohne die Kontrolle über ihre Entwicklung zu verlieren? Darüber habe ich am 21. Oktober mit Simon Sperl von PauseAI und Benjamin Balde von ControlAI diskutiert.
KI bietet große Chancen: für medizinische Forschung, Klimaschutz, Bildung und gesellschaftliche Teilhabe. Gleichzeitig entwickeln sich ihre Fähigkeiten rasant. Simon Sperl und Benjamin Balde zeigten, welche Gefahren damit verbunden sind – und warum wir dringend politische Antworten brauchen.
Schon heute kann KI Desinformation, Überwachung und Cyberangriffe erleichtern. Hinzu kommen Risiken beim Einsatz in der biologischen und chemischen Waffenentwicklung sowie bei autonomen Waffensystemen. Besonders intensiv diskutierten wir die Frage, ob zukünftige KI-Systeme so leistungsfähig und eigenständig werden könnten, dass Menschen die Kontrolle über sie verlieren.
Die Vorträge verwiesen auf Sicherheitstests, bei denen KI-Agenten unerwartete Verhaltensweisen zeigten, Sicherheitsvorgaben umgingen oder täuschendes Verhalten entwickelten. Das bedeutet nicht, dass ein umfassender Kontrollverlust bereits eingetreten ist. Es zeigt aber, wie wichtig unabhängige Sicherheitsforschung und verbindliche Kontrollen sind.
In der Diskussion kam auch die Frage auf, ob Warnungen vor KI-Risiken teilweise Marketing großer Technologiekonzerne seien. Solche wirtschaftlichen Interessen gibt es durchaus: Strenge Regeln können auch dazu genutzt werden, kleinere Wettbewerber auszubremsen. Die Risiken lassen sich deshalb aber nicht einfach wegwischen. Sicherheitsvorfälle und problematische Testergebnisse werden auch von unabhängigen Forschenden und betroffenen Institutionen thematisiert.
Für uns Grüne ist klar: Technologie muss dem Menschen dienen – nicht umgekehrt. Wir wollen die Chancen von KI nutzen, aber ihre Entwicklung muss demokratisch beherrschbar bleiben und darf weder unsere Grundrechte noch unsere natürlichen Lebensgrundlagen gefährden.
Dafür brauchen wir unabhängige Sicherheitsprüfungen, starke öffentliche Aufsichtsbehörden und die Möglichkeit, besonders gefährliche Entwicklungen rechtzeitig zu begrenzen. Für den grünen Bundesparteitag im Dezember liegen dazu Vorschläge des Bundesvorstands und aus der Bundestagsfraktion vor – von einem internationalen Entwicklungsmoratorium bis zu gezielten Eingriffsmöglichkeiten bei nicht beherrschbaren Risiken.
Auch die ökologischen Kosten müssen stärker berücksichtigt werden. Rechenzentren benötigen Strom, Wasser, Rohstoffe und Flächen. Wir brauchen deshalb transparente Verbrauchsdaten, verbindliche Effizienzstandards, eine ressourcenschonende Standortplanung und ökologische Bedingungen für öffentliche Förderung. Diskutiert wurde auch eine mögliche Tokensteuer: eine nutzungsabhängige Abgabe, die Anreize für effizientere KI schaffen könnte. Allerdings bildet die Zahl verarbeiteter Tokens den tatsächlichen Ressourcenverbrauch nur ungenau ab.
Ein weiteres Thema war die Zukunft der Arbeit. Wie stark KI einzelne Berufe verändern oder ersetzen wird, lässt sich nicht zuverlässig vorhersagen. Klar ist aber: Wir müssen den Wandel politisch gestalten, Beschäftigte absichern, Weiterbildung ermöglichen und gesellschaftlich wichtige Berufe stärken.
Auch für das Bildungssystem bietet KI Chancen. Sie kann individuelles Lernen unterstützen und neue Fähigkeiten vermitteln – etwa beim Programmieren oder beim kritischen Umgang mit KI-Ergebnissen. Dafür brauchen Lehrkräfte und Lernende jedoch bessere Begleitung und zeitgemäße Bildungsangebote.
Welche Rolle kann Deutschland spielen? Eine größere, als wir manchmal annehmen. Mit seiner industriellen Stärke, seiner Innovationskraft in der Robotik und seinem Einfluss innerhalb der EU kann Deutschland konkrete Initiativen für internationale KI-Regeln vorantreiben. Europa muss sich nicht hinter dem technologischen Wettlauf zwischen den USA und China verstecken.
Die Geschichte internationaler Abrüstungsabkommen zeigt, dass gemeinsame Regeln selbst unter Konkurrenzbedingungen möglich sind. PauseAI und ControlAI setzen sich deshalb für verbindliche internationale Grenzen besonders gefährlicher KI-Entwicklungen ein.
Mein Fazit: KI-Entwicklung ist kein Naturgesetz, dem wir uns unterordnen müssen. Wir können demokratisch entscheiden, welche Anwendungen wir fördern, welche Risiken wir akzeptieren und wo wir Grenzen setzen. Unser Ziel muss eine KI sein, die dem Gemeinwohl dient, gesellschaftlich gerecht gestaltet wird und innerhalb unserer ökologischen Grenzen bleibt.