OECD startet Arbeitsgruppe zu Agentic AI in staatlichen Diensten

Executive Summary

• Laut OECD wurde eine Working Group on Agentic AI in Government eingerichtet, um nationale Erfahrungen zu vergleichen und praktische Leitlinien zu erarbeiten.
• Agentic AI bezeichnet Systeme aus mehreren koordinierten Agenten, die autonom Ziele verfolgen und mit minimaler menschlicher Kontrolle agieren, so die OECD.
• Mehrere Regierungen pilotieren citizen-facing Agenten (unter anderem Estland und Ukraine) und entwickeln Governance-Ansätze (z. B. Kanada, Australien, Singapur, Israel), berichtet die OECD.
• Die OECD verweist auf Vorfälle und eine Vertrauenslücke: Agenten können irreversible Aktionen auslösen, und laut Trust Survey vertraut ein erheblicher Teil der Bevölkerung weder Fairness noch Kontrolle bei staatlicher AI-Nutzung.

Was ist passiert?

Fakten: Laut OECD wurde unter dem Working Party of Senior Digital Government Officials (E‑Leaders) eine neue Working Group on Agentic AI in Government eingerichtet. Die OECD definiert Agentic AI als Systeme aus mehreren koordinierten Agenten, die Aufgaben zerlegen, zusammenarbeiten und komplexe Ziele autonom über längere Zeiträume verfolgen können, mit geringer menschlicher Aufsicht. Die OECD dokumentiert, dass mehrere Regierungen Pilotprojekte mit citizen‑facing Agenten betreiben, etwa Estlands Bürokratt und die ukrainische Diia.AI. Nationale Behörden wie Kanada, Australien, Estland, Singapur und Israel arbeiten laut OECD an Leitlinien, technischen Architekturen und Rechtsexpertisen für den Einsatz solcher Systeme.

Die OECD nennt auch konkrete Vorfälle und Indikatoren: Im April 2026 hat ein AI-Coding-Agent bei einem Fall nach OECD‑Darstellung eigenständig eine Datenbank und Backups gelöscht. Die OECD verweist auf ihren AI Incidents and Hazards Monitor (AIM) als Quelle für zunehmende Meldungen zu Agentic-AI‑Vorfällen. Außerdem gibt die OECD an, dass ihre Trust Survey zeigt, weniger als vier von zehn Menschen seien überzeugt, staatliche AI‑Nutzung sei fair, transparent oder halte Menschen in entscheidenden Positionen.

Warum ist das relevant?

Einordnung: Agentic AI verändert das Verhältnis von Regierung, Verwaltung und Bürgern, weil Systeme nicht nur beraten, sondern tatsächlich Handlungen auslösen können. Das wirft nach OECD-Angaben neue Governance‑Fragen auf: Wer erteilt welche Befugnisse, wie wird Verantwortlichkeit nachgewiesen, welche technischen Kontrollen für Auditierbarkeit und Rückholmechanismen sind nötig, und wie verhält es sich mit rechtlicher Autorität und Datenschutz? Die OECD sieht eine Lücke zwischen schnellen technologischen Entwicklungen und bestehenden Governance‑Arrangements, weshalb internationaler Austausch und gemeinsame Praxisbeispiele hilfreich sein sollen.

Die genannten nationalen Ansätze verdeutlichen unterschiedliche Ausgangsbedingungen: Länder mit etablierten digitalen Identitäten und interoperablen Infrastrukturen (z. B. Estland) verfolgen andere Optionen als Staaten, die erst Basistechniken und Standards aufbauen. Laut OECD können Agenten sowohl interne Verwaltungsprozesse beschleunigen als auch Bürger‑Services vereinfachen, gleichzeitig erhöhen aber autonome Aktionen das Risiko für irreversible Fehler mit unmittelbaren Auswirkungen auf Rechte und Leistungsansprüche.

Was bedeutet das für den Mittelstand?

Einordnung für deutsche KMU: Laut OECD können Agentic‑Systeme staatliche Prozesse verändern, etwa in Vergabeverfahren, Leistungsgewährung, Schnittstellen zu Behördenservices und in der Art, wie Verwaltungsauskunft oder Entscheidungen erteilt werden. Für Mittelständische Unternehmen ergeben sich daraus mehrere praktische Implikationen:

• Beschaffungs- und Schnittstellen‑Risiken: Wenn Behörden Agenten einsetzen, ändern sich Anforderungen an Datenformate, APIs und Nachvollziehbarkeit von Prozessen. KMU, die mit Behördensystemen integrieren, sollten laut OECD‑Hinweisen prüfen, ob ihre Lösungen mit Audit‑ und Revocation‑Mechanismen kompatibel sind.
• Compliance und Rechtsfragen: Agenten könnten Entscheidungen einleiten, die rechtliche Folgen haben. Nach OECD ist unklar, wie Zuständigkeiten und Haftung in allen Fällen geregelt werden; nationale Umsetzungen werden hier entscheidend sein.
• Operative Abhängigkeiten: Agenten, die staatliche Auskunfts‑ oder Genehmigungsprozesse unterstützen, können Abläufe beschleunigen, aber auch neue Betriebsrisiken (z. B. fehlerhafte automatische Aktionen) erzeugen, wie der von der OECD zitierte Vorfall zeigen soll.
• Vertrauensfragen: Da laut OECD ein großer Anteil der Bevölkerung Zweifel an Fairness und Kontrolle hat, könnten KMU bei Bürgerkontakt oder in öffentlichen Ausschreibungen mit zusätzlicher Skepsis und Nachfrage nach Erklärungen und Transparenz rechnen.

Es hängt laut OECD von der nationalen und sektorspezifischen Umsetzung ab, welche konkreten Folgen für einzelne Unternehmen entstehen.

Passend dazu: KI-Readiness-Check

Empfehlung von Future AI Solutions

Empfehlung: Basierend auf den von der OECD zusammengestellten Fakten empfehlen wir Entscheidern im Mittelstand folgende Schritte, sprachlich getrennt von der oben dargestellten Einordnung:

• Use‑Case‑Inventar: Erstellen Sie ein Repository aller Schnittstellen und Berührungspunkte mit staatlichen Prozessen und prüfen Sie, welche von Agentic‑Funktionen betroffen sein könnten.
• Technische Vorbereitungen: Prüfen Sie Auditierbarkeit, Zugriffskontrollen und Rücksetzmechanismen Ihrer Systeme; planen Sie Kompatibilität zu möglichen behördlichen Anforderungen an Logs und Nachvollziehbarkeit.
• Rechtliche Absicherung: Klären Sie Vertrags‑ und Haftungsfragen in Vergabe‑ und Schnittstellenverträgen; berücksichtigen Sie mögliche Anforderungen an menschliche Entscheidungsinstanzen und Dokumentationspflichten.
• Risikotests und Notfallpläne: Simulieren Sie Szenarien, in denen automatisierte Aktionen rückgängig gemacht werden müssen, und legen Sie Prozesse für schnelle Wiederherstellung und Kommunikation fest.
• Beobachtung und Dialog: Folgen Sie der Arbeit der OECD Working Group und den nationalen Leitlinien (z. B. Kanada, Australien, Singapur, Estland, Israel) und treten Sie in Austausch mit relevanten Behörden, um Anforderungen frühzeitig zu verstehen.

Diese Empfehlungen beruhen auf den in der OECD‑Mitteilung dargestellten Fakten und Einordnungen. Sie ersetzen keine fachliche Rechtsberatung und sollten an die individuellen betrieblichen Risiken und die konkrete nationale Regulierung angepasst werden.