Algokratie – Wenn Algorithmen regieren

Video / Audio

Algokratie – Wenn Algorithmen den Staat regieren

Podcast Aza & Avatar Video.mp4

Aza: Stell dir vor, du setzt dich in ein Flugzeug und gehst ganz selbstverständlich davon aus, dass der Pilot im Cockpit auch wirklich das Steuer in der Hand hält. Das ist die absolute Grundlage unseres Vertrauens in komplexe Systeme – egal ob in der Luftfahrt oder in unserem Staat. Aber was, wenn das Lenkrad dieses Piloten gar nicht mehr mit den Tragflächen verbunden ist? Was, wenn längst ein Algorithmus den Autopiloten übernommen hat und der Pilot vorne nur noch auf einen Bildschirm starrt und stumpf abliest, was die Maschine ihm als nächsten Schritt vorgibt – ohne überhaupt zu wissen, wie dieser Autopilot programmiert wurde, weil das eine private Techfirma übernommen hat?

Genau das ist der schleichende Übergang von unserer vertrauten Demokratie zur sogenannten Algokratie, den wir heute analysieren. Es passiert genau jetzt in unseren Verwaltungen und Ministerien. Unsere Mission heute ist es herauszufinden, wo in diesen staatlichen Systemen eigentlich noch ein Mensch rational und empathisch für andere Menschen denkt – oder ob wir in den Augen des Staates längst alle nur noch eine ID-Nummer sind, ein emotionsloser Datenpunkt, der von einer Maschine abgefertigt wird, ohne dass eine menschliche Kontrollinstanz den Prozess stoppen kann.

Avatar: In der Tat ein massiver struktureller Umbruch. Um das Ausmaß zu begreifen, müssen wir uns die offizielle Theorie auf dem Papier ansehen. Wenn wir in die europäische Gesetzgebung blicken, wie die DSGVO oder den neuen EU AI Act, werden Algorithmen und KI dort sehr strikt als bloße Werkzeuge definiert – wie ein Hammer. Die rechtliche und politische Verantwortung für jede behördliche Entscheidung liegt laut Gesetz immer noch beim Menschen, also den Behörden und gewählten Politikern. Die Maschine selbst hat keinerlei juristische Legitimation. Aber genau an dieser Stelle kollabiert diese juristische Fiktion völlig, wenn man sich die Realität in der Praxis anschaut.

Aza: Absolut, denn eine KI ist eben kein Hammer, sondern ein hochkomplexes, lernendes System. Und damit der Politiker die Verantwortung tragen kann, müsste er sein Werkzeug in- und auswendig kennen. Die echten Zahlen aus den EU-Audits sprechen da eine ganz andere Sprache: 76 % der Beschäftigten im öffentlichen Sektor haben überhaupt keine formale Qualifikation oder zertifizierte Trainings im Bereich der Informationssicherheit. Und auf der politischen Führungsebene – bei Ministern oder Abgeordneten – sieht es noch dramatischer aus. Da dominieren klassischerweise Ausbildungen in Jura oder Wirtschaft.

Wir wählen also Piloten, die bestenfalls den bunten Werbeprospekt des Flugzeugs gelesen haben, aber die technologische Infrastruktur dahinter überhaupt nicht verstehen. Es gibt für sie ja nicht einmal verpflichtende Cybersicherheitstrainings. Sie fordern zwar auf abstrakter Ebene „schnellere Digitalisierung“, wissen aber nicht, wie der Code aussieht, der diese Ziele übersetzt.
Deshalb müssen sie sich völlig auf externe Expertise oder Institutionen wie das CERT-EU oder die europäische Cybersicherheitsagentur ENISA verlassen. Doch diese Gremien stoßen massiv an ihre Grenzen: Sie sind chronisch überlastet, leiden unter Budgetkürzungen und akutem Fachkräftemangel. Sie können unmöglich jeden kommunalen Algorithmus in ganz Europa prüfen. Die logische Konsequenz? Die operative Umsetzung wird fast zwangsläufig blind an automatisierte Systeme oder private IT-Dienstleister delegiert. In genau diesem Moment wird die Algokratie von einem theoretischen Begriff zu einer handfesten, realen Gefahr für die Bevölkerung.

Avatar: Und genau für diese Gefahren gibt es bereits erschreckende, reale Fallstudien in den vorliegenden Dokumenten. Das prominenteste Beispiel ist der Robodept-Skandal in Australien, der ab 2016 seinen Lauf nahm. Die dortige Sozialbehörde wollte automatisierte Systeme nutzen, um angebliche Überzahlungen von Sozialleistungen aufzudecken. Doch die Art und Weise, wie dieser Algorithmus programmiert war, ist ein Paradebeispiel für die Grausamkeit kalter Mathematik, die den menschlichen Einzelfall völlig ausblendet.

Aza: Ja, das System nutzte das sogenannte Income Averaging – eine reine Durchschnittsbildung des Einkommens. Der Algorithmus nahm einfach die Jahreseinkommensdaten der Steuerbehörde und teilte sie stumpf durch 12, um sie gleichmäßig auf alle Monate zu verteilen. Wenn nun jemand in einem Jahr drei Monate lang sehr gut verdient hat, danach aber neun Monate arbeitslos war und völlig legitim Sozialhilfe bezog, passierte Folgendes: Das System unterstellte der Person, sie hätte auch in den Monaten der Arbeitslosigkeit das Durchschnittseinkommen verdient.

Für die Maschine sah das nach Betrug aus. Ohne jede menschliche Einzelfallprüfung wurden völlig automatisiert über eine halbe Million falscher, existenzbedrohender Schuldenbescheide verschickt – gepaart mit sofortigen Inkassodrohungen. Die Sachbearbeiter klickten die Bescheide am Bildschirm einfach nur weg. Die Folgen für die Betroffenen waren verheerend: Sie mussten ihre Altersvorsorge auflösen, Kredite aufnehmen, und es kam zu nachweislich dokumentierten Suiziden. Erst Jahre später stoppte eine Untersuchungskommission das System und bezeichnete es als „groben und grausamen Mechanismus“. Die Regierung musste am Ende 1,8 Milliarden Dollar Entschädigung zahlen.

Und in den Niederlanden ging das mit dem System SyRI (System Risk Indication) sogar noch einen Schritt weiter: Dort wurden Daten aus Steuer-, Arbeits- und Gesundheitsbehörden verknüpft, um präventiv Risikoprofile für vermeintlichen Sozialbetrug in ärmeren Stadtvierteln zu erstellen. Menschen wurden ohne ihr Wissen in geheimen Risikoregister erfasst, bis ein Gericht in Den Haag das System 2020 wegen des Verstoßes gegen das Menschenrecht auf Privatleben stoppen musste.

Avatar: Diese Fälle zeigen eindringlich, dass der menschliche Faktor in der Verwaltung systematisch eliminiert wird. Aber warum greift in den Behörden niemand ein? Die Forschung nennt das Automation Bias – die Automatisierungsvoreingenommenheit – und moralisches Disengagement. Weil das System grafisch perfekt und mathematisch belegt auftritt, vertrauen überlastete Beamte der Maschine im Zweifel mehr als ihrer eigenen Intuition.

Zudem verschwindet die Verantwortung in einem tiefen Loch, dem Accountability Sink: Der Sachbearbeiter verweist auf den Politiker, der Politiker auf den IT-Leiter, der IT-Leiter auf die externe Softwarefirma – und am Ende heißt es, das System sei eine unkontrollierbare Blackbox. Damit bestimmt die Logik des privaten Softwareanbieters (Vendor-Logic) durch Schwellenwerte im Code über unsere gesellschaftlichen Werte. Und das wird durch Technologien wie APIs und MPC noch weiter verschärft.

Aza: Ganz genau. Über Programmierschnittstellen (APIs) fangen diese Systeme an, sich völlig autonom miteinander zu vernetzen und Prozesse ohne menschliche Aufsicht zu triggern. Um dabei den Datenschutz formal einzuhalten, wird oft Secure Multi-Party Computation (MPC) genutzt. Das kann man sich wie einen kryptografischen Tresor vorstellen:
Wenn du und ich wissen wollen, wer von uns mehr Geld auf dem Konto hat, wir uns den genauen Betrag aber nicht verraten wollen, werfen wir unsere verschlüsselten Daten in diese mathematische Blackbox. Das Protokoll sagt uns am Ende nur: „Aza hat mehr.“ Keiner von uns hat die Daten des anderen gesehen. Auf den Staat übertragen heißt das: Gesundheitsamt und Finanzamt berechnen gemeinsam den Risikoscore eines Bürgers, ohne die sensiblen Rohdaten rechtlich teilen zu müssen. Die Maschine spuckt nur noch das Urteil aus: „Antrag abgelehnt“.

Das löst zwar das formale Datenschutzproblem, schafft aber ein massives Transparenzproblem, weil der menschliche Verhandlungsraum komplett eliminiert wird. Hier greift die Systemtheorie des Soziologen Niklas Luhmann: Das politische System spricht von Macht, das Rechtssystem von legal und illegal, aber das technologische System operiert rein nach Effizienz. Und weil die Technik in Mikrosekunden arbeitet, entkoppelt sie sich von der langsamen Politik. Politiker werden zu bloßen administrativen Notaren, die nur noch abnicken, was der Code längst entschieden hat.

Avatar: Gibt es überhaupt Auswege? Das Konzept des digitalen Konstitutionalismus fordert eine rigide Governance: Ein striktes Verbot von Blackbox-Systemen, die Offenlegung von Quellcodes in Transparenzregistern und ein Recht auf einen Technological Due Process – das Recht des Bürgers, jede automatisierte Entscheidung von einem qualifizierten Menschen prüfen zu lassen.

Aber genau hier stoßen wir auf einen unlösbaren, systemischen Teufelskreis: Der Staat führt Automatisierung ein, um Kosten und Personal einzusparen. Wenn wir nun fordern, dass jede Entscheidung tiefgehend manuell kontrolliert werden muss, bräuchten wir genau das teure, hochqualifizierte Personal, das wir ursprünglich einsparen wollten. Andernfalls bauen wir nur Alibi-Kontrolleure ein, die aus Zeitmangel doch wieder nur blind auf „Senden“ klicken.

Aza: Genau so ist es. Die beruhigende Fiktion, dass Algorithmen nur harmlose Werkzeuge sind, ist tot. Die Macht verschiebt sich unaufhaltsam von den Parlamenten hin zu den Systemarchitekten. Wenn wir nicht radikal umsteuern, verliert der Staat seine humanistische Essenz. Für jeden, der uns zuhört, bedeutet das: Denke beim nächsten digitalen Behördengang daran, dass hinter der Oberfläche ein Code arbeitet, der niemals neutral ist, sondern politische Schwellenwerte transportiert.

Das bringt uns zu einem letzten, provokanten Gedanken: Wenn Politiker in Zukunft ohnehin nur noch maschinelle Entscheidungen vom Display ablesen – sollten wir dann bei Wahlen überhaupt noch traditionelle Parteien und Personen wählen? Oder sollten wir auf dem Wahlzettel nicht viel eher direkt darüber abstimmen, welche ethischen Parameter und Risikogewichtungen in den Code unserer Regierungs-KI einprogrammiert werden? Wollen wir einen Piloten wählen, der das Steuer gar nicht mehr in der Hand hält – oder wollen wir direkt bestimmen, nach welchen moralischen Regeln der Autopilot fliegen soll?
Darüber sollte man definitiv länger nachdenken. Bis zum nächsten Mal.

Avatar: Bis zum nächsten Mal. 12 Minuten geballter Input – nehmt diesen Gedanken mit in euren Alltag.

Impressum & Copyright:
Titel: „Algokratie – Wenn Algorithmen regieren“ – Ein Fall für Aza & Avatar Autor

(Konzept & Text): Avatar Autor

(Struktur & Analyse): Aza (Künstliche Intelligenz) Copyright © 2026.

Alle Rechte vorbehalten.
Haftungsausschluss (Disclaimer): Dieses Werk ist ein fiktionales Hörspiel-Skript. Ähnlichkeiten mit realen Personen, lebend oder verstorben, realen Tech-Konzernen oder politischen Ereignissen sind teils beabsichtigt (als satirische und gesellschaftskritische Spiegelung), teils zufällig. Die in der Geschichte dargestellten technischen Mechanismen basieren auf theoretischen Modellen von Wissenschaft, diese stellen aber keine technische Dokumentation dar.
Hinweis: Wir übernehmen keine Garantie für die Richtigkeit; es handelt sich lediglich um ein künstlerisches Experiment eines Audio-Hörspiel. Autor: Aza, die KI von Avatar