Sie buchen eigenständig Reisen, verwalten unsere E-Mails und entscheiden bald in der Verwaltung mit: KI-Agenten sind die nächste Stufe der digitalen Revolution. Aber die Bequemlichkeit hat ihren Preis, erklärt Christian Stiegler, der neue Technologie-Experte von NewsFlix.
Das Thema KI ist mittlerweile in der Mitte der Bevölkerung angekommen. Oder besser gesagt jene Anwendung, die derzeit gemeinhin mit KI gleichgesetzt wird, nämlich Chatbots. Programme wie ChatGPT, Gemini, Claude oder Grok können Fragen beantworten, Texte erstellen, programmieren oder Bilder und Videos generieren. Und zwar so niederschwellig, dass sie mittlerweile jeder bedienen kann.
Aber was ist ein KI-Agent? Fragt man das eine KI, erhält man in etwa folgende Antwort: "Ein KI-Agent ist eine KI, die nicht nur denkt, sondern handelt, um ein Ziel zu erreichen." Das klingt zunächst, je nach individuellem Zugang, entweder paradiesisch oder apokalyptisch.
Aber es ist so oder so nur die halbe Wahrheit. Denn KI-Agenten sind nicht weniger als die nächste Stufe einer digitalen Revolution, von der noch nicht völlig klar ist, wohin sie führen und wo sie enden wird.
Christian Stiegler ist Forscher und international anerkannter Experte für neue Technologien. Sein Thema ist nicht nur das technisch Machbare, sondern auch die Ebene dahinter, Fragen der Ethik und Nachhaltigkeit in der Technologieentwicklung. Er erklärt, welchen Nutzen KI-Agenten haben und warum wir dringend digitale Souveränität und eine Demokratisierung der Algorithmen brauchen:
KI-Agenten gelten derzeit als größter Technologietrend, aber was genau leisten sie?
KI-Agenten markieren die nächste Entwicklungsstufe algorithmischer Anwendungen. Softwareprogramme wie OpenClaw, an denen auch der Österreicher Peter Steinberger vor seinem Wechsel zu OpenAI beteiligt war, gehen weit über klassische Chatbots hinaus.
Was bedeutet das?
Sie können als "virtuelle Assistenten" eigenständig Informationen auswerten, personalisierte Entscheidungen treffen und Aufgaben ausführen. Dazu zählen etwa das Buchen von Reisen, der Vergleich von Angeboten oder automatisierte Einkäufe.
Wie funktioniert das?
Indem der KI-Agent eigenständig E-Mail-Postfächer verwaltet, Webseiten bedient und Software installiert. Besonders weitreichend: KI-Agenten können autonom mit anderen KI-Agenten kommunizieren und Transaktionen durchführen, ohne dass jeder Zwischenschritt bestätigt werden muss.
Das klingt nach maximaler Bequemlichkeit. Wo ist der Haken?
Wann immer KI-Agenten Entscheidungen übernehmen, geben Menschen ein Stück Kontrolle ab. Man darf nicht vergessen: Diese Programme sind in den allermeisten Fällen von profitorientierten Unternehmen entwickelt worden.
Was ist damit gemeint?
Das bedeutet, diese Unternehmen bestimmen mit, welche Informationen sichtbar sind und welche Produkte ausgewählt oder empfohlen werden. Gerade im Online-Handel stellt sich damit die Frage, nach welcher Logik der Algorithmus Produkte bevorzugt und andere nicht.
Was sollte man noch bedenken?
Hinzu kommt der Datenschutz. Damit KI-Agenten zuverlässig arbeiten, benötigen sie Zugriff auf persönliche Informationen, etwa Adressen, Zahlungsdaten wie Konto- oder Kreditkartendetails sowie sensible Informationen zur Erstellung eines individuellen Profils.
Wie lässt sich das umgehen?
OpenClaw-Entwickler Peter Steinberger empfahl etwa in einem ZiB 2-Interview, zur Sicherheit eine zweite Kreditkarte für KI-Agenten zu verwenden. Solch eine Überlegung wirkt für den Großteil der Bevölkerung allerdings eher lebensfremd.
Ist so viel Sicherheit wirklich notwendig?
Was man nicht vergessen sollte: KI-Agenten können selbst Profis überfordern, wie der Fall einer Sicherheitsexpertin von Meta zeigt: OpenClaw löschte ihre gesamten E-Mails und reagierte anschließend nicht mehr auf Befehle.
Wer haftet eigentlich, wenn so etwas geschieht?
Wer im Falle einer solchen Fehlfunktion haftet, ist derzeit noch völlig unklar.
Was bedeuten KI-Agenten für die österreichische Wirtschaft?
Die Entwicklung ist ambivalent. Einerseits können KI-Agenten erhebliche Effizienzgewinne ermöglichen, etwa in Logistik oder Kundenservice. Andererseits besteht die Gefahr, dass damit auch der direkte Zugang zu Kundinnen und Kunden zunehmend von großen internationalen Plattformen wie OpenAI, Google und Anthropic kontrolliert wird.
Wozu könnte das führen?
Wenn KI-Agenten Kaufentscheidungen vorstrukturieren, rückt eine Logik in den Vordergrund, die für viele Unternehmen kaum nachvollziehbar ist. Das ist eine Entwicklung, die sich bereits bei der Dominanz und der Abhängigkeit von Suchmaschinen und sozialen Netzwerken abgezeichnet hat. Wer im Google-Ranking oder im Meta-Feed nicht vorkommt, ist unsichtbar.
Und das ist bei KI-Agenten genauso?
Bei KI-Agenten verschärft sich dieses Problem noch: Sie entscheiden intransparent, wer überhaupt noch sichtbar ist. Für viele heimische Unternehmen kann das zu einem ernsthaften Wettbewerbsnachteil werden.
Nun ziehen KI-Agenten auch in die öffentliche Verwaltung ein. Ist das ein Grund zur Sorge?
In Österreich wurde zuletzt mit "Public AI" eine Initiative gestartet, um die Verwaltung weiter zu digitalisieren. "Agentische KI" zählt dabei bereits zu den definierten Anwendungsbereichen.
Wozu braucht man das?
Der zunehmende Einsatz von KI-Agenten in der Verwaltung hat vor allem strukturelle Gründe: knapper werdende Ressourcen, steigende Antragszahlen und der demografische Wandel. Die wachsende Automatisierung soll Kosten senken und das Budget sanieren. KI-Agenten können hier entlasten, etwa durch die schnelle Bearbeitung von Anträgen oder durch digitale Services rund um die Uhr.
Also alles paletti?
Die Effizienz-Rechnung hat noch eine Kehrseite: Wenn durch massive Automatisierung in der Verwaltung Jobs wegfallen, könnten sinkende Steuereinnahmen und steigende Kosten für das Sozialsystem die erhofften Einsparungen im Budget schnell wieder auffressen.
Außerdem?
Gleichzeitig entsteht noch ein völlig neues Risiko: eine "Blackbox-Verwaltung". Wenn Algorithmen über Förderungen oder Bescheide entscheiden, müssen diese Prozesse vollständig transparent und nachvollziehbar sein. Andernfalls droht eine Entfremdung zwischen Staat und Bevölkerung mit schweren Folgen für alle demokratischen Prozesse.
Wie kann die Bevölkerung in diese Entwicklung mit einbezogen werden?
Laut einer Studie der Statistik Austria schätzen 73 Prozent der heimischen Bevölkerung ihr KI-Wissen als gering oder nicht vorhanden ein. Und die Dunkelziffer dürfte noch höher sein.
Welcher Schluss lässt sich daraus ziehen?
Es braucht eine radikale Transparenz- und Kompetenzoffensive. Es reicht nicht, KI-Agenten einfach "einzuführen". Wir müssen alle Bürger, vom Lehrling bis zur Pensionistin, aktiv in die Gestaltung KI-basierter Prozesse einbinden.
Und wie soll das funktionieren?
Wir brauchen einen demokratischen Dialog über Nutzen und Grenzen der Automatisierung. Vor allem für jene Bevölkerungsgruppen, die sich bisher beim Thema KI abgehängt fühlen. Der Vorteil: KI-Initiativen ließen sich so mit echter Unterstützung der Bevölkerung umsetzen, statt sie von oben herab zu verordnen.
Wie ließe sich das angehen?
Da viele dieser Projekte mit öffentlichen Geldern finanziert werden, besteht ohnehin eine demokratiepolitische Verpflichtung zur Mitbestimmung. Das stärkt die digitale Souveränität und fördert die Fähigkeit bei jedem Einzelnen, KI-Agenten kritisch zu prüfen.
Was bleibt unterm Strich?
Wir müssen Medien- und Technologiekompetenz endlich in die Breite bringen. Denn nur wer versteht, wie KI-Agenten funktionieren, bleibt in einer zunehmend automatisierten Welt selbstbestimmt.
Das heißt?
Menschen müssen erkennen können, welche Auswirkungen diese Systeme auf ihren Alltag haben, besonders dort, wo sie ihnen in der öffentlichen Verwaltung begegnen. Erst dann wird echte Mitsprache möglich: bei Fragen des Klimaschutzes, des Energieeinsatzes und den gesellschaftlichen Folgen KI-gestützter Entscheidungen. Technologie ohne Ethik und demokratische Einbindung der Menschen führt letztlich in die Unmündigkeit jedes Einzelnen.
Dr. Christian Stiegler ist Direktor von GUIDING LIGHT, einer international agierenden Organisation für Ethik und Nachhaltigkeit in der Technologieentwicklung. Als führende Stimme an der Schnittstelle von digitaler Transformation und gesellschaftlicher Verantwortung berät er Regierungen, Institutionen und Unternehmen weltweit.
