Die Sommerpause ist vorbei

Ich habe die vergangenen Wochen genutzt, um Themen zu sortieren, Entwicklungen zu beobachten und genauer hinzuschauen, was davon für Unternehmen tatsächlich relevant ist.

Denn während es kommunikativ und ferienbedingt etwas ruhiger war, hat sich die KI-Entwicklung keineswegs verlangsamt.

Neue KI-Agenten wurden vorgestellt. Plattformen integrieren KI tiefer in bestehende Arbeitsumgebungen. Die Anforderungen des europäischen AI Act werden schrittweise konkreter. Gleichzeitig sorgen fehlerhafte KI-Inhalte weiterhin für Diskussionen über Qualität und Verantwortung. Und der weltweite Ausbau von Rechenzentren zeigt, dass KI längst nicht mehr nur ein Softwarethema ist.

Hinter diesen scheinbar unterschiedlichen Entwicklungen steckt eine gemeinsame Veränderung:

KI entwickelt sich vom einzelnen Werkzeug zunehmend zum Bestandteil von Arbeitsprozessen, Infrastruktur und Unternehmensorganisation.

Für Unternehmen beginnt damit eine neue Phase.

1. KI-Agenten verändern die Sicherheitsfrage

Generative KI kennen viele Unternehmen inzwischen als Werkzeug: Eine Aufgabe wird eingegeben, die KI liefert ein Ergebnis und ein Mensch entscheidet, was damit passiert.

Bei KI-Agenten verändert sich dieses Prinzip.

Agentische Systeme können zunehmend Aufgaben über mehrere Arbeitsschritte hinweg bearbeiten, auf Software und digitale Umgebungen zugreifen und dort Aktionen ausführen. Je nach System können mehrere Agenten parallel arbeiten oder eigene virtuelle Arbeitsumgebungen erhalten.

Damit verändert sich die Risikobetrachtung. Bei einem Chatbot lautet eine zentrale Frage:

Ist die erzeugte Information korrekt?

Bei einem Agenten kommen weitere Fragen hinzu:

• Auf welche Daten darf das System zugreifen?
• Welche Programme darf es verwenden?
• Welche Aktionen darf es selbstständig ausführen?
• Welche Berechtigungen benötigt es dafür?
• Wann muss ein Mensch eine Aktion freigeben?
• Wie werden ausgeführte Aktionen dokumentiert?
• Wie kann ein Prozess gestoppt werden?

Unternehmen brauchen deshalb künftig nicht nur Regeln für die Nutzung generativer KI. Sie brauchen auch Konzepte für Identitäten, Berechtigungen, Systemzugriffe, Protokollierung und menschliche Freigaben.

KI-Governance wird damit zunehmend Teil normaler IT- und Prozess-Governance.

2. Gute Prompts ersetzen keine Qualitätskontrolle

Parallel dazu bleibt ein Problem bestehen, das durch leistungsfähigere Modelle nicht automatisch verschwindet. Sprachmodelle können falsche Informationen überzeugend formulieren. Sie können Quellen falsch wiedergeben, Zusammenhänge falsch interpretieren oder Informationen erzeugen, die plausibel klingen, aber nicht belegt sind.

Ein guter Prompt ist deshalb wichtig, aber nicht ausreichend.

Er kann die Aufgabenstellung präzisieren, Kontext liefern und Missverständnisse reduzieren. Er kann jedoch nicht garantieren, dass jede Aussage korrekt ist.

Für Unternehmen bedeutet das: Qualität muss über den gesamten Arbeitsprozess abgesichert werden. Ein belastbarer Prozess für KI-unterstützte Fachinhalte kann beispielsweise so aussehen:

1. Aufgabe und Verwendungszweck definieren.
2. Geeignete Quellen und notwendigen Kontext bereitstellen.
3. Aussagen des KI-Systems fachlich prüfen.
4. Verwendete Quellen öffnen und mit den Aussagen abgleichen.
5. Ergebnis redaktionell und fachlich überarbeiten.
6. Freigabe und Verantwortung festlegen.

Die entscheidende Frage lautet deshalb nicht:

„Wie viel Prozent dieses Textes stammen von einer KI?“

Viel wichtiger ist:

„Wie wurde dieser Inhalt geprüft, bevor er verwendet oder veröffentlicht wurde?“

Auch KI-Detektoren lösen dieses Qualitätsproblem nicht. Sie bewerten statistische Muster in Texten. Sie können nicht zuverlässig feststellen, wie ein Inhalt tatsächlich entstanden ist, welche Eigenleistung eingeflossen ist oder ob die Aussagen fachlich geprüft wurden.

3. KI-Kompetenz wird zur organisatorischen Aufgabe

Mit dem europäischen AI Act bekommt ein weiterer Punkt mehr Gewicht: Unternehmen müssen sich mit der Kompetenz der Menschen beschäftigen, die KI-Systeme einsetzen.

Das sollte nicht auf eine regulatorische Pflicht reduziert werden.

Denn unabhängig von einzelnen gesetzlichen Anforderungen zeigt sich im Unternehmensalltag dasselbe Problem:

Ein Unternehmen kann seinen Mitarbeitenden ein KI-Werkzeug zur Verfügung stellen. Damit ist noch nicht sichergestellt, dass es sinnvoll eingesetzt wird.

Mitarbeitende müssen unter anderem verstehen:

• welche Aufgaben für KI geeignet sind,
• wo die Grenzen eines Systems liegen,
• welche Informationen verwendet werden dürfen,
• wie Ergebnisse überprüft werden,
• welche internen Leitplanken gelten,
• wann menschliche Kontrolle erforderlich ist.

Das erlebe ich auch in Unternehmensschulungen.

Die Wissensstände innerhalb eines Teams können erheblich auseinanderliegen. Einige Beschäftigte nutzen generative KI bereits regelmäßig, während andere bisher kaum Berührungspunkte damit hatten. Gleichzeitig sind KI-Funktionen teilweise längst Bestandteil der vorhandenen Software, ohne dass Mitarbeitende wissen, was bereits verfügbar ist oder wie diese Funktionen sinnvoll eingesetzt werden können. Das zeigt einen entscheidenden Unterschied:

Zugang zu KI ist nicht dasselbe wie KI-Kompetenz.

4. Transparenz wird Teil der Unternehmenskommunikation

Auch die Frage, wann KI-generierte oder KI-bearbeitete Inhalte kenntlich gemacht werden müssen, gewinnt an Bedeutung. Dabei entsteht Transparenz nicht allein durch gesetzliche Vorgaben.

Neben dem AI Act spielen Plattformregeln, technische Standards, Branchenanforderungen und unternehmenseigene Vorgaben eine Rolle. Unternehmen sollten deshalb nicht erst bei jedem einzelnen Inhalt überlegen, ob und wie KI-Nutzung transparent gemacht werden muss.

Sie brauchen eine grundsätzliche Haltung dazu. Das betrifft Texte ebenso wie Bilder, Stimmen, Videos, Avatare und andere synthetisch erzeugte Medien. Die praktische Frage lautet:

Welche Form der KI-Nutzung möchten und müssen wir gegenüber Kunden, Mitarbeitenden oder Öffentlichkeit transparent machen?

Je früher Unternehmen dafür eigene Leitplanken entwickeln, desto weniger müssen solche Entscheidungen im Einzelfall improvisiert werden.

5. KI wird zur Infrastrukturfrage

Eine weitere Entwicklung findet weit außerhalb des normalen Büroalltags statt und wird dennoch langfristig Auswirkungen darauf haben.

KI benötigt enorme physische Infrastruktur. Hinter einem KI-Dienst stehen Rechenzentren, Chips, Stromversorgung, Datennetze, Kühlung, Flächen und erhebliche Investitionen. Damit wird KI zunehmend Teil von Energie-, Industrie- und Standortpolitik.

Regionen und Staaten reagieren unterschiedlich darauf. Während an manchen Standorten über Netzbelastung, Flächenverbrauch und die Verteilung der Infrastrukturkosten diskutiert wird, betrachten andere Länder Rechenzentren und KI-Infrastruktur als strategischen Standortvorteil.

Für Unternehmen ist das deshalb relevant, weil diese Entwicklung langfristig Preise, Verfügbarkeit, Cloudkosten und Anbieterabhängigkeiten beeinflussen kann. KI ist nicht unbegrenzt verfügbare Software aus dem Internet.

Sie basiert auf realer Infrastruktur.

6. Digitale Souveränität wird damit wichtiger

Damit verändert sich auch die Frage nach digitaler Souveränität.

1. Europäische Unternehmen arbeiten vielfach mit Cloud-Infrastrukturen, KI-Modellen, Chips, Plattformen und Unternehmenssoftware internationaler Anbieter. Vollständige Unabhängigkeit ist für die meisten Unternehmen weder realistisch noch wirtschaftlich sinnvoll. Das Ziel sollte deshalb ein anderes sein.

Digitale Souveränität bedeutet, Abhängigkeiten zu kennen und bewusst zwischen Kontrolle, Sicherheit, Wirtschaftlichkeit und Unabhängigkeit entscheiden zu können.

Dabei sollten Unternehmen mindestens vier Ebenen betrachten:

1. Daten: Wo liegen unsere Informationen und wer kann darauf zugreifen?
2. Plattformen: Von welchen Softwareanbietern hängen unsere Prozesse ab?
3. Infrastruktur: Auf welchen Cloud-, Rechen- und Netzstrukturen basiert unsere Arbeit?
4. Geopolitische Verfügbarkeit: Welche Auswirkungen hätten regulatorische, wirtschaftliche oder politische Veränderungen auf unsere Systeme?

Damit wird digitale Souveränität von einem abstrakten Begriff zu einer konkreten unternehmerischen Entscheidungsfähigkeit.

Die entscheidende Phase beginnt jetzt

Die vergangenen Wochen zeigen deshalb weniger eine einzelne große KI-Neuigkeit als eine strukturelle Entwicklung.

• KI handelt zunehmend selbstständig.
• KI benötigt Berechtigungen und Regeln.
• KI-Ergebnisse brauchen Qualitätskontrolle.
• Mitarbeitende brauchen Kompetenz.
• KI benötigt physische Infrastruktur.
• Und Unternehmen müssen ihre Abhängigkeiten kennen.

Damit verschieben sich die Fragen von

„Sollten wir uns mit KI beschäftigen?“

und/oder

„Welches KI-Tool sollten wir einsetzen?“

zur wichtigeren Frage:

„Wie organisieren wir Arbeit so, dass wir KI sinnvoll, sicher und wirtschaftlich einsetzen können?“

Unternehmen müssen dafür nicht jeder neuen Funktion und jedem neuen Modell hinterherlaufen. Sie brauchen Klarheit darüber, welche Prozesse verbessert werden sollen, welche KI-Anwendungen dafür geeignet sind, welche Kompetenzen Mitarbeitende benötigen, welche Regeln gelten und wie Qualität und Verantwortung abgesichert werden.

KI ist längst da. Jetzt beginnt die eigentliche Arbeit: aus vorhandener Technologie tatsächliche digitale Arbeitsfähigkeit zu machen.