KI-Strategie in der Pflege: wer entscheidet, welche Daten, was menschlich bleibt

Stand: 11. Juli 2026

Wer das Mandat für KI im Haus hält

Der übliche Weg beginnt beim Werkzeug. Jemand liest von einem System, schließt ein Abo ab, probiert das nächste, und nach einem Jahr liegt ein Stapel von Zugängen auf dem Tisch, den niemand führt. Das fühlt sich nach Bewegung an. Die Frage, wozu das Haus die Maschine überhaupt will, bleibt dabei ungestellt. Ich lege dem Vorstand deshalb zuerst die Zuständigkeit vor, nicht den Produktnamen.

Strategie heißt hier, die Reihenfolge zu drehen. Erst das Problem, das die Geschäftsführung anerkennt. Dann die Person, die das Ergebnis verantwortet. Dann erst das Werkzeug, das zu beidem passt. Ein Träger, der weiß, wo KI helfen soll und wo bewusst nicht, trifft bessere Beschlüsse als einer, der jede Neuheit prüft. Weniger, an der richtigen Stelle, schlägt viel und beliebig.

Ohne Mandat entsteht die inoffizielle Linie von selbst. Wer in der Verwaltung einen Text durch ein offenes System schickt, hat bereits entschieden, welche Informationen das Haus verlassen. Schaut die Leitung weg, gilt das als geduldet. Ich nenne das keine Neutralität. Es ist eine Strategie ohne Protokoll, und sie ist die riskantere von beiden.

Welche Daten die Geschäftsführung niemals freigibt

Zwischen einem pauschalen Verbot und dem Satz, jede Abteilung möge selbst sehen, liegt der einzige gangbare Weg: klare Leitplanken. Drei Fragen gehören in das Protokoll. Was ist erlaubt, also welche Systeme für welche Aufgaben. Wo ist die Grenze, also welche Daten nie in ein KI-System gelangen und welche Beschlüsse die Maschine nie allein trifft. Wer verantwortet, also wer das Ergebnis prüft und an wen man sich bei Zweifel wendet.

In der Pflege ist die Datengrenze keine Fußnote. Zwei Dinge müssen feststehen, bevor ein System in den Betrieb kommt: der Datenschutz und die Regulierung. Klienten-, Patienten- und Gesundheitsdaten haben in offenen KI-Werkzeugen nichts zu suchen. Klar sein muss, welche Angaben die Maschine sieht und wo die Verarbeitung stattfindet. Diese Sätze befreien das Haus. Wer weiß, was erlaubt ist, arbeitet sicherer und mutiger als unter einem diffusen Verbot, das im Alltag niemand hält.

Die llms.txt aus dem Befund oben ist dieselbe Logik nach außen. Fast jedes Haus lässt die Crawler herein. Kaum eines sagt, was sie lesen sollen und was nicht. Innen wie außen fehlt die bewusste Freigabe. Genau die hole ich in die Sitzung, bevor über Lizenzen gesprochen wird.

Was die Maschine vorschlagen darf und was beim Menschen bleibt

Die Regel, die ich in jedes Mandat schreibe, ist schlicht. KI schlägt vor, ein Mensch entscheidet. Entwürfe, Sortierungen, Auswertungen dürfen von der Maschine kommen. Die Freigabe eines Textes, einer Absage, einer fachlichen Aussage über einen Menschen bleibt im Haus. Diese Trennung fängt die meisten Fehler ab, die später in Schlagzeilen landen, weil niemand mehr sagen kann, wer gezeichnet hat.

Daneben steht das Recht. Der EU AI Act stuft Anwendungen nach Risiko ein und knüpft daran Pflichten. Das klingt nach Hürde und bleibt beherrschbar, wenn die Geschäftsführung es am Anfang mitdenkt, statt es nach einem Zwischenfall zu reparieren. Datenschutz und Regulierung gehören in die Strategie, nicht in ein späteres Kleingedrucktes. Was die Verordnung für Träger im Einzelnen bedeutet, ist ein eigenes Thema. Hier zählt, dass der Vorstand die Stufe kennt, bevor er ein System in die Nähe von Personal- oder Versorgungsentscheidungen lässt.

Ich lasse deshalb je Anwendungsfall eine Zeile im Protokoll: welche Entscheidung die Maschine nie allein trifft, und welche Person am Ende unterschreibt. Fehlt diese Zeile, ist das Vorhaben aus meiner Sicht nicht freigabefähig, egal wie gering der Preis der Lizenz wirkt.

Der kleine Fall, den ich zur Freigabe vorlege

Als Erstes lege ich nicht das ehrgeizigste Vorhaben vor, sondern das, das am ehesten dankt. Es muss eng begrenzt sein und ein Problem treffen, das jede Woche wiederkommt. In Pflegeunternehmen sitzt dieses Problem meist neben der unmittelbaren Versorgung: Stellenanzeigen und andere Texte formulieren, Zahlen ordnen, Verwaltung abarbeiten. Dort fließt Zeit ab, ohne dass eine Fachperson bei einem Menschen ist. Lässt sich der Fall klar begrenzen, kann die Geschäftsführung zustimmen, ohne den Betrieb umzubauen.

Der Nutzen dieses ersten Falls muss schnell sichtbar sein. Seine Größe ist zweitrangig. Sieht die Kollegin, dass eine lästige Aufgabe wegfällt, ohne dass Daten unklar das Haus verlassen, ist der Weg für den nächsten Beschluss frei. Eine Anwendung, an der sich das besonders früh zeigt, ist die KI im Recruiting. Ich lege sie nur dann vor, wenn die Leitplanken aus den vorigen Abschnitten schon unterschrieben sind. Sonst wird aus dem kleinen Fall wieder ein Versuch ohne Mandat.

Ein Verbot ohne Zuständigkeit schafft das größere Risiko

Die größte Hürde ist selten die Technik. Es ist die Sorge im Team: Ersetzt mich das, und mache ich etwas falsch, sobald ich es ausprobiere. Eine Strategie, die der Vorstand trägt, nimmt diese Sorge auf und beantwortet sie ohne Beschönigung. Entlastung ja, Zuwendung bleibt beim Menschen. Wer das glaubhaft sagt und das Team befähigt, statt es zu überfahren, gewinnt Verbündete. Ein pauschales Verbot ohne Ansprechpartner erzeugt das Gegenteil: Die Nutzung wandert in private Accounts, und die Geschäftsführung verliert genau die Sicht, die sie schützen wollte.

Deshalb endet die Einführung nicht mit der Anschaffung. Dort beginnt sie: mit Schulung, mit Begleitung, mit der Erlaubnis, Fehler zu machen und daraus zu lernen. Aus einem freigegebenen Werkzeug wird so eine Fähigkeit im Haus. Die Fähigkeit bleibt, auch wenn sich die Systeme wieder ändern. Ich rate dem Vorstand, die zuständige Person und die Schulungszeit im selben Beschluss zu nennen wie das Verbot der Datentypen, die das Haus nie verlassen. Governance ohne Menschen, die sie tragen, ist ein Papier.

Fragen, bevor Werkzeuge gekauft werden