Blog

KI-Compliance im Mittelstand: was ein Betrieb ohne Rechtsabteilung regeln sollte

KI-Compliance klingt nach Juristen, Gutachten und langen Listen. In einem Betrieb mit zehn Leuten gibt es weder eine Rechtsabteilung noch jemanden, der den ganzen Tag Verordnungen liest. Trotzdem kannst du einiges selbst ordnen, und zwar mit Mitteln, die du aus der Führung deines Teams kennst: eine Liste, eine Zuständigkeit, feste Regeln, Schulung, ein geklärter Datenschutz und ein Mensch an den Stellen, an denen es zählt. Dieser Beitrag beschreibt diese sechs Dinge. Eine Rechtsberatung ist er nicht. Wo wir Gesetze nennen, geben wir nur wieder, was dort steht. Für deinen Einzelfall ist die eigene Rechtsberatung der richtige Ansprechpartner.

Hinweis: Dieser Beitrag ist keine Rechtsberatung. Er beschreibt, wie wir den Einsatz von KI im Betrieb ordnen. Welche Regeln für deine Firma gelten, klärst du mit deiner Rechtsberatung.

Was wir hier unter KI-Compliance verstehen

Compliance heißt wörtlich: Regeln einhalten. Welche Regeln das für deine Firma im Einzelnen sind, hängt von deiner Branche, deinen Daten und den KI-Systemen ab, die du einsetzt. Das können wir aus der Ferne nicht beurteilen, und das tun wir hier auch nicht.

Was wir beschreiben, ist die betriebliche Seite: Ordnung, die du brauchst, um überhaupt sagen zu können, welche Regeln für dich gelten. Wer nicht weiß, welche KI-Systeme in seiner Firma laufen, kann auch nicht prüfen lassen, ob sie richtig eingesetzt sind. Deshalb fängt alles mit einer Liste an.

Wer nach KI-Verordnung und KMU sucht, will meist wissen, was für kleine und mittlere Unternehmen gilt. Was die Verordnung für kleine Firmen im Einzelnen vorsieht, beurteilen wir in diesem Beitrag nicht. Die sechs Punkte unten helfen dir unabhängig davon, wie die Antwort für deine Firma ausfällt.

1. Eine Liste aller KI-Systeme in deiner Firma

Schreib auf, welche KI-Systeme in deiner Firma genutzt werden. Dazu gehören auch die Chat-Werkzeuge, die einzelne Leute im Team von sich aus verwenden. Je System eine Zeile:

  • Was: Name des Werkzeugs oder des KI-Mitarbeiters
  • Wofür: welche Aufgabe, welcher Prozess
  • Wer nutzt es: Personen oder Rollen
  • Welche Daten sieht es: Kundendaten, Mitarbeiterdaten, nur interne Texte
  • Welche Art: ein Denkpartner, mit dem jemand im Gespräch arbeitet, oder ein Prozess-Mitarbeiter, der von selbst startet und berichtet
  • Ansprechperson: wer bei Fragen und Notfällen zuständig ist

Die Liste ist unsere Hausregel. Wir halten es so: Sie ist der Ausgangspunkt für alles Weitere. Ob und in welcher Form das Recht für deine Firma eine solche Übersicht verlangt, beurteilen wir nicht. Mit ihr kannst du deiner Rechtsberatung schnell zeigen, worum es geht.

2. Eine Person, die zuständig ist

Ohne Zuständigkeit pflegt niemand die Liste. Bei uns gibt es für die KI-Mitarbeiter einer Firma eine Person aus dem Team, die sie mit dem Inhaber betreut. Sie hält die Liste aktuell, kennt die Notfälle und ist die Ansprechperson für das Team.

Ob dein Betrieb dafür einen eigenen Titel oder eine förmliche Benennung braucht, beurteilen wir nicht. Praktisch hilft für den Anfang ein Name, eine Vertretung und die Aufgabe, die Liste und die Regeln zu pflegen.

3. Feste Regeln je KI-System

Für jeden KI-Mitarbeiter, der Prozesse übernimmt, gehört eine Seite mit Regeln dazu: Rolle, Auslöser, erlaubte Handlungen, harte Grenzen, Notfallweg, Bericht, Prüfung und Notbremse. Eine Vorlage dafür steht in KI-Governance-Regelwerk für einen Betrieb mit zehn Leuten: alles auf einer Seite.

Für Chat-Werkzeuge, mit denen dein Team im Gespräch arbeitet, reichen meist wenige Sätze: wofür sie genutzt werden, welche Daten nicht hineingehören, und wer gefragt wird, wenn jemand unsicher ist.

Wer die Arbeit der KI-Mitarbeiter prüft, wenn mehrere Prozesse allein laufen, beschreibt KI-Governance im Mittelstand: Wer prüft die KI, wenn du es nicht mehr tust?.

4. Das Team schulen

Hier nennen wir eine der zwei Gesetzesstellen in diesem Beitrag. Wer im Betrieb KI-Systeme einsetzt, muss nach der europäischen KI-Verordnung Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz der Mitarbeitenden zu unterstützen (Art. 4 KI-VO, seit Juli 2026 in neuer Fassung). Ein bestimmtes Niveau verlangt das Gesetz nicht.

Welche Maßnahmen das in deiner Firma sind, entscheidest du. In unserer Arbeit entsteht ein Teil dieser Kompetenz beim Anlernen. Das Team schaut zu, wie der KI-Mitarbeiter arbeitet, prüft seine ersten Läufe, entscheidet die unsicheren Fälle und bringt ihm im Feedback-Gespräch neue Varianten bei. Wer das einmal gemacht hat, weiß, was der KI-Mitarbeiter kann, wo er unsicher wird und wann ein Mensch übernehmen muss.

Was darüber hinaus sinnvoll ist, zum Beispiel eine kurze Einführung für alle, die mit Chat-Werkzeugen arbeiten, beurteilen wir nicht für dich. Kevin hat auf seinem Blog aufgeschrieben, wie er an die Schulung herangeht: KI-Kompetenz nach AI Act: Mitarbeiter schulen.

5. Den Datenschutz je System klären

Für jedes KI-System auf deiner Liste stellen wir dieselben Fragen. Das ist unsere Arbeitsweise im Programm, keine Rechtsauskunft:

  • Welche personenbezogenen Daten sieht das System?
  • Gibt es mit dem Anbieter einen Vertrag zur Auftragsverarbeitung, und zwar für genau den Tarif, den ihr nutzt?
  • Wo läuft das System, und wer hat Zugang?
  • Wer bei dir für Datenschutz zuständig ist: Hat diese Person die Antworten gegengelesen?

Unsere Hausregel dazu: erst die Fragen beantworten, dann fließen echte Kundendaten. Ob die Antworten in deinem Fall genügen, beurteilt deine Datenschutzberatung. Bei uns bleiben die Dokumente in der Ablage des Kunden. Wir betreiben keine Server für ihn, sondern helfen, die KI-Mitarbeiter bei ihm einzurichten. Wo sie laufen und wie weit sich das datenschutzkonform aufsetzen lässt, legen wir in den ersten Gesprächen gemeinsam fest.

6. Ein Mensch bei Menschen, Geld und Rechtsfolgen

Unsere Hausregel: Bei uns bleibt ein Mensch drin, wenn eine Entscheidung Menschen betrifft, wenn es um Geld geht oder wenn sie Rechtsfolgen hat. Ein KI-Mitarbeiter bereitet vor, sortiert und meldet. Entscheiden, freigeben und unterschreiben tut ein Mensch. Vor jedem Schritt, der sich nicht rückgängig machen lässt, steht eine eigene Freigabe.

Wo Entscheidungen Menschen rechtlich oder ähnlich erheblich betreffen, setzt auch das Recht Grenzen für rein automatisierte Entscheidungen (Art. 22 DSGVO). Für Ablage, Posteingang und Berichte ist unsere Regel aber eine betriebliche, keine juristische.

Auf der untersten Stufe sieht das so aus: Dein Team prüft jeden Lauf, bevor irgendetwas weitergeht. Wie diese Stufe funktioniert und warum wir sie nicht überspringen, steht in Stufe 1, Assisted: Wenn dein Team jeden Lauf prüft.

Fünf Zeichen, dass noch etwas fehlt

Du musst nicht alles auf einmal ordnen. Diese fünf Zeichen zeigen dir, wo du anfangen solltest. Sie sind unsere Einschätzung, keine Prüfliste einer Behörde.

  • Niemand kann sagen, welche KI-Werkzeuge im Team genutzt werden. Dann fehlt die Liste aus Punkt 1.
  • Bei einer Frage zu einem KI-Mitarbeiter schauen sich alle an. Dann fehlt die Zuständigkeit aus Punkt 2.
  • Ein KI-Mitarbeiter tut etwas, das niemand aufgeschrieben hat. Dann fehlen die Regeln aus Punkt 3.
  • Kundendaten landen in einem Werkzeug, bei dem niemand den Tarif und den Vertrag kennt. Dann fehlt Punkt 5.
  • Eine Entscheidung über einen Menschen oder über Geld ist durchgelaufen, ohne dass jemand sie gesehen hat. Dann fehlt Punkt 6, und dieser Punkt ist der dringendste.

Gemeinsam ist allen fünf: Es fehlt Ordnung, und die kannst du mit deinem Team selbst herstellen. Für die Rechtsfragen dahinter hilft dir der nächste Abschnitt.

Was du besser nicht selbst klärst

Die sechs Punkte oben kannst du ohne Jurist angehen. Ein paar Fragen gehören trotzdem zu jemandem, der sich damit auskennt:

  • Die Einordnung einzelner KI-Systeme nach der KI-Verordnung, wenn du unsicher bist, wofür ein System eingesetzt wird.
  • Branchenregeln. Ob für deinen Beruf eigene Regeln gelten, klärt deine Kammer oder deine Rechtsberatung. Wie das in einer Steuerberatung aussieht, haben wir in KI in der Steuerberatung: was eine Kanzlei heute allein laufen lässt beschrieben.
  • Verträge mit Anbietern, zum Beispiel zur Auftragsverarbeitung.
  • Alles, was Beschäftigte betrifft, etwa wenn ein KI-System Daten über Mitarbeitende verarbeitet.

Dafür ist die eigene Rechtsberatung oder deine Kammer der richtige Ansprechpartner. Mit der Liste aus Punkt 1 und den Regeln aus Punkt 3 bist du für dieses Gespräch gut vorbereitet.

Wie das bei uns aussieht

In Kevins eigenem Betrieb arbeiten 14 KI-Mitarbeiter. Jeder hat eine Personalakte, eine feste Rolle und klare Grenzen.

Die Personalakten sind bei Kevin der Kern der Liste aus Punkt 1. Dort steht für jeden KI-Mitarbeiter auch, welche Werkzeuge und Zugänge er hat. Die Zugänge richtet ein Mensch ein und verwahrt sie verschlüsselt, im Klartext stehen sie nirgends.

Fehlt einem KI-Mitarbeiter eine Angabe oder widersprechen sich zwei Quellen, meldet er das, statt zu raten. Für dieses Thema ist das aus unserer Sicht der wichtigste Satz: Eine geratene Angabe bleibt leicht unbemerkt, eine gemeldete nicht. Wer bei Kevin was freigibt, steht im Beitrag zum Regelwerk aus Punkt 3. Eine KI-Führungskraft sichtet die Arbeit der anderen. Sie ist noch in Erprobung.

Dieser Beitrag selbst ist ein Beispiel dafür. Die beiden Sätze zur KI-Verordnung und zur DSGVO haben wir vorher gegen den Wortlaut der Gesetze geprüft. Andere Rechtsaussagen machen wir hier bewusst nicht.

Was wir nicht machen: Rechtsberatung, Datenschutzberatung und die rechtliche Einordnung einzelner KI-Systeme. Das haben wir auch für unsere Kunden nicht übernommen.

Häufige Fragen

Gilt das alles auch für eine kleine Firma?

Welche Regeln für deine Firma im Einzelnen gelten, ist eine Frage für deine Rechtsberatung. Die sechs Punkte oben sind betriebliche Ordnung. Die hilft dir in jeder Größe, und sie macht das Gespräch mit der Rechtsberatung kürzer.

Darf mein Team Kundendaten in ein Chat-Werkzeug eingeben?

Eine Rechtsauskunft geben wir dazu nicht. Unsere Hausregel: Erst klären, welche Daten das Werkzeug sieht und ob es für genau euren Tarif einen Vertrag zur Auftragsverarbeitung gibt. Bis das geklärt ist, gehören keine echten Kundendaten hinein.

Wie oft sollte ich die Liste aktualisieren?

Jedes Mal, wenn ein neues Werkzeug oder ein neuer KI-Mitarbeiter dazukommt, und dazu einmal im Monat beim gemeinsamen Blick auf alle Prozesse. In unserem Programm ist dieser Monatsblick fester Bestandteil: Für jeden Prozess wird die aktuelle Stufe eingetragen und geprüft.

Brauche ich einen KI-Beauftragten?

Ob das in deinem Fall nötig ist, beurteilen wir nicht. Praktisch brauchst du eine Person, die zuständig ist, die Liste pflegt und die Regeln kennt. Wie du sie nennst, ist zweitrangig.

Wer ist verantwortlich, wenn ein KI-Mitarbeiter einen Fehler macht?

Auch dazu geben wir keine Rechtsauskunft. Betrieblich sorgen wir dafür, dass Fehler früh auffallen: Das Team prüft am Anfang jeden Lauf, freigegeben wird erst nach sauberen Läufen, Unsicheres geht an einen Menschen, und vor jedem Schritt ohne Rückweg steht eine Freigabe.

Ordnung zuerst, dann der erste Prozess

KI-Compliance beginnt in einem kleinen Betrieb mit Ordnung: wissen, was läuft, wer zuständig ist und wo ein Mensch entscheidet. Wenn bei dir der erste KI-Mitarbeiter einen Prozess übernehmen soll, legen wir Zuständigkeit, Regeln und Notfallweg für ihn gleich mit fest. Wo du damit anfangen könntest und ob Unternehmer Autonomy zu deiner Firma passt, besprechen wir im Gespräch, Ablauf und Preis ebenso.