KI-News für Unternehmen

EU AI Act 2026: KI-Anforderungen für Unternehmen in der EU

Aufrufe: 506 Veröffentlicht: 29.04.2026
🇺🇦 UK 🇺🇸 EN 🇩🇪 DE 🇪🇸 ES
EU AI Act 2026: KI-Anforderungen für Unternehmen in der EU

Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Er trat am 1. August 2024 in Kraft und wird schrittweise umgesetzt. Transparenzanforderungen für KI-Chatbots gelten ab dem 2. August 2026; Anforderungen für High-Risk-KI-Systeme (Kreditscoring, HR-Recruiting, medizinische Triage) sind gemäß der ursprünglichen Digital Omnibus-Vereinbarung (Mai 2026) auf den 2. Dezember 2027 verschoben. Für Unternehmen in Deutschland und Österreich bedeutet dies: Wenn Sie einen KI-Chatbot auf Ihrer Website haben, bereiten Sie sich auf August 2026 vor; wenn Sie ein High-Risk-System einsetzen, ist die Frist Dezember 2027, die Vorbereitung dauert jedoch 12–18 Monate.

Die meisten Geschäftsinhaber in der EU haben vom EU AI Act gehört – aber nur wenige verstehen genau, was wann verbindlich wird. Ein medizinisches Zentrum in Wien, das KI-Chats zur Beantwortung von Patientenfragen nutzt, eine Anwaltskanzlei in Frankfurt mit einem KI-Assistenten zur Vertragsbearbeitung, ein Händler in München mit einem KI-Tool für Manager – sie alle fallen unter den AI Act. Es geht nur darum, welcher Risikokategorie ihr System zugeordnet wird und welche konkreten Verpflichtungen sich daraus ergeben.

In diesem Artikel finden Sie eine klare Zeitachse, vier Risikostufen mit konkreten Beispielen, Anforderungen für Medizin und Anwälte in DE/AT und eine Erklärung, warum die Architektur Ihres KI-Systems – Self-Hosted oder Cloud – die Einhaltung des Gesetzes direkt beeinflusst.

Was ist der EU AI Act und warum betrifft er Ihr Unternehmen jetzt schon

Der EU AI Act ist die Verordnung (EU) 2024/1689, die am 21. Mai 2024 angenommen und am 12. Juli 2024 veröffentlicht wurde. Sie trat am 1. August 2024 in Kraft. Ihre Logik ähnelt der DSGVO – sie reguliert nicht spezifische Technologien, sondern die Risiken ihrer Nutzung, hat eine extraterritoriale Wirkung und sieht schwere Strafen für Verstöße vor.

Der Hauptunterschied zur DSGVO: Während die DSGVO regelt, *wie* Sie personenbezogene Daten verarbeiten, regelt der AI Act, *welche KI-Systeme* Sie für welchen Zweck verwenden. Diese beiden Verordnungen ersetzen sich nicht, sondern ergänzen sich. Wenn Ihr KI-System personenbezogene Daten von Kunden oder Patienten verarbeitet, unterliegt es gleichzeitig der DSGVO und dem AI Act.

Warum das Ihr Unternehmen jetzt betrifft. Der AI Act gilt für jede Organisation, die KI-Systeme im EU-Markt in Verkehr bringt oder sie in ihrer Geschäftstätigkeit in der EU einsetzt – unabhängig davon, wo sich der Entwickler des Systems befindet. Das bedeutet, wenn Sie ein medizinisches Zentrum in Wien sind, das einen amerikanischen KI-Chatbot zur Beantwortung von Patientenfragen nutzt, unterliegen Sie als Deployer (Anwender) den Verpflichtungen des AI Acts. Wenn Sie eine Anwaltskanzlei in Berlin sind, die einen SaaS-KI-Dienst zur Vertragsanalyse nutzt – analog.

Das Gesetz unterscheidet zwei Arten von Betreibern: Anbieter (ein Entwickler, der ein KI-System erstellt oder beauftragt und es auf den Markt bringt) und Anwender (eine Organisation, die ein fertiges KI-System in ihrer Geschäftstätigkeit nutzt). Die meisten Unternehmen – medizinische Zentren, Anwaltskanzleien, Händler – sind Anwender. Anwender haben weniger Verpflichtungen als Anbieter, aber diese sind real und bindend.

Zeitplan der Umsetzung: Was bereits gilt, was im August 2026 startet

Der AI Act wird schrittweise umgesetzt – nicht alles gleichzeitig. Hier ist der genaue Zeitplan:

Datum Was tritt in Kraft Wen betrifft es
1. August 2024 Der AI Act trat als Verordnung (EU) 2024/1689 in Kraft Alle Betreiber in der EU
2. Februar 2025 Verbote inakzeptabler KI-Praktiken (Art. 5) + KI-Kompetenzanforderungen für Personal (Art. 4) Alle Unternehmen, die KI in der EU einsetzen
2. August 2025 Regeln für GPAI-Modelle (GPT-4, Claude, Gemini etc.): Dokumentation, Transparenz, Urheberrecht Anbieter von GPAI-Modellen
2. August 2026 Vollständige Anwendung des AI Act: alle Anforderungen an High-Risk-KI-Systeme (Anhang III), Transparenzanforderungen (Art. 50), Registrierung in der EU-Datenbank Alle Betreiber von High-Risk-KI-Systemen
2. August 2027 Anforderungen an High-Risk-KI in regulierten Produkten (Anhang I): Medizinprodukte, Luftfahrt, Automobil Hersteller von regulierten Produkten mit KI

Was bereits passiert ist und was es für Unternehmen bedeutet. Seit dem 2. Februar 2025 sind 8 Kategorien von KI-Praktiken verboten – darunter Social Scoring und Systeme zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie die massenhafte Erhebung biometrischer Daten. Der Bußgeldrahmen für die Verletzung dieser Verbote beträgt bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist (Art. 99 AI Act).

Seit dem 2. August 2025 sind Anbieter von GPAI-Modellen (OpenAI, Google, Anthropic, Mistral) verpflichtet, technische Dokumentationen bereitzustellen, das Urheberrecht einzuhalten und eine Zusammenfassung der Trainingsdaten zu veröffentlichen. OpenAI, Google, Mistral und Microsoft haben bereits einen entsprechenden Verhaltenskodex unterzeichnet. Meta hat sich geweigert – und befindet sich derzeit in regulatorischer Unsicherheit.

Das Schlüsseldatum für die meisten Unternehmen ist der 2. August 2026. Ab diesem Tag gelten die Anforderungen für High-Risk-KI-Systeme gemäß Anhang III vollständig. Dies betrifft KI in den Bereichen Medizin, Recht, Finanzen, Bildung, Beschäftigung und kritische Infrastruktur. Zum jetzigen Zeitpunkt (April 2026) bleiben weniger als 100 Tage.

Hinweis: Im November 2025 schlug die Europäische Kommission das Digital Omnibus vor – ein Paket von Vereinfachungen, das das Datum der Anwendung der High-Risk-Regeln korrigieren könnte. Zum Zeitpunkt der Erstellung dieses Artikels wurde dieser Vorschlag noch nicht angenommen und wird im Europäischen Parlament diskutiert. Bis zur Annahme bleibt das offizielle Datum der 2. August 2026.

Vier Risikostufen: Zu welcher Kategorie gehört Ihr KI-System

Der AI Act reguliert nicht alle KI-Systeme gleich. Die Logik des Gesetzes besagt: Je höher das potenzielle Risiko für Gesundheit, Sicherheit oder Grundrechte des Menschen, desto strenger die Verpflichtungen. Die Klassifizierung ist vierstufig: von vollständigem Verbot bis hin zu gar keinen Anforderungen. Davon, welcher Kategorie Ihr KI-System zugeordnet wird, hängt der Umfang des Compliance-Aufwands ab – von null zusätzlichen Verpflichtungen bis hin zu vollständiger technischer Dokumentation, unabhängiger Prüfung und Registrierung in der EU-Datenbank.

Bevor Sie weiterlesen: Wenn Sie sich nicht sicher sind, zu welcher Kategorie Ihr System gehört, nutzen Sie den kostenlosen Compliance Checker des Future of Life Institute. Das Tool stellt 10–15 Fragen und gibt eine vorläufige Klassifizierung.

Stufe 1: Inakzeptables Risiko – Verboten ab dem 2. Februar 2025

Dies sind KI-Systeme, die eine direkte Bedrohung für die Grundrechte, die Sicherheit oder die Würde des Menschen darstellen. Sie sind auf dem Gebiet der EU vollständig verboten – nicht reguliert, sondern schlichtweg verboten. Artikel 5 des AI Acts enthält eine umfassende Aufzählung von 8 Kategorien. Die Verbote traten am 2. Februar 2025 in Kraft.

Was konkret verboten ist:

Bußgeld bei Verstößen: bis zu 35.000.000 € oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist (Art. 99 AI Act). Für ein Unternehmen mit 10 Mio. € Umsatz – maximal 700.000 €. Für ein Unternehmen mit 1 Mrd. € Umsatz – 70.000.000 €.

Was das praktisch für KMU bedeutet: Wenn Ihre Personalabteilung ein KI-Tool prüft, das "Mikroausdrücke im Gesicht während des Vorstellungsgesprächs analysiert" oder "den emotionalen Zustand von Mitarbeitern bewertet" – ist dies ein direkter Verstoß gegen Art. 5 des AI Acts, der bereits jetzt gilt. Solche Tools sollten vermieden werden, unabhängig davon, wie sie vom Verkäufer dargestellt werden.

Stufe 2: Hohes Risiko (High-risk) – Strenge Anforderungen ab dem 2. August 2026

Dies ist die größte und wichtigste Kategorie im Hinblick auf die Compliance für Unternehmen. High-Risk-KI-Systeme sind nicht verboten – unterliegen aber einer detaillierten Regulierung. Die vollständige Liste ist in Anhang III des AI Acts enthalten und umfasst acht Bereiche, in denen KI erhebliche Auswirkungen auf die Rechte, die Gesundheit oder das Wohlergehen von Menschen haben kann.

Acht Bereiche mit hohem Risiko (High-risk) bei KI:

Verpflichtungen für High-Risk-Systeme (Artikel 9–15 AI Act):

Bußgeld bei Nichteinhaltung: bis zu 15.000.000 € oder 3 % des weltweiten Jahresumsatzes.

Was das praktisch für KMU bedeutet: Wenn Ihr Unternehmen in DE/AT ein KI-Tool zum Screening von Lebensläufen, zur automatischen Bewertung von Kandidaten oder zur Ermittlung des Kreditratings von Kunden einsetzt – sind diese Systeme High-Risk. Bis zum 2. August 2026 sind technische Dokumentation, ein dokumentiertes Aufsichtssystem und – wenn der Anbieter die Konformität nicht sicherstellt – entweder die Migration zu einem konformen System oder die Aufgabe der Funktionalität erforderlich.

Stufe 3: Begrenztes Risiko – Transparenzanforderungen ab dem 2. August 2026

Dies sind KI-Systeme, die direkt mit Menschen interagieren oder Inhalte generieren – aber keine Entscheidungen treffen, die wesentliche Auswirkungen auf Rechte oder Wohlergehen haben. Die Verpflichtungen sind hier deutlich geringer als bei High-Risk-Systemen: Das Wichtigste ist die Transparenz. Eine Person muss wissen, dass sie mit einer KI interagiert.

Was unter das begrenzte Risiko fällt (Art. 50 AI Act):

Bußgeld bei Verstoß gegen Art. 50: bis zu 15.000.000 € oder 3 % des weltweiten Jahresumsatzes.

Was das praktisch für KMU bedeutet: Wenn Sie einen KI-Chat auf der Website eines medizinischen Zentrums, einer Anwaltskanzlei oder eines Händlers haben – müssen Sie bis zum 2. August 2026 eine klare Mitteilung zu Beginn des Chats hinzufügen. Dies ist technisch nicht kompliziert, aber rechtlich zwingend. Nichteinhaltung führt zu einem Bußgeld in gleicher Höhe wie bei High-Risk-Systemen bei Verstößen gegen Art. 13.

Stufe 4: Minimales oder null Risiko – keine zusätzliche Regulierung

Die überwiegende Mehrheit der KI-Tools, die Unternehmen täglich nutzen, fällt genau hierunter. Der AI Act stellt ausdrücklich fest, dass er keine Anforderungen für Systeme mit minimalem Risiko einführt. Beispiele: Spamfilter in E-Mails, KI-Empfehlungen für Inhalte auf Streaming-Plattformen, KI für Videospiele, Textkorrektur-Systeme, grundlegende Automatisierungs- und Planungs-Tools.

Für diese Kategorie fallen keine zusätzlichen Verpflichtungen nach dem AI Act an. Die allgemeinen Anforderungen der DSGVO zur Verarbeitung personenbezogener Daten bleiben jedoch unabhängig von der Risikokategorie des AI Acts in Kraft.

Wo in dieser Klassifizierung befindet sich ein KI-Assistent für Dokumente

Dies ist die Frage, die unsere Kunden – medizinische Zentren, Anwaltskanzleien und Händler – am häufigsten stellen. Die Antwort hängt davon ab, was genau das System tut und welche Entscheidungen es unterstützt.

Anwendungsfall Kategorie des AI Acts Wichtige Verpflichtung
KI beantwortet Patientenfragen zur Vorbereitung auf Verfahren aus Klinikprotokollen ⚠️ Stufe 3 – Begrenztes Risiko Klare Mitteilung "Sie kommunizieren mit einer KI" ab dem 02.08.2026
KI hilft einem Anwalt, die gewünschte Klausel in 300 Verträgen zu finden ✅ Stufe 4 – Minimales Risiko Keine zusätzlichen Anforderungen des AI Acts (aber DSGVO bleibt bestehen)
KI hilft einem Manager, technische Spezifikationen eines Produkts während eines Kundengesprächs zu finden ✅ Stufe 4 – Minimales Risiko Keine zusätzlichen Anforderungen des AI Acts
KI bewertet die Kreditwürdigkeit eines Kunden oder das Versicherungsrisiko 🔴 Stufe 2 – High-Risk (Anhang III) Vollständige Compliance: Dokumentation, Audit, Registrierung, menschliche Aufsicht
KI sortiert Bewerberlebensläufe für den HR-Manager 🔴 Stufe 2 – High-Risk (Anhang III) Vollständige Compliance: Dokumentation, Audit, Registrierung
KI hilft einem Richter bei der Analyse von Fallfakten 🔴 Stufe 2 – High-Risk (Anhang III) Vollständige Compliance + unabhängige Konformitätsbewertung
KI analysiert die Emotionen von Mitarbeitern in Besprechungen 🚫 Stufe 1 – Verboten Verboten ab dem 02.02.2025. Bußgeld bis zu 35 Mio. €

Praktischer Schlussfolgerung: Ein KI-Assistent, der Fragen ausschließlich aus Ihren hochgeladenen Dokumenten beantwortet und keine Entscheidungen trifft, die die Rechte oder das Wohlergehen wesentlich beeinflussen, fällt meist in die Kategorie des begrenzten oder minimalen Risikos. Das bedeutet einen relativ geringen Umfang an Verpflichtungen: klare Mitteilung über die KI und Einhaltung der DSGVO bezüglich der Datenspeicherung. Wenn dasselbe Tool jedoch zur Bewertung von Kandidaten, zur Kreditwürdigkeitsprüfung oder zur medizinischen Triage verwendet wird, ändert sich die Kategorie zu High-Risk und die Anforderungen steigen drastisch.


Spezifische Anforderungen für Unternehmen in DE/AT: Medizin, Anwälte, Finanzen

Der AI Act ist eine europaweite Verordnung, aber er funktioniert nicht im luftleeren Raum. In Deutschland und Österreich interagiert er mit eigenen DSGVO-Implementierungen, branchenspezifischen Gesetzen und Berufsethier. Für medizinische Versorgungszentren, Anwaltskanzleien und Finanzinstitute in DE/AT bedeutet dies eine doppelte oder dreifache Schicht von Anforderungen – und die Missachtung einer davon birgt ein rechtliches Risiko. Mehr über die Besonderheiten der DSGVO in DE/AT erfahren Sie im Artikel KI und DSGVO in Deutschland und Österreich: Anforderungen an Unternehmenssysteme.

Medizinische Zentren in Österreich und Deutschland

Die Medizin ist der am stärksten regulierte Bereich im Kontext von KI in der EU. KI-Systeme im medizinischen Bereich fallen gleichzeitig unter vier Gesetzesschichten: den EU AI Act, die DSGVO (Art. 9 – Besondere Kategorien personenbezogener Daten), die EU-Medizinprodukteverordnung (MDR 2017/745) und das nationale Medizinrecht. Alle vier Ebenen gelten parallel und ersetzen sich nicht gegenseitig.

Was ist nach dem AI Act in der Medizin als "risikoreich" eingestuft (Anhang III):

Was ist nicht als "risikoreich", aber unter Stufe 3 (begrenztes Risiko) fällt: Ein KI-Assistent, der Fragen von Patienten aus den Klinikprotokollen beantwortet – „Wie bereite ich mich auf eine Gastroskopie vor?“, „Was soll ich zum Termin mitbringen?“, „Wie lange dauert ein MRT?“ – ist nach dem AI Act nicht als risikoreich eingestuft. Er fällt jedoch unter Art. 50 (Transparenzanforderung) und unter die DSGVO, wenn er bei der Interaktion personenbezogene Daten des Patienten sammelt.

Praktische Anforderungen für ein medizinisches Zentrum in Österreich oder Deutschland:

Mehr über die Verarbeitung medizinischer Daten mittels KI und DSGVO erfahren Sie im Artikel KI in der Medizin: So verarbeiten Sie medizinische Daten gesetzeskonform.

Anwaltskanzleien in Österreich und Deutschland

Anwaltskanzleien befinden sich in einer besonders schwierigen Lage: Der AI Act, die DSGVO und das Anwaltsgeheimnis als verfassungsrechtlich geschütztes Prinzip – alle drei verlangen, dass Mandantendaten die kontrollierte Umgebung nicht verlassen. Gleichzeitig sind die meisten gängigen KI-Tools für Anwälte Cloud-Dienste amerikanischen Ursprungs.

Was ist für Anwaltskanzleien nach dem AI Act risikoreich: KI, die eine Justizbehörde bei der Analyse von Fakten oder der Auslegung von Gesetzen unterstützt – risikoreich gemäß Anhang III, Ziffer 8. KI, die einem Anwalt hilft, relevante Klauseln in Verträgen zu finden oder Argumente zu formulieren – nicht risikoreich, fällt aber unter die Transparenzanforderungen, wenn sie direkt mit dem Mandanten interagiert.

Besonderheiten DE/AT für Anwaltskanzleien:

Finanzinstitute und Versicherungen in Österreich und Deutschland

Der Finanzsektor ist ein Bereich höchster Aufmerksamkeit im AI Act. Anhang III stuft zwei zentrale Anwendungsfälle, die für Banken und Versicherungsgesellschaften Standard sind, direkt als "risikoreich" ein: die Bonitätsprüfung von Privatpersonen und das Risikoscoring in der Versicherung. Neben dem AI Act unterliegen Finanzinstitute in DE/AT der Aufsichtsregelung durch BaFin und FMA, die bereits eigene Anforderungen an algorithmische Entscheidungen haben.

Was ist für Finanzinstitute nach dem AI Act risikoreich (Anhang III):

Verpflichtungen für Finanzinstitute ab dem 2. August 2026:

Was für Finanzinstitute nicht als risikoreich gilt: Ein interner KI-Assistent, der Managern hilft, Informationen in internen Vorschriften und Produktbeschreibungen zu finden – nicht risikoreich, das ist Stufe 4 (minimales Risiko). KI, die Kunden über allgemeine Fragen zu Bankprodukten in einem Website-Chat beantwortet – Stufe 3 (begrenztes Risiko, Transparenzanforderung). Der Unterschied ist grundlegend: Dieselbe Bank kann gleichzeitig ein risikoreiches System (Kreditscoring) und ein System mit minimalem Risiko (internes Nachschlagewerk für Mitarbeiter) haben.


Warum Cloud-KI der AI Act vor Herausforderungen stellt – und wo Self-Hosting die Nase vorn hat

Der AI Act und die DSGVO schaffen zusammen eine Compliance-Landschaft, in der die architektonische Entscheidung – wo Ihre KI-Systeme physisch bereitgestellt werden und wer die Datenhoheit hat – eine direkte rechtliche Bedeutung hat. Das ist keine Frage von Präferenzen oder Bequemlichkeit. Es ist eine Frage, ob Sie die spezifischen Anforderungen der Artikel 9–15 des AI Acts und der Art. 5, 24, 28 der DSGVO bei der Nutzung eines Cloud-Dienstes mit amerikanischer Herkunft erfüllen können. Für die meisten Unternehmen in DE/AT, die sensible Daten verarbeiten, ist die Antwort aufgrund von drei systemischen Problemen kompliziert.

Mehr darüber, wo Ihre Daten bei verschiedenen KI-Diensten physisch gespeichert werden – in diesem Artikel Self-hosted AI vs. Cloud: Wo bleiben Ihre Daten.

Problem 1: US CLOUD Act vs. DSGVO und AI Act

Der CLOUD Act (Clarifying Lawful Overseas Use of Data Act, USA, 2018) erlaubt es amerikanischen Strafverfolgungsbehörden, US-Unternehmen aufzufordern, Daten bereitzustellen, die auf ihren Servern gespeichert sind – unabhängig davon, wo sich diese Server physisch befinden. OpenAI, Google, Microsoft, Amazon, Notion, Salesforce – all dies sind amerikanische Unternehmen und fallen unter den CLOUD Act. Das bedeutet, selbst wenn Ihr OpenAI-basierter KI-Assistent auf Servern in Frankfurt bereitgestellt wird – kann OpenAI auf Grundlage einer US-Gerichtsanordnung verpflichtet werden, diesen Datenzugriff der US-Seite zu gewähren.

Die DSGVO und der AI Act heben den CLOUD Act nicht auf oder blockieren ihn – sie regeln unterschiedliche Gerichtsbarkeiten. Ein DPA (Data Processing Agreement) mit einem amerikanischen Anbieter und ein TIA (Transfer Impact Assessment) sind obligatorische Dokumente, aber sie reduzieren das Risiko für die meisten Daten, beseitigen es aber nicht für die sensibelsten Kategorien. Für Patientendaten im Gesundheitswesen (Art. 9 DSGVO – besondere Kategorien), Unterlagen aus Gerichtsverfahren, die der Anwaltsgeheimhaltung unterliegen, oder Finanzdaten von Kunden mit Bankgeheimnis – selbst ein unterzeichnetes DPA bietet keinen ausreichenden Schutz. Die österreichische Rechtsanwaltskammer (ÖRAK) und eine Reihe deutscher Landes-Rechtsanwaltskammern empfehlen ausdrücklich die Nutzung amerikanischer Cloud-KI-Dienste zur Verarbeitung von Fallmaterialien gerade wegen des Risikos des CLOUD Acts nicht.

Was bedeutet das in der Praxis: Wenn Sie ein medizinisches Zentrum in Wien oder eine Anwaltskanzlei in München sind und die ChatGPT API oder Notion AI für die Bearbeitung sensibler Kundendaten nutzen – haben Sie eine offene rechtliche Schwachstelle, die kein Vertrag mit dem Anbieter schließt. Ein Self-hosted System auf einem Hetzner-Server in Nürnberg oder Helsinki – unter der Verwaltung eines deutschen oder finnischen Unternehmens – schließt dieses Risiko architektonisch aus: Amerikanische Strafverfolgungsbehörden haben keine Gerichtsbarkeit über Daten, die nie in die Hände eines amerikanischen Unternehmens gelangt sind.

Problem 2: Transparenz, Dokumentation und Systemkontrolle

Der AI Act verlangt von den „Deployern“ – also von Ihnen als datenverarbeitendem Unternehmen – spezifische Fähigkeiten: erklären zu können, wie das System Entscheidungen trifft (Art. 13), die Kontrolle darüber nachweisen zu können (Art. 14), über eine technische Dokumentation des Systems zu verfügen (Art. 11) und ein Logbuch über dessen Betrieb zu führen (Art. 12).

Ein Cloud-SaaS-Anbieter stellt Ihnen die Dokumentation seines Systems zur Verfügung – aber nicht Ihrer spezifischen Installation. OpenAI veröffentlicht die Systemarchitektur von GPT-4, Microsoft veröffentlicht die Dokumentation für Copilot – aber diese Dokumentation beschreibt das Basismodell, nicht wie genau Ihr Unternehmen es konfiguriert hat, welche Dokumente hochgeladen wurden und welcher System-Prompt verwendet wird. Für die Zwecke der Compliance mit dem AI Act ist die Dokumentation Ihres spezifischen Systems erforderlich – das Sie selbst konfiguriert und bereitgestellt haben.

Es gibt noch ein weiteres Problem: Cloud-Anbieter aktualisieren ihre Modelle – oft ohne Vorankündigung und ohne Möglichkeit, bei einer älteren Version zu bleiben. GPT-4o im Februar 2026 und GPT-4o im August 2026 – sind unterschiedliche Versionen mit unterschiedlichem Verhalten. Wenn Ihr Hochrisiko-System im Februar eine Konformitätsbewertung durchlaufen hat und der Anbieter im April das Modell ohne Ihr Wissen aktualisiert hat – ist Ihre Dokumentation technisch veraltet und das System erfordert eine Neubewertung. Ein Self-hosted System, bei dem Sie selbst kontrollieren, welche Modellversion Sie verwenden – ist von diesem Problem befreit.

Was bedeutet das in der Praxis: Für die Stufe 3 (begrenztes Risiko) – ist Cloud-KI völlig akzeptabel, wenn ein DPA und eine klare Nutzerinformation vorhanden sind. Für die Stufe 2 (Hochrisiko) – erfordert Cloud-KI erheblich mehr Aufwand für die Dokumentation und den Nachweis der Konformität: Sie müssen de facto ein fremdes System dokumentieren, das Sie nicht kontrollieren und das sich ohne Ihr Wissen ändern kann. Mehr dazu – in diesem Artikel Self-hosted AI vs. SaaS: Was wählen für Unternehmensdokumente.

Problem 3: Menschliche Aufsicht und reale Systemkontrolle

Artikel 14 des AI Acts fordert, dass für Hochrisiko-Systeme ein Mensch das System effektiv kontrollieren, dessen Entscheidungen verstehen und die Möglichkeit haben kann, diese zu unterbrechen oder zu annullieren. Das ist nicht nur eine Anforderung an die Benutzeroberfläche – es ist eine architektonische Anforderung: Das System muss so konzipiert sein, dass eine menschliche Aufsicht tatsächlich möglich ist und nicht nur formell.

Cloud-SaaS gibt Ihnen Kontrolle innerhalb dessen, was die API des Anbieters erlaubt. Sie können den System-Prompt konfigurieren, Beschränkungen über API-Parameter festlegen, bestimmte Funktionen deaktivieren – aber Sie können das Basismodell nicht kontrollieren, wissen nicht genau, wie es Ihren Prompt nach dem nächsten Update interpretiert, und können nicht garantieren, dass sich sein Verhalten nicht ändert. Wenn das System nach einem Anbieter-Update plötzlich unerwartete Antworten liefert – sind Ihre Eingriffsmöglichkeiten auf das beschränkt, was die API erlaubt.

Ein Self-hosted System bietet ein anderes Maß an Kontrolle: Sie entscheiden selbst, welches Modell Sie verwenden (Llama, Mistral, Qwen oder GPT über OpenRouter), Sie konfigurieren selbst den System-Prompt und die Beschränkungen, Sie kontrollieren selbst, wann und welche Version aktualisiert wird. Wenn das Modell sich unerwartet verhält – können Sie auf eine frühere Version zurückrollen, die Konfiguration ändern oder den LLM-Anbieter komplett austauschen, ohne den Rest des Systems zu ändern. Das ist die reale menschliche Aufsicht im Sinne von Art. 14 AI Act.

Problem 4: Haftung und Betreiberkette

Der AI Act unterscheidet klar zwischen dem „Provider“ (Entwickler des Systems) und dem „Deployer“ (Unternehmen, das es nutzt) und verteilt die Verpflichtungen zwischen ihnen. Aber wenn Sie Cloud-SaaS nutzen – wird die Haftungskette komplexer: Es gibt den Entwickler des Basismodells (z. B. OpenAI), es gibt den SaaS-Anbieter, der ein Produkt auf Basis dieses Modells erstellt, und es gibt Sie als End-Deployer. Wenn etwas schiefgeht – kommt der Regulator zu Ihnen als Deployer, und Ihre Antwort „der Anbieter ist schuld“ entbindet Sie nicht von der Haftung nach Art. 26 AI Act.

Ein Self-hosted System, bei dem Sie sowohl Deployer als auch tatsächlicher Betreiber sind – vereinfacht diese Kette. Sie wissen, was Sie verwenden, dokumentieren Ihr System und tragen die Verantwortung für Ihre eigene Installation – nicht für eine fremde Plattform, die Sie nicht kontrollieren.

Wo Self-hosting im Hinblick auf AI Act und DSGVO punktet

Anforderung Cloud SaaS (US-Anbieter) Self-hosted (AskYourDocs, Server in der EU)
Datenstandort – Server in der EU ⚠️ Server kann in der EU sein, aber Anbieter ist US-Unternehmen unter dem CLOUD Act ✅ Hetzner (Nürnberg/Helsinki) oder OVH (Straßburg) – Nicht-US-Anbieter, CLOUD Act nicht anwendbar
Technische Dokumentation des eigenen Systems (Art. 11) ⚠️ Vorhanden ist die Anbieterdokumentation für das Basismodell – aber nicht für Ihre spezifische Installation und Konfiguration ✅ Dokumentation Ihres Systems: welches Modell, welche Version, welche Konfiguration, welche Dokumente hochgeladen
Transparenz der Verarbeitung für Deployer (Art. 13) ⚠️ Anbieter gibt allgemeine Anleitungen – Details der Verarbeitung auf Ihrem Use-Case-Level werden nicht offengelegt ✅ Volle Kontrolle und Sichtbarkeit: Was mit jeder Anfrage von Erhalt bis Antwort geschieht
Menschliche Aufsicht (Art. 14) ⚠️ Begrenzt durch API-Möglichkeiten – Anbieter kann das Verhalten des Modells ohne Ihr Wissen ändern ✅ Volle Kontrolle: Modellversion, System-Prompt, Beschränkungen – alles in Ihren Händen
Protokollierung von Anfragen (Art. 12) ⚠️ Anbieter führt Logs – aber Zugriff ist eingeschränkt, Speicherdauer bestimmt der Anbieter ✅ Alle Logs auf Ihrem Server: Voller Zugriff, Speicherdauer bestimmen Sie
Systemstabilität für Audits ⚠️ Anbieter kann Modell ohne Vorankündigung aktualisieren – Dokumentation veraltet ✅ Sie kontrollieren die Modellversion – System bleibt fixiert bis zu Ihrer Update-Entscheidung
DSGVO Art. 9 – Besondere Kategorien von Daten (Medizin, Anwälte) ❌ CLOUD Act Risiko wird durch DPA nicht beseitigt – für medizinische und anwaltliche Daten ist dies eine rechtliche Schwachstelle ✅ Daten verlassen Ihren EU-Server nie – CLOUD Act ist architektonisch nicht anwendbar
Haftungskette (Art. 26) ⚠️ Komplex: Modellentwickler → SaaS-Anbieter → Sie als Deployer ✅ Einfach: Sie als Deployer und Betreiber Ihres eigenen Systems

Ehrliche Warnung: Self-hosted bedeutet nicht automatische Compliance mit dem AI Act. Sie müssen trotzdem: Nutzer klar über die Interaktion mit KI informieren (Art. 50), Anfragen protokollieren, Ihr System dokumentieren und – wenn Ihr Use Case Hochrisiko ist – die vollständige Liste der Anforderungen der Art. 9–15 erfüllen. Self-hosted gibt Ihnen die Werkzeuge zur Erfüllung dieser Anforderungen und beseitigt die strukturellen Barrieren, die bei der Arbeit mit Cloud-Anbietern entstehen. Aber die Architektur allein reicht nicht aus – es bedarf dokumentierter Prozesse, benannter Verantwortlicher und regelmäßiger Systemüberprüfung.

Mehr über die Risiken von Datenlecks durch KI-Dienste und wie Sie diese überprüfen können – in diesem Artikel 6 Risiken von Datenlecks durch KI im Unternehmen.

Checkliste: Was Sie in Ihrem System vor August 2026 überprüfen müssen

Bis zum 2. August 2026 sind es weniger als 100 Tage. Hier ist, was Sie jetzt überprüfen müssen – unabhängig davon, welches KI-System Sie verwenden.

Frage Wenn „Ja“ Wenn „Nein“ – Aktion
Wissen Sie, zu welcher Risikokategorie des AI Acts Ihr System gehört? ✅ Weitermachen Nutzen Sie den Compliance Checker auf artificialintelligenceact.eu
Informiert Ihr KI-Chat die Nutzer darüber, dass sie mit einer KI kommunizieren? ✅ Art. 50 erfüllt Fügen Sie bis zum 02.08.2026 eine klare Mitteilung hinzu
Wissen Sie, wo die Daten physisch gespeichert werden, die Ihr KI-Dienst verarbeitet? ✅ Dokumentieren Sie Fordern Sie vom Anbieter eine Bestätigung des Serverstandorts und des DPA an
Haben Sie ein DPA (Data Processing Agreement) mit dem KI-Anbieter? ✅ Halten Sie es aktuell Unterzeichnen Sie ein DPA – ohne dieses ist die Datenverarbeitung gemäß DSGVO illegal
Haben Ihre KI nutzenden Mitarbeiter eine grundlegende Schulung (KI-Literacy) absolviert? ✅ Art. 4 erfüllt Obligatorisch ab dem 02.02.2025 – führen Sie Schulungen durch und dokumentieren Sie sie
Führen Sie ein Protokoll über KI-Anfragen (Log) für Audits? ✅ Mindestens 6 Monate aufbewahren Konfigurieren Sie die Protokollierung – für Hochrisiko-Systeme ist dies zwingend erforderlich (Art. 12)
Wenn Sie ein Hochrisiko-System haben – gibt es eine technische Dokumentation des Systems? ✅ Art. 11 erfüllt Erstellen Sie die Dokumentation bis zum 02.08.2026 – ohne sie darf das System nicht legal betrieben werden
Wenn Sie ein Hochrisiko-System haben – gibt es ein Verfahren zur menschlichen Aufsicht? ✅ Art. 14 erfüllt Dokumentieren Sie, wer und wie KI-Entscheidungen kontrolliert und sie abbrechen kann

Zur Vorbereitung von Dokumenten für ein KI-System – in diesem Artikel Wie man Dokumente für einen KI-Assistenten vorbereitet: Was hochzuladen ist und was nicht.

Häufig gestellte Fragen

Betrifft der AI Act kleine Unternehmen oder KMU?

Ja – aber mit einem proportionalen Ansatz bei den Bußgeldern. Für KMU und Start-ups wird das Bußgeld als der geringere der beiden Beträge berechnet (ein fester Betrag oder ein Prozentsatz des Umsatzes). Das bedeutet, für ein Unternehmen mit einem Jahresumsatz von 500.000 € beträgt das maximale Bußgeld der ersten Stufe 35.000 € (7 % des Umsatzes) und nicht 35 Millionen €. Die Verpflichtungen zur Transparenz (Art. 50) und die Verbote (Art. 5) sind jedoch für alle unabhängig von der Größe gleich.

Fällt ein KI-Chat auf der Website einer Klinik unter den AI Act?

Ja – zumindest unter die Transparenzanforderungen der Stufe 3 (Art. 50). Ab dem 2. August 2026 muss der Chat die Patienten ausdrücklich darüber informieren, dass sie mit KI kommunizieren. Wenn der Chat nur Informationsfragen aus den Klinikprotokollen beantwortet – handelt es sich um ein begrenztes Risiko. Wenn er bei der Diagnose oder Triage hilft – handelt es sich potenziell um ein Hochrisiko mit dem vollständigen Anforderungssatz.

Reicht die Unterzeichnung eines DPA mit dem KI-Anbieter zur Einhaltung des AI Acts aus?

Ein DPA (Data Processing Agreement) ist für die DSGVO obligatorisch, reicht aber für die vollständige Konformität mit dem AI Act nicht aus. Der AI Act verlangt zusätzlich Transparenz des Systems, Protokollierung, menschliche Aufsicht und – für Hochrisiko-Systeme – technische Dokumentation und Registrierung. Ein DPA löst die Frage „wo und wie die Daten gespeichert werden“, aber nicht die Frage nach der Kontrolle über das KI-System und die Auditierbarkeit.

Was ist ein Transfer Impact Assessment (TIA) und wann wird er benötigt?

TIA ist eine Bewertung der Auswirkungen der Datenübermittlung in ein Drittland (z. B. USA), die die DSGVO nach dem Schrems II-Urteil (2020) verlangt. Wenn Ihr KI-Anbieter ein US-Unternehmen ist und die Daten Ihrer Kunden oder Patienten auf Servern außerhalb der EU verarbeitet – ist ein TIA obligatorisch. Selbst wenn die Server physisch in der EU stehen, der Anbieter aber US-amerikanisch ist – wird ein TIA wegen des CLOUD Act-Risikos empfohlen.

Möchten Sie überprüfen, ob Ihr KI-System die Anforderungen des AI Acts erfüllt?

Wir bei AskYourDocs entwickeln Self-hosted KI-Assistenten auf Basis von Dokumenten für KMU, medizinische Zentren und Anwaltskanzleien – mit Bereitstellung auf einem Server in der EU (Hetzner DE/FI oder OVH FR) und einer Architektur, die die Anforderungen der DSGVO und des AI Acts erfüllt.

Senden Sie uns 2-3 Ihrer echten Dokumente. In 30 Minuten zeigen wir eine Live-Demo und analysieren, zu welcher Risikokategorie des AI Acts Ihr Use Case gehört und was konkret zur Compliance erforderlich ist.

Schreiben Sie uns auf Telegram →

Schlüsselfertige Implementierung in 5-7 Tagen. Ab 500 $. Server in der EU. Ohne IT-Team Ihrerseits.


Quellen: