Sorgfältige formale Prüfung eines Dokuments vor der Freigabe

Risiken & Kontrollen · EU AI Act · Human Oversight

KI-Risiken erkennen. Kontrollen wirksam machen.

ARI macht sichtbar, welche Risiken, Verantwortlichkeiten und Kontrollen für einen KI-Use-Case relevant sind. Das schafft eine Grundlage für fundierte Entscheidungen, ersetzt aber keine Rechtsberatung.

Shield verstehenEU AI Act einordnen
Verantwortung klar. Kontrollen passend. Nachweise nachvollziehbar.
Praxisbeispiel · Governance-Story

Governance macht KI-Vorhaben arbeitsfähig.

Gute Governance klärt Verantwortung, Grenzen und Kontrollen früh. So können Teams fundiert entscheiden, statt kurz vor der Einführung fehlende Anforderungen nacharbeiten zu müssen.

✓
ARI verbindet Anforderung und Umsetzung.

Aufgaben, Entscheidungen und Nachweise bleiben direkt am Use Case verankert.

Konzentrierte Reflexion als Metapher für kontrollierte Geschwindigkeit
Für den Fachbetrieb lautet das Ziel nicht „maximal automatisieren“, sondern „maximal verlässlich unterstützen“.

Trusted AI Shield

Fünf Klärfelder vor dem Pilot.

Ein fehlender Beleg ist nicht automatisch ein Mangel. ARI macht offene Klärungen sichtbar und fragt nach – statt ohne Evidenz zu behaupten, ein Schutzpunkt sei erfüllt oder verletzt.

01

Zweck & Verantwortung

Geschäftszweck, fachlicher Owner, Entscheidungsverantwortung und Stoprecht müssen benannt sein.

  • Zweck und Grenzen
  • fachlicher Owner
  • Freigabe und Stop
02

Daten & Systeme

Zulässige Quellen, Datenqualität, Systeme, Zugriffe und Speicherorte müssen nachvollziehbar sein.

  • Quellen und Datenklassen
  • Zugriff und Berechtigung
  • System- und Speichergrenzen
03

Human Oversight

Menschliche Aufsicht braucht Information, Zeit, Kompetenz und reale Eingriffsmacht. Ein bloßer Freigabeklick genügt nicht.

  • verständliche Information
  • Zeit für Prüfung
  • Override, Eskalation, Stop
04

Incident, Eskalation & Fallback

Fehlerwege werden vor dem Betrieb geprobt. Vorfälle verändern Risk Scaling, Backlog, Training und gegebenenfalls Freigabe.

  • Incident-Weg
  • Rollback / manueller Fallback
  • Stop-the-Line
05

Rechtliche & fachliche Triage

Datenschutz, Informationssicherheit, EU AI Act und branchenspezifische Anforderungen werden früh gescreent; fachkundiger Prüfbedarf bleibt sichtbar.

  • Datenschutz & Security
  • AI-Act-Indikatoren
  • offene fachkundige Prüfung
Praxisbeispiel · Angebotsassistenz

Die KI bereitet vor. Der Mensch entscheidet.

Beim Angebots- und Prozessassistenten werden vier praktische Risikoblicke sichtbar: technische Fehler und Datenqualität, operative Rollen und Freigaben, regulatorische Anforderungen sowie ethisch-soziale Auswirkungen. Sie ergänzen die ARI-Stationen-Kontrollspuren – sie ersetzen sie nicht.

  • T
    Technisch: falsche oder überzeugend klingende Angebotsangaben erkennen.
  • O
    Operativ: fachliche Prüfung und Verantwortungen verbindlich halten.
  • R
    Regulatorisch: vertrauliche Daten, Transparenz und Nachweise früh klären.
  • S
    Ethisch / sozial: Vertrauen, Arbeitswirkung und echte Entscheidungshoheit schützen.
Freigegebene Quellen · menschliche Freigabe · Monitoring · Fallback.
Echter Bildschirmausschnitt aus ARI Studio: technischer Ausführungsverlauf eines Assessments bis zur fachlichen Evidenzprüfung
Die Risikobehandlung endet nicht in einer Matrix. Sie wird in ARI zu Aufgaben, Ownern, Kontrollen und Evidence.

Culture & Work Gate

Technischer Erfolg kann schlechte Arbeit nicht ausgleichen.

ARI Stationen behandelt Human & Work Impact als Schutz- und Entscheidungsdimension. Hinweise auf Mehrarbeit, Qualitätsverlust, sinkende Autonomie oder Kompetenzverlust schließen das Gate. Die Konsequenz lautet dann: anpassen oder stoppen.

GATEGo · Adapt · Stop
↗Nettoentlastunginklusive Nacharbeit und Kontrollaufwand
◎ArbeitsqualitätFehler, Nacharbeit, Handlungsfähigkeit
↔AutonomieEntscheidungsspielraum und Kontrolle
∆KompetenzLernen statt schleichender Abbau

EU AI Act

Regulierung verständlich in die Praxis übersetzen.

ARI macht sichtbar, welche Anforderungen relevant sein können, welche Informationen fehlen und wo Aufgaben oder Nachweise erforderlich werden. Die rechtliche Einordnung bleibt eine fachkundige Prüfung des konkreten Einsatzkontexts.

ORGANISATORISCHE EINORDNUNGARI Governance

Nutzen · Risiko · Verantwortung

ordnet Aufgaben, Kontrollen und Nachweise im Use Case
≠
RECHTLICHE EINORDNUNGEU AI Act

Rolle · System · Einsatzkontext · Pflichten

muss fachkundig im konkreten Kontext bewertet werden
Artikel 50

Die Transparenzpflichten für bestimmte KI-Systeme gelten seit dem 2. August 2026. Sie betreffen unter anderem bestimmte direkte KI-Interaktionen sowie KI-generierte oder manipulierte Inhalte.

Leitlinien der EU-Kommission →
ARI-Prinzip

ARI kann Indikatoren, offene Fragen und Nachweisbedarf strukturieren. Das System ersetzt keine abschließende Rechtsprüfung oder behördliche Einordnung.

ARI Arbeitsraum →

Human Oversight

„Human in the loop“ reicht als Satz nicht.

Wirksame Aufsicht braucht eine konkrete Betriebsarchitektur. ARI macht sie in Rollen, Aufgaben, Freigaben und Nachweisen sichtbar.

  1. 01Wissen

    Zweck, Grenzen und relevante Signale verstehen.

  2. 02Zeit

    Prüfung muss organisatorisch real möglich sein.

  3. 03Kompetenz

    Ergebnis und Kontext fachlich bewerten können.

  4. 04Eingriff

    Korrektur, Override, Eskalation oder Stop ausführen können.

  5. 05Evidence

    Relevante Prüf- und Freigabeentscheidungen nachvollziehbar halten.

Trusted AI in ARI

Schutz wird stärker, wenn er Teil der Arbeit ist.

Owner, Risiko-Check, Freigabe, Monitoring und Fallback bilden ein schlankes Governance-Minimum. Zusätzliche Kontrollen entstehen nur dort, wo Kontext und Komponente sie verlangen.

ARI Arbeitsraum ansehenGovernance & Verantwortung

30 Minuten · Unverbindlich

Ihren KI-Use-Case in 30 Minuten einordnen.

Ein kurzer Austausch: Wo liegt der Nutzen, welche Risiken und Anforderungen sind wichtig und was ist der nächste sinnvolle Schritt?

Öffnet einen vorausgefüllten Entwurf in Ihrem E-Mail-Programm.