Hochrisiko-KI

Hochrisiko-KI bezeichnet nach dem EU AI Act eine Klasse von KI-Systemen, die in Bereichen eingesetzt werden, in denen Fehler oder Missbrauch erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte haben können. Dazu zählen unter anderem KI-Systeme in der Personalverwaltung, Kreditvergabe, medizinischen Diagnostik, kritischen Infrastrukturen und im Bildungsbereich.

Was bedeutet das für Ihr KMU?

Ob ein KI-System als Hochrisiko eingestuft wird, hängt nicht vom Anbietenden, sondern vom konkreten Einsatzzweck ab. Eine Standard-KI aus dem Regal kann durch den Einsatz im Personalbereich zum Hochrisiko-System werden. Für Hochrisiko-KI gelten strenge Pflichten: Dokumentation, Risikoanalyse, menschliche Aufsicht, Transparenz gegenüber Betroffenen und Registrierung in einer EU-Datenbank. Prüfen Sie für jeden KI-Einsatz in Ihrem Unternehmen, ob er in eine der definierten Hochrisiko-Kategorien fällt lassen Sie sich im Zweifelsfall rechtlich beraten. Idealerweise sollten Sie das in einer frühen Phase berücksichtigen. So können Sie auch von Anfang an einen realistschen und angemessenen Complianceaufwand kalkulieren.