Der AI Act hat einen durchaus weiten Anwendungsbereich und gilt für alle, die Produkte oder Dienstleistungen auf Grundlage von künstlicher Intelligenz anbieten. Davon umfasst sind Anwendungen, die Inhalte, Vorhersagen und Empfehlungen bereitstellen oder die Entscheidungsfindung der Nutzer beeinflussen. Davon umfasst sind nicht nur kommerzielle Angebote sondern auch die Nutzung von KI im öffentlichen Sektor (zB im Rahmen der Strafverfolgung). Der AI-Act kommt parallel zu den bestehenden Rechtsakten zur Anwendung und soll diese ergänzen.
Der AI-Act teilt KI-Anwendungen in unterschiedliche Risiko-Kategorien; von „minimal“ bis „inakzeptabel“. Abhängig von der Einstufung müssen die Anbieter bestimmte Sicherheits- und Transparenz-Anforderungen einzuhalten.
Wird eine KI-Anwendung, als inakzeptabel eingestuft, wird diese durch den AI-Act verboten. Die trifft beispielsweise auf biometrische Kategorisierungssysteme zu, welche sensible Merkmale wie die politische oder religiöse Überzeugung, die sexuelle Orientierung oder die ethnische Zugehörigkeit nutzen.
Weiters darf KI nicht ungezielt das Internet oder Aufnahmen von Überwachungsanlagen zur Erstellung von Gesichtsdatenbanken durchsuchen.
Auch der Einsatz von KI zur Erkennung von Emotionen in Bildungseinrichtungen oder am Arbeitsplatz ist verboten. Programme, welche der Manipulation von menschlichem Verhalten dienen sollen, sind ebenso verboten wie Anwendungen, welche Schwächen von Menschen auf Grund von Alter, Behinderung, sozialer oder wirtschaftlicher Situation ausnutzen. Außerdem ist es verboten KI zur Erstellung eines Benotungssystems für soziales oder persönliches Verhalten einzusetzen.
