Die KI-VO gibt schließlich ebenfalls vor, dass Produkte, die in ihren Anwendungsbereich fallen, bestimmten Risikoklassen zugeordnet werden müssen. Dabei unterscheidet die KI-VO vier verschiedene Klassen. Während die höchste Risikoklasse ganz verboten ist, bringt die Einordnung einer Anwendung als Hochrisiko-KI-System besondere Vorgaben für Hersteller:innen mit sich. Hochrisiko-KI-Systeme sind nach Art. 6 Abs. 1 KI-VOE KI-Systeme, die entweder selbst unter eine im Anhang II der KI-VO aufgeführte Harmonisierungsrechtsvorschrift fallen, die eine „Sicherheitskomponente“ eines Produkts darstellen, das seinerseits unter den Geltungsbereich eines in Anhang II genannten Regelwerkes fällt oder aber die in Annex III KI-VO-E (Stand alone – AI) aufgeführt sind.
KI-basierte Medizinprodukte müssen außerdem bestimmte grundlegende Anforderungen zur Sicherheit und Leistungsfähigkeit erfüllen. Außerdem müssen Hersteller:innen die Grundsätze der Informationssicherheit oder des Software-Lebenszyklus berücksichtigen.