ML-Governance wendet viele der gleichen Daten-Governance-Praktiken auf ML an. Datenqualität und Datenintegration müssen die Daten bereitstellen, die für das Modelltraining und die Produktionsbereitstellung erforderlich sind (Feature Stores sind dabei ein wichtiger Aspekt). Verantwortungsvolle künstliche Intelligenz (KI) legt besonderes Augenmerk auf die Verwendung sensibler Daten zur Erstellung von Modellen. Zu den zusätzlichen ML-Governance-Funktionen gehören die Beteiligung von Mitarbeitern an der Modellerstellung, Bereitstellung und Überwachung, die Dokumentation von Modelltraining, Versionsverwaltung, unterstützten Anwendungsfällen und Leitlinien für die ethische Modellnutzung sowie die Überwachung des Modells in der Produktion auf Genauigkeit, Abweichung, Überanpassung und Unteranpassung.
Generative KI erfordert zusätzliche Daten-Governance wie Qualität und Integrität der Daten zur Unterstützung der Anpassung von Basismodellen für das Training und Schlussfolgerungen, die Steuerung der Toxizität und generativer KI sowie den Betrieb des Basismodells (FM): FMOPs.
Sie können KI/ML mit demselben Daten-Governance-Programm unterstützen. Datenaufbereitung ist notwendig, um Daten in eine Form umzuwandeln, die KI/ML-Modelle für Schulungen und Produktionsableitungen verwenden können. Die effizienteste Datenaufbereitung ist jedoch die Aufbereitung, die Sie nicht vornehmen müssen. Datenwissenschaftler verbringen zu viel Zeit mit der Vorbereitung von Daten für jeden Anwendungsfall. Ihr Daten-Governance-Team kann Ihnen helfen, diese undifferenzierte schwere Arbeit zu erleichtern. Darüber hinaus kann Daten-Governance die Erstellung von Shaped Feature Stores überwachen, die in KI- und ML-Anwendungsfällen verwendet werden können.
Schließlich müssen sensible Daten angemessen geschützt werden, damit Ihr Team die Risiken minimieren kann, die entstehen, wenn sensible Daten zur Schulung der Basismodelle verwendet werden.
Ähnlich wie bei Analysen im Allgemeinen müssen Sie die Verwendung von KI/ML-Modellen, die Sie erstellen oder anpassen, regeln. Idealerweise sollte dies eng mit der Analytics-Governance verknüpft sein, da diese Funktion weiß, wie sie verschiedene Geschäftsbereiche unterstützen kann.