Användningen av AI inom cybersäkerhet medför flera utmaningar. En stor utmaning är risken att cyberkriminella utnyttjar AI för att skapa mer sofistikerade angripare, såsom realistiska phishing-e-postmeddelandenanden eller deepfake-videor. En annan utmaning är risken att AI-system fattar fördomsfulla eller felaktiga beslut baserade på bristfälliga data, vilket kan leda till falska identifieringar eller diskriminerande resultat. Överdriven beroende av AI kan också leda till brist på nödvändig mänsklig tillsyn, särskilt i kritiska beslutssituationer. Det är viktigt att implementera robusta policyer, utveckla AI-system etiskt och upprätthålla en balans mellan automation och mänsklig involvering i säkerhetsprocesser.