Les systèmes d’IA orientés utilisateur peuvent être potentiellement trompeurs, auquel cas les utilisateurs fournissent des informations qu’ils n’avaient pas anticipées. Les systèmes peuvent également faire apparaître des liens plus sophistiqués et plus nébuleux entre les points de données, ce qui permet l’identification et le profilage à un niveau inédit. Ainsi, la plupart des données seraient considérées comme des données d’identification ou sensibles. Les exigences actuelles en matière de consentement peuvent ne pas répondre de manière adéquate à ce problème.
Bien que les fonctions de manipulation de l’interface utilisateur et de l’expérience utilisateur trompeuses, communément appelées « interfaces truquées » soient de plus en plus pointées du doigt, voire réglementées dans certains cas, elles tendent à se concentrer sur des tactiques déjà connues. Une conception réactive pourrait permettre le développement de nouvelles méthodes plus sophistiquées de manipulation des utilisateurs.