Gefährlich wird es, wenn Fehlinterpretationen und falsche Antworten der KI ungeprüft als wahr angenommen werden. Es ist nicht nachvollziehbar, woher die KI ihre Informationen beziehen, wodurch auch rechtliche Risiken entstehen können. Ein weiteres Problem sind die fehlende Empathie und die mangelnde Fähigkeit, nuancierte Anfragen und Probleme zu verstehen.