Utviklingen av generativ KI har skapt bekymringer fra myndigheter, bedrifter og individer, noe som har resultert i protester, rettslige hendelser, oppfordringer til å sette KI-eksperimentering på pause og handlinger fra flere myndigheter. I en orientering av FNs sikkerhetsråd i juli 2023, sa generalsekretær António Guterres at «generativ KI har et enormt potensiale for godt og ondt i stor skala», at KI kan «framskynde internasjonal utvikling» og bidra 10–15 trillioner amerikanske dollar til den globale økonomien ved 2030, men at ondsinnet bruk «kan forårsake forferdelige nivåer av død og ødeleggelse, utbredte traumer og dyp, psykologisk skade i en ufattelig skala».