Weizenbaums «Frankensteinmonster» Weizenbaum var en av de første til å innse hvilke katastrofale virkninger slike egentlig ufarlige leketøy kan ha på folk. Han hadde selv programmert ELIZA og visste hvor enkelt og uintelligent det var, likevel fikk han kjemperespons fra personer som ønsket å prate med og få hjelp fra den maskinelle «terapeuten» hans. De som «pratet» med ELIZA, utviklet ofte personlige bånd til programmet. Weizenbaum ble sjokkert over hvor lett normale mennesker fikk vrangforestillinger og anså ELIZA som et eksisterende vesen. Det hele gikk så langt at publiserte en artikkel som hevdet at programmer som ELIZA snart kunne tas i bruk på sykehus som terapi for psykisk syke pasienter, og forhåpentlig kurere dem. Weizenbaums erfaring med ELIZA fikk han til å skifte mening om kunstig intelligens, ettersom mennesker alt for lett fanges av fenomenet og overbevises om at det er ekte. I slike tilfeller har kunstig intelligens stort skadepotensial, som terapeut eller om det får noen til å røpe hemmeligheter.