De viktigste kildene brukt av evangelisten var de jødiske skriftene (Tanakh, mer eller mindre identisk med det kristne gamle testamentet), sannsynligvis i gresk oversettelse. Johannes siterer fra dem direkte, refererer viktige personer fra dem, og bruker fortellinger fra dem som grunnlag for flere av talene. Men forfatteren var også kjent med ikke-jødiske kilder: prologens Logos (Ordet som var hos Gud fra begynnelsen) stammer fra både det jødiske begrepet om den kvinnelige Visdommen, og fra de greske filosofene. Johannes 6 alluderer til både utferden fra Egypt og gresk-romerske mysteriekulter. Johannes 4 alluderer til samaritansk tro om Messias.