Han ble født i en landsby litt øst for Düsseldorf, men hans mor Charlotte Constance var nederlandsk, og da Röntgen var tre år, flyttet hele familien til Apeldoorn i Nederland, der han vokste opp. Han var et skolelys, men da han gikk ut fra den tekniske høyskole i Utrecht som nittenåring, fikk han dårlig karakter i ett fag – nemlig fysikk, rett og slett («svært dårlig»). Kort tid etter ble han utvist fra skolen etter at en medelev hadde tegnet en karikatur av en upopulær lærer på tavlen, og Röntgen ikke ville si hvem den skyldige var. Dermed var muligheten for en universitetsutdannelse utelukket, inntil en venn av familien fortalte dem at i Zürich opptok studenter uten formelle papirer, såfremt de bestod en opptaksprøve. I november 1865 begynte Röntgen sine studier ved skolen.