DeGraw vokste opp i en ganske musikalsk familie. Han begynte å spille piano i åtteårsalderen, og spilte i et band sammen med broren, den mindre kjente Joey DeGraw. Senere valgte han å studere ved Berklee, kjent for sin oppfostring av musikalske talenter. Han begynte å mistrives etter en stund og bestemte seg fort for å søke lykken i New York som sanger og komponist. Han dumpet innom baren «Wilsons» på slutten av 1990-tallet. Der møtte han Debbie Wilson, innehaveren som senere ble hans manager. Etterhvert som tiden gikk begynte lokale journalister å få øynene opp for han. Han ble tidlig tilbudt en platekontrakt, men avsto fordi han ville være mer med på å bestemme hvordan han skulle fremstilles som artist. Ved årsskiftet 2002/2003 ble han kjent for et stort publikum etter at låta «I Don't Want To Be» ble gjort til tittellåt for den amerikanske serien .