Debutalbumet hans, , fikk førsteplass på Billboard Hot 200 og solgte mer enn 218 000 eksemplarer allerede den første uken. Hans andre album, , ble lansert den 18. juni 2013. En rekke andre artister medvirket på andrealbumet, blant andre Kendrick Lamar, men bare J. Cole rappet på selve albumet. Hans tredje album, , hadde lanseringsdato 9. desember 2014. J. Cole har utgitt tre offisielle mix-tapes i tillegg til de tre albumene sine; kom ut i 2007, i 2009 og i 2010. Mange av J. Coles tilhengere anser og som klassikere, og Cole har selv uttalt at han angrer på at han ikke ga ut som album i stedet for å gjøre den tilgjengelig som mix-tape.