Mike Conley frequenta la high school di Lawrence North a Indianapolis, successivamente passa nel prestigioso college di Ohio State. Nel Draft NBA 2007 viene chiamato al primo giro con il numero 4 dai Memphis Grizzlies, mentre al numero 1 era stato chiamato il suo compagno di college Greg Oden.