В сезоні 2006-07 років Джон приєднався до складу команди Хокейної ліги Сполучених Штатів (ЮСХЛ), Індіана Айс. В наступному сезоні зігравши за «Індіану» 59 матчів, він набрав 43 (12+31) очка (найкращий показник серед захисників команди) та допоміг «індіанцям» потрапити в плей-оф. По закінченню сезона, Карлсона було обрано в першому раунді драфта новачків НХЛ 2008-го року командою Вашингтон Кепіталс під загальним 27-им номером.