Джо Джонсон был выбран под десятым номером на драфте НБА 2001 года «Бостон Селтикс». В своем дебютном сезоне НБА за «Селтикс» он провел 48 матчей, из них в 33 играх в стартовом составе, набирая в среднем 6,3 очка за 20,9 минут. В преддверии первого выхода в плей-офф с 1995 года «Бостон Селтикс» решил усилить состав. Поэтому в середине дебютного сезона Джонсона вместе с защитниками Милтом Паласио и Рэнди Брауном и драфт пиком первого раунда 2002 года был обменян в «Финикс Санз» на Тони Делка и Родни Роджерса.