Johan Kjølstad lebt in Trondheim und startet für "Skogn IL". Sein internationales Debüt gab er im März 2002 bei einem Weltcupsprint in Oslo, bei dem er 48. wurde. Im darauffolgenden Jahr gewann er bei den Juniorenweltmeisterschaften in Sollefteå den Sprinttitel. Kjølstad spezialisierte sich von Beginn seiner Karriere an auf die Sprintstrecke und startete nur selten in Distanzrennen. Recht überraschend gewann der junge Sportler, der bis dahin nur sporadisch im Weltcup eingesetzt wurde, im Januar 2005 in Nové Město na Moravě ein Sprintweltcuprennen. Diesen Erfolg konnte er zu Beginn der Saison 2005/06 beim Teamsprint in Düsseldorf an der Seite von Trond Iversen wiederholen. Von nun an gehörte Kjølstad zur Weltspitze im Sprint und erreichte in der Saison 05/06 mit dem fünften Rang im Sprint-Gesamtweltcup sein bislang bestes Ergebnis in dieser Wertung. Bei den Olympischen Spielen 2006 in Turin belegte er im Sprint Rang sieben. Wenige Wochen nach den Spielen beendete er seine erfolgreichste Weltcup-Saison auf Rang 15 der Weltcup-Gesamtwertung. In der Sprintweltcup-Wertung lag er auf Rang fünf. Vor dem Saisonende konnte Kjølstad sich im Teamsprint noch einmal einen zweiten Rang in Sapporo sichern.