Faits:
A. A._ est propriétaire de la parcelle n° 1276 du registre foncier de Carouge (GE), sise en zone à bâtir et sur laquelle sont construits trois immeubles d'habitation. En mars 2002, le Département de l'aménagement, de l'équipement et du logement du canton de Genève (appelé aujourd'hui Département des constructions et des technologies de l'information, ci-après: le département) a constaté que des travaux étaient en cours sans autorisation dans deux des immeubles en question et que le troisième immeuble avait fait l'objet d'une rénovation sans autorisation. L'intéressé ayant déposé une requête en autorisation de construire en vue de rétablir une situation conforme au droit, le département a délivré l'autorisation demandée, par décision du 25 avril 2003. La condition n° 5 de cette autorisation a la teneur suivante:
"Les loyers après travaux des logements rénovés (54 appartements = 162 pièces) n'excéderont pas ceux figurant dans la colonne « loyers selon LDTR » du tableau [...] intitulé « évolution de l'état locatif » soit 557'351 fr. au total l'an. Pour les locataires en place lors de l'exécution des travaux, ces loyers seront appliqués pour une durée de trois ans, avec effet rétroactif à l'échéance de leur bail qui a suivi la fin des travaux, intervenue le 1er juin 2002. Pour les nouveaux locataires, ces loyers seront appliqués avec effet rétroactif à la date de prise d'effet de leur bail et pour une durée de trois ans."
Par décision séparée du même jour, le département a ordonné à A._ de ramener les loyers des appartements concernés à des montants compatibles avec la condition susmentionnée et de restituer le trop-perçu aux locataires, en application des art. 44 de la loi cantonale du 25 janvier 1996 sur les démolitions, transformations et rénovations de maisons d'habitation (LDTR; RSG L 5 20) et 129 ss de la loi cantonale du 14 avril 1988 sur les constructions et les installations diverses (LCI; RSG L 5 05). L'intéressé a également été condamné à une amende administrative de 10'000 fr., en application des art. 44 LDTR et 137 LCI.
B. A._ a recouru contre ces décisions auprès de la Commission cantonale de recours en matière de constructions (ci-après: la commission de recours) et du Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif). Le rejet de ces recours a été suivi de nombreux échanges de correspondances entre A._ et le département au sujet des montants à rembourser aux locataires.
Par décision du 14 juillet 2005, le département a finalement ordonné à l'intéressé de se conformer à la condition n° 5 de l'autorisation de construire. A._ était sommé de s'exécuter de la manière suivante:
"notifier aux locataires en place pendant les travaux un nouvel avis de majoration de loyer avec effet à la prochaine échéance utile suite aux travaux pour une durée de trois ans et ce dans le respect de la condition n° 5 afférente à l'autorisation de construire [...]
notifier aux locataires qui sont entrés dans l'appartement suite aux travaux un nouvel avis de fixation de loyer initial à compter du début du bail pour une durée de trois ans et ce dans le respect de la condition précitée."
A._ a contesté cette décision devant la commission de recours, qui a rejeté le recours par décision du 23 novembre 2005. Le 5 mai 2006, le département a constaté que les avis de majoration de loyer étaient incorrects, car ils mentionnaient dans la rubrique "ancien loyer annuel" le loyer fixé illicitement après les travaux de rénovation au lieu du loyer qui était appliqué avant lesdits travaux. Le département a donc invité l'intéressé à corriger ces avis. Après de nouveaux échanges de correspondances, A._ a informé le département, par courrier du 28 novembre 2006, qu'il refusait de s'exécuter.
C. Par courrier du 19 décembre 2006, le département a ordonné à A._ de se conformer aux décisions des 25 avril 2003 et 14 juillet 2005 dans un délai de trente jours, sous la menace de l'<ref-law>. Il lui a en outre infligé une amende administrative de 3'000 fr. en application de l'art. 137 LCI, pour insoumission à "des ordres en force du département".
A._ a attaqué cette décision devant la commission de recours. Il a également contesté l'amende susmentionnée directement auprès du Tribunal administratif. La commission de recours a entendu les parties et elle a rejeté le recours par décision du 3 mai 2007, considérant que le courrier du 19 décembre 2006 n'était pas une décision sujette à recours au sens des art. 4 et 59 let. b de la loi cantonale du 12 septembre 1985 sur la procédure administrative (LPA; RSG E 5 10). Seule l'amende de 3'000 fr. pouvait être contestée et, compte tenu du comportement et des antécédents de l'intéressé, elle ne pouvait qu'être confirmée. La commission de recours a en outre infligé à A._ une amende de 1'000 fr. pour "emploi abusif des procédures". Le prénommé a recouru devant le Tribunal administratif.
Par arrêt du 26 août 2008, le Tribunal administratif a rejeté ce recours et il a déclaré irrecevable le recours formé directement contre la décision du département du 19 décembre 2006. Il a considéré en substance que la décision en question était une décision d'exécution, de sorte que, conformément à l'art. 59 let. b LPA, elle ne pouvait pas faire l'objet d'un recours. Quant à l'amende administrative de 3'000 fr., elle était justifiée. Il en allait de même de l'amende de 1'000 fr. infligée par la commission de recours en application de l'art. 88 al. 1 LPA, dans la mesure où l'intéressé ne pouvait pas raisonnablement compter sur des chances de succès de son recours.
D. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler cet arrêt. Il se plaint d'arbitraire (art. 9 Cst.) dans l'appréciation des preuves et dans l'application des art. 4, 59 et 88 LPA et des art. 12 à 14 LDTR. Il invoque également une atteinte à la garantie de la propriété (art. 26 Cst.) ainsi qu'une violation de l'<ref-law> et de l'art. 19 de l'ordonnance du 9 mai 1990 sur le bail à loyer et le bail à ferme d'habitations et de locaux commerciaux (OBLF; RS 221.213.11). Le Tribunal administratif se réfère aux considérants de son arrêt. Le département s'est déterminé; il conclut au rejet du recours.

Considérant en droit:
1. Dirigé contre une décision rendue dans le domaine du droit public des constructions, le recours est recevable comme recours en matière de droit public conformément aux <ref-law>, aucune des exceptions prévues à l'<ref-law> n'étant réalisée. Le recourant est particulièrement touché par la décision attaquée, qui confirme les amendes administratives qui lui ont été infligées ainsi que l'ordre de rectifier les avis de majoration de loyer. Il a donc la qualité pour agir au sens de l'<ref-law>. Pour le surplus, interjeté en temps utile contre une décision finale prise en dernière instance cantonale non susceptible de recours devant le Tribunal administratif fédéral, le recours est recevable au regard des art. 86 al. 1 let. d, 90 et 100 al. 1 LTF.
2. Invoquant l'art. 9 Cst., le recourant se plaint d'une appréciation arbitraire des preuves et d'une application arbitraire de diverses dispositions de droit cantonal.
2.1 Selon la jurisprudence, l'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral ne s'écarte de la solution retenue en dernière instance cantonale que si elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté ou si elle heurte de manière choquante le sentiment de la justice ou de l'équité. Il ne suffit pas que la motivation de la décision soit insoutenable; encore faut-il qu'elle soit arbitraire dans son résultat (<ref-ruling> consid. 3.1 p. 153; <ref-ruling> consid. 5.1 p. 17 et les arrêts cités).
Appelé à revoir l'application ou l'interprétation d'une norme sous cet angle, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution ? éventuellement plus judicieuse ? paraît possible (<ref-ruling> consid. 4.1 p. 133; <ref-ruling> consid. 5.1 p. 260 s. et les arrêts cités).
2.2 Le recourant se plaint d'abord d'une appréciation arbitraire des preuves au motif que le Tribunal administratif aurait considéré "que l'autorisation de construire du 25 avril 2003 et la décision du département du 14 juillet 2005 contenaient des indications quant au loyer à mentionner dans la rubrique « ancien loyer annuel » des avis de modification de loyer". Dans la mesure où l'arrêt attaqué ne contient pas de telles considérations, il n'y a pas lieu d'examiner ce moyen plus avant. Au demeurant, le passage de l'arrêt que le recourant semble contester par ce grief signifie simplement que le contrôle des loyers sous l'angle de l'art. 12 LDTR implique que le propriétaire doit rectifier les baux indiquant un loyer qui ne correspond pas à celui fixé par le département, comme la Cour de céans l'a constaté dans un arrêt 1P.20/2005 du 18 mars 2005 (consid. 2.3.1 in fine) cité par l'arrêt querellé.
2.3 Invoquant une application arbitraire des art. 4 et 59 LPA, le recourant soutient que la décision du département du 19 décembre 2006 ne pouvait pas être considérée comme une décision d'exécution, car elle allait au-delà de l'autorisation de construire du 25 avril 2003 et de la décision du 14 juillet 2005. Il ne démontre cependant pas concrètement en quoi la décision du 19 décembre 2006 créerait des obligations supplémentaires, de sorte qu'il est douteux que ce grief satisfasse aux exigences de motivation découlant des art. 42 al. 2 et 106 al. 2 LTF (cf. <ref-ruling> consid. 1.4.2 p. 254 et les références). Quoi qu'il en soit, abstraction faite de l'amende administrative de 3'000 fr., la décision du 19 décembre 2006 se limite à une injonction faite au recourant de se conformer aux décisions précitées, de sorte qu'il n'apparaît pas manifestement insoutenable de la qualifier de décision d'exécution.
2.4 Le recourant se plaint encore d'une application arbitraire des art. 12 à 14 LDTR, au motif qu'il serait contraint de notifier de nouveaux avis de majoration de loyer portant sur une période future, ce qui prolongerait la période de contrôle prévue par les dispositions précitées. On ne voit cependant pas en quoi la correction des avis de majoration de loyers demandée par le département aurait un tel effet, la décision litigieuse du 19 décembre 2006 ayant au demeurant pour seul objet d'exiger du recourant qu'il se conforme aux précédentes décisions entrées en force.
2.5 Enfin, le recourant invoque une application arbitraire de l'art. 88 LPA, qui permet à la juridiction administrative de sanctionner d'une amende les recours téméraires et l'emploi abusif des procédures. Il se borne toutefois à affirmer qu'il était contraint de recourir contre une "décision scandaleuse" prise à son encontre pour des raisons "chicanières", mais il ne le démontre aucunement. Par ailleurs, sur le vu du déroulement de la procédure, des divers recours et des nombreux échanges de correspondances, l'absence d'argument convaincant pour contester la décision d'exécution du 19 décembre 2006 pouvait sans arbitraire faire apparaître le recours litigieux comme une ultime manoeuvre du recourant pour ne pas se conformer aux décisions prises à son encontre.
2.6 Il s'ensuit que les griefs tirés de l'interdiction de l'arbitraire au sens de l'art. 9 Cst. doivent être rejetés, pour autant qu'ils soient recevables.
3. Le recourant allègue encore que l'arrêt attaqué viole l'<ref-law>, qui traite du contenu des formules de hausse de loyer. Selon lui, en exigeant la correction des avis de majoration de loyers, le département exigerait qu'il inscrive un "loyer manifestement faux". Ce grief confine à la témérité; le recourant ne saurait en effet soutenir de bonne foi que la rubrique "ancien loyer" des formules en question devrait comporter le montant des loyers excessifs qu'il a perçus illégalement avant que le département ne lui demande de les corriger. Ce moyen doit donc être rejeté.
4. Quant aux griefs fondés sur les art. 26 Cst. et 2 CC, ils sont également inconsistants, voire téméraires. L'assertion selon laquelle la correction des avis de hausse de loyers porterait atteinte à la garantie de la propriété en raison du "travail administratif considérable" qu'elle engendrerait peut être écartée sans davantage d'explications, l'intérêt public lié au respect de la loi et des décisions de l'autorité l'emportant manifestement sur l'inconvénient qui en résulterait pour l'intéressé. De même, vu les nombreux échanges de correspondances et les explications qu'il a reçues, le recourant est particulièrement malvenu de reprocher au département concerné d'avoir violé le principe de la confiance en manquant à son devoir d'information.
5. Il s'ensuit que le recours doit être rejeté, dans la mesure de sa recevabilité. Le recourant, qui succombe, doit supporter les frais de la présente procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Département des constructions et des technologies de l'information et au Tribunal administratif du canton de Genève.
Lausanne, le 15 décembre 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Rittener