Faits:
A. A._ est propriétaire depuis 1956 d'un immeuble, sis à Genève-Plainpalais, comprenant, en plus d'un rez-de-chaussée, 6 étages de 3 appartements chacun et un 7ème étage avec deux duplex. A teneur du Registre foncier, l'affectation de cet immeuble est ainsi décrite: "habitation - activités".
Le 17 juin 2005, le Département de l'aménagement, de l'équipement et du logement, devenu depuis lors le Département des constructions et des technologies de l'information (ci-après: le département) a interpellé A._ au sujet de changements d'affectation dénoncés par l'Association genevoise de défense des locataires.
A._ a informé le département que l'immeuble abritait depuis toujours des activités libérales, commerciales, artisanales et diplomatiques et que des autorisations de changement d'affectation avaient été délivrées sur simple lettre par le département dans les années septante. Il a annexé un état locatif au 30 novembre 2005, duquel il ressortait que toutes les surfaces du 1er au 6ème étage étaient destinées à une affectation commerciale.
Par courrier du 5 avril 2006, le département a rendu A._ attentif au fait que l'immeuble était entièrement dévolu au logement selon l'autorisation de construire délivrée en 1953. Aucun changement d'affectation n'avait depuis lors été autorisé s'agissant des appartements situés dans les étages. Or, selon l'art. 7 de la loi sur les démolitions, transformations et rénovations de maisons d'habitation (LDTR), nul ne pouvait, sous réserve de l'octroi d'une dérogation au sens de l'art. 8 LDTR, changer l'affectation de tout ou partie d'un immeuble comportant des locaux affectés à l'habitation. Le département a toutefois concédé que certains appartements avaient fait l'objet d'un changement d'affection il y plus de trente ans, de sorte que leur restitution à des fins d'habitation était prescrite. Ils s'agissait des locaux suivants: 4 1⁄2 et 5 1⁄2 pièces au 1er étage, 4 1⁄2 pièces au 2ème étage, 5 1⁄2 pièces au 3ème étage et 5 1⁄2 pièces au 4ème étage.
Par courrier du 27 septembre 2006, le département a invité A._ à clarifier l'historique des changements d'affectation en produisant des pièces justificatives. Il lui a également fait savoir que la compensation proposée, à intervenir dans un immeuble dans le quartier des Pâquis à Genève, ne remplissait pas les conditions fixées par l'art. 8 LDTR.
Par courrier du 13 décembre 2006, A._ a remis au département l'état locatif de l'immeuble à fin février 1979.
Par décision du 19 janvier 2007, le département a jugé, au vu des indications figurant dans l'état locatif à fin février 1979 ainsi que des informations recueillies auprès de l'Office cantonal de la population, que les cinq surfaces suivantes étaient à l'époque affectées au logement: 3 1⁄2 et 4 1⁄2 pièces au 1er étage, 3 1⁄2 et 4 1⁄2 pièces au 3ème étage, 3 1⁄2 pièces au 4ème étage. Selon l'état locatif au 30 novembre 2005, ces cinq appartements étaient désormais tous affectés à des surfaces commerciales, sans autorisation correspondante. Il a donc ordonné leur restitution à des fins d'habitation, en impartissant à A._ un délai de six mois à cet effet.
A._ a recouru contre cette décision auprès du Tribunal administratif de la République et canton de Genève (ci-après: le Tribunal administratif). Une audience de comparution personnelle a eu lieu le 15 juin 2007. Le conseil de A._ a admis que la prescription n'était pas acquise pour l'appartement de 3 1⁄2 pièces situé au 4ème étage.
Par arrêt du 2 octobre 2007, le Tribunal administratif a rejeté le recours au motif que la prescription trentenaire n'était acquise pour aucun des objets litigieux. L'intérêt privé de A._, de nature purement économique, devait au demeurant céder le pas à l'intérêt public manifeste à conserver des logements répondant aux besoins de la population. L'ordre de remise en état respectait en outre le principe de la proportionnalité, puisque les locaux concernés étaient pourvus des commodités usuelles et que seuls quelques travaux de rénovation étaient tout au plus nécessaires. Enfin, la compensation proposée ne remplissait pas les critères de l'art. 8 al. 2 LDTR, l'immeuble des Pâquis étant trop éloigné du bâtiment litigieux et A._ n'en ayant pas démontré l'affectation commerciale. Enfin, le délai de six mois imparti par le département n'était pas un délai d'évacuation.
B. Agissant par la voie d'un mémoire intitulé "recours", A._ demande au Tribunal fédéral d'annuler l'arrêt rendu par le Tribunal administratif le 2 octobre 2007. Subsidiairement, il requiert que la procédure soit renvoyée à cette dernière autorité pour nouvelle décision dans le sens des considérants. A._ se plaint d'une violation de son droit d'être entendu, du principe de l'interdiction de l'arbitraire ainsi que de celui de la proportionnalité. Il sollicite en outre l'octroi de l'effet suspensif.
Par ordonnance du 3 décembre 2007, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif présentée par A._.
Le Tribunal administratif s'en rapporte à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt. Le département conclut au rejet du recours.

Considérant en droit:
1. Le recourant n'a pas indiqué par quelle voie de recours il entendait procéder auprès du Tribunal fédéral. Toutefois, cette imprécision ne saurait lui nuire si son recours remplit les exigences légales de la voie de droit appropriée (cf. <ref-ruling> consid. 1b p. 508 s.). Contre une décision fondée sur des normes cantonales de droit public, le recours en matière de droit public selon les <ref-law> est ouvert, dès lors que la voie du recours devant le Tribunal administratif fédéral n'est pas disponible et qu'aucune des exceptions à l'<ref-law> n'est réalisée. Interjeté en temps utile et dans les formes requises, le mémoire respecte les exigences des art. 42 et 100 al. 1 LTF. Il y a donc lieu d'entrer en matière.
2. Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), il n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui. Il ne peut pas entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal si le grief n'a pas été invoqué et motivé de manière précise par la partie recourante (<ref-law>).
3. Aux termes de l'art. 2 al. 1 de la loi genevoise sur les démolitions, transformations et rénovations de maisons d'habitation (LDTR), cette loi s'applique notamment à tout bâtiment situé dans l'une des zones de construction prévues par l'art. 19 de la loi d'application de la loi fédérale sur l'aménagement du territoire du 4 juin 1987 (let. a) et comportant des locaux qui, par leur aménagement et leur distribution, sont affectés à l'habitation (let. b). En vertu de l'art. 7 LDTR, nul ne peut, sous réserve de l'octroi d'une dérogation au sens de l'art. 8, changer l'affectation de tout ou partie d'un bâtiment au sens de l'art. 2, occupé ou inoccupé. L'art. 8 al. 2 LDTR prévoit que les surfaces de logements supprimées peuvent être compensées par la réaffectation simultanée de surfaces commerciales ou administratives en logement. La disposition précise encore que les locaux réaffectés aux logements doivent être situés en règle générale dans le même quartier, si possible à proximité immédiate, à moins que le changement d'affectation ne soit effectué au profit d'un secteur comme le centre ville.
L'ordre de remise en état litigieux repose sur l'art. 129 let. e de la loi genevoise sur les constructions et les installations diverses (LCI), applicable par renvoi de l'art. 44 LDTR, qui permet au département d'ordonner la remise en état, la réparation, la modification, la suppression ou la démolition d'une construction ou d'une installation non conforme aux prescriptions de ladite loi, aux règlements qu'elle prévoit ou aux autorisations délivrées en application de ces dispositions légales ou réglementaires. Cette disposition reconnaît ainsi une certaine marge d'appréciation à l'autorité dans le choix de la mesure adéquate pour rétablir une situation conforme au droit, dont elle doit faire usage dans le respect des principes de la proportionnalité, de l'égalité de traitement et de la bonne foi, et en tenant compte des divers intérêts publics et privés en présence (cf. Christine Ackermann Schwendener, Die klassische Ersatzvornahme als Vollstreckungsmittel des Verwaltungsrechts, thèse Zurich 2000, p. 62). C'est ainsi qu'il peut être renoncé à une remise en état des lieux, lorsque la violation est de peu d'importance, lorsque cette mesure n'est pas compatible avec l'intérêt public ou encore lorsque le propriétaire a pu croire de bonne foi qu'il était autorisé à édifier ou à modifier l'ouvrage et que le maintien d'une situation illégale ne se heurte pas à des intérêts publics prépondérants (<ref-ruling> consid. 6 p. 221 et les arrêts cités).
3.1 En l'espèce, le recourant ne conteste pas que l'immeuble était dès l'origine entièrement dévolu au logement. Il ne remet pas non plus en question l'application analogique aux changements d'affectation de la jurisprudence selon laquelle un ordre de démolition d'une installation pour rétablir une situation conforme au droit est en principe soumis à un délai de prescription de trente ans (cf. <ref-ruling> consid. 1a p. 123).
Comme le souligne la décision attaquée, le présent litige ne concerne ainsi que quatre appartements, à savoir un 3 1⁄2 pièces et un 4 1⁄2 pièces au 1er étage ainsi qu'un 3 1⁄2 pièces et un 4 1⁄2 pièces au 3ème étage, le recourant ayant lui-même admis que la prescription trentenaire n'était pas acquise pour le 3 1⁄2 pièces au 4ème étage.
4. Le recourant reproche au Tribunal administratif d'avoir violé son droit d'être entendu. L'autorité cantonale se serait contentée de recueillir des pièces, sans entendre ni expert, ni témoin, ni effectuer de transport sur place.
4.1 Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. comprend le droit pour le justiciable de produire des preuves pertinentes et d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes (<ref-ruling> consid. 3 p. 157 et les arrêts cités).
4.2 Le recourant n'a jamais formellement requis ni l'audition de témoins ni un transport sur place, pas plus qu'il n'a sollicité la mise en oeuvre d'une expertise. Il ne peut dès lors pas reprocher à l'autorité intimée d'avoir refusé des moyens de preuve, et, partant, violé son droit d'être entendu.
Par ailleurs, si la procédure administrative est régie essentiellement par la maxime inquisitoire, les parties ont le devoir de collaborer à l'établissement des faits (<ref-ruling> consid. 2b p. 142) et l'autorité peut mettre un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction (<ref-ruling> consid. 2.1 p. 429 et les arrêts cités). Dans le cas particulier, l'autorité cantonale a manifestement estimé que les faits pertinents résultaient déjà des pièces en sa possession, à savoir notamment les états locatifs de 2005 et de 1979 ainsi que les informations recueillies auprès de l'Office cantonal de la population. Cette appréciation anticipée ne saurait être contestée. En effet, on ne discerne pas en quoi l'audition de témoins, une expertise et un transport sur place auraient permis de résoudre les questions litigieuses du cas d'espèce. Le grief doit par conséquent être rejeté.
5. Sur le fond, le recourant accuse la Cour cantonale d'avoir fait preuve d'arbitraire dans l'établissement des faits. L'appartement de 4 1⁄2 pièces au 1er étage aurait été occupé par le Dr B._ en 1974, de sorte que la prescription trentenaire serait acquise. L'appartement de 4 1⁄2 pièces au 3ème étage n'aurait par ailleurs pas subi de changement d'affectation, puisqu'il avait déjà à la fois une vocation de logement et de surface commerciale en 1974.
5.1 Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans l'établissement de celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte (<ref-law>), c'est-à-dire arbitraire (cf. FF 2001 p. 4135). L'existence de faits constatés de manière inexacte ou en violation du droit doit en outre être susceptible d'avoir une influence déterminante sur l'issue de la procédure (art. 97 al. 1 in fine LTF). Selon la jurisprudence, l'appréciation des preuves ou l'établissement des faits sont arbitraires (art. 9 Cst.; pour une définition de l'arbitraire cf. <ref-ruling> consid. 3.1 p. 153) lorsque l'autorité n'a manifestement pas compris le sens et la portée d'un moyen de preuve, si elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision ou lorsqu'elle tire des constatations insoutenables des éléments recueillis (<ref-ruling> consid. 2.1 p. 9; <ref-ruling> consid. 2a p. 41).
5.2 Le Tribunal administratif a relevé que l'appartement de 4 1⁄2 pièces au 1er étage était vacant selon l'état locatif à fin février 1979. Le seul locataire précédent qui avait pu être identifié était C._, qui y avait logé dès 1966.
Le recourant mentionne pour sa part la présence du Dr B._ en 1974. Il ressort en effet du dossier que ce dernier a occupé le 3 1⁄2 pièces au 1er étage dès 1961. Le recourant indique par erreur le 4 1⁄2 pièces au même étage; il ressort cependant du procès-verbal de comparution personnelle du 15 juin 2007 que c'est bien au 3 1⁄2 pièces que le recourant entendait se référer. Ainsi qu'en atteste la mention "P" sur l'état locatif de 1974, ce local était utilisé par le Dr B._ à des fins professionnelles, manifestement à titre de cabinet médical. La Cour cantonale et le recourant ne s'accordent certes pas quant à la nature de l'activité exercée par D._, présente dès 1976. L'exploitation d'un cabinet médical au même endroit par la locataire actuelle rend cependant peu probable une simple utilisation à des fins d'habitation dans l'intervalle. En ne retenant pas que la prescription était acquise pour cet objet, le Tribunal administratif a dès lors fait preuve d'arbitraire.
5.3 Le Tribunal administratif a retenu que l'appartement de 4 1⁄2 pièces au 3ème étage, actuellement occupé par E._, était occupé par F._ depuis 1968 et qu'au moins depuis 1974, la femme de ce dernier se servait d'une partie du logement comme cabinet d'esthétique.
Au vu du contrat de bail produit par le recourant, la destination de ces locaux est toujours mixte, ce qui n'est pas discuté. Dans ces conditions, le Tribunal administratif a fait preuve d'arbitraire en considérant que cette situation, perdurant depuis plus de trente ans, ne pouvait pas se poursuivre.
6. Le recourant fait encore valoir que le Tribunal administratif aurait violé le principe de la proportionnalité en exigeant le rétablissement de l'état antérieur pour les appartements occupés par G._ et H._. Les conséquences seraient catastrophiques sur le plan professionnel et économique pour ces derniers. H._ y exercerait en effet son activité depuis plus de vingt-six ans et la même analyse devrait être faite pour G._.
Vu les considérants qui précèdent (cf. consid. 5.2), le grief est sans objet s'agissant de l'appartement de G._, qui ne l'occupe au demeurant que depuis 1994. Pour le surplus, conformément aux observations du département, il n'y a de toute façon aucune raison de penser que l'intérêt du locataire ne sera pas suffisamment sauvegardé par les dispositions de droit privé relatives à la résiliation du bail. Le grief doit dès lors être rejeté.
7. Enfin, le recourant fait valoir qu'au moment du départ des locataires, la prescription trentenaire sera acquise. Un tel grief ne satisfait manifestement pas aux exigences de motivation des art. 42 et 106 LTF, de sorte qu'il doit être déclaré irrecevable.
8. Il s'ensuit que le recours est partiellement admis. La décision du département du 19 janvier 2007 est annulée en tant qu'elle concerne les appartements de 3 1⁄2 pièces au 1er étage et de 4 1⁄2 pièces au 3ème étage. La cause est en outre renvoyée au Tribunal administratif pour qu'il fixe un nouveau délai pour l'exécution de la remise en état et statue à nouveau sur les frais et les dépens de la procédure cantonale.
Vu l'issue du recours, il y a lieu de mettre un émolument judiciaire partiel à la charge du recourant (<ref-law>), dans la mesure où les frais de justice ne peuvent être exigés du canton de Genève (<ref-law>); ce dernier versera en revanche des dépens réduits au recourant qui obtient partiellement gain de cause (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis et la décision du département du 19 janvier 2007 est annulée en tant qu'elle concerne les appartements de 3 1⁄2 pièces au 1er étage et de 4 1⁄2 pièces au 3ème étage.
2. La cause est renvoyée au Tribunal administratif pour qu'il fixe un nouveau délai d'exécution et statue à nouveau sur les frais et dépens de l'instance cantonale.
3. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
4. Une indemnité de 2'000 fr., à payer au recourant à titre de dépens, est mise à la charge du canton de Genève.
5. Le présent arrêt est communiqué au mandataire du recourant, au Département des constructions et des technologies de l'information ainsi qu'au Tribunal administratif de la République et canton de Genève.
Lausanne, le 18 février 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Féraud Truttmann