Faits: A. A._ est propriétaire de la parcelle n° 7562 du registre foncier de Vésenaz, sur le territoire de la commune de Collonge-Bellerive (ci-après: la commune). Ce bien-fonds supporte un immeuble appelé "Maison forte de Vésenaz", qui a été déclaré monument classé par arrêté du Conseil d'Etat du canton de Genève du 1er juillet 1987. La commune est propriétaire de la parcelle voisine n° 8095, sur laquelle se trouve un bâtiment abritant des locaux commerciaux et administratifs. Le 28 juin 2001, la commune a requis du Département cantonal des constructions et des technologies de l'information (ci-après: le département) l'autorisation de transformer et agrandir l'immeuble sis sur la parcelle n° 8095. Accordée le 28 juin 2001, cette autorisation a été prolongée les 23 mars 2004 et 8 avril 2005. Le 29 septembre 2005, la commune a déposé une demande complémentaire portant sur l'agrandissement de l'attique du bâtiment et le prolongement d'un escalier. Cette autorisation complémentaire a été délivrée le 24 avril 2006. Le 13 février 2007, la société B._ a déposé une demande d'autorisation visant à l'aménagement d'un magasin de sport à l'intérieur du bâtiment en question, autorisation qui a été délivrée le 27 avril 2007 et publiée dans la feuille d'avis officielle le 4 mai 2007. A._ a recouru contre cette autorisation de construire auprès de la commission de recours en matière de construction (remplacée par la commission de recours en matière administrative [ci-après: la commission]). Le département ayant constaté que les installations de climatisation sur la toiture du bâtiment différaient de celles qui avaient été autorisées, il a ordonné à la commune de déposer une requête visant à la mise en conformité de ces installations. La commune a dès lors déposé une demande complémentaire d'autorisation de construire. Cette autorisation a été délivrée le 28 juillet 2008 et publiée dans la feuille d'avis officielle le 4 août 2008. Elle a également fait l'objet d'un recours de A._. Par décision du 12 décembre 2008, la commission a joint les deux recours de A._ et annulé les autorisations de construire des 27 avril 2007 et 28 juillet 2008. Elle a considéré en substance que les installations de ventilation et de climatisation en toiture étaient "tout à fait disproportionnées" par rapport au volume du bâtiment, de sorte qu'elles ne pouvaient pas bénéficier d'une autorisation sur la base de l'art. 11 de la loi cantonale du 14 avril 1988 sur les constructions et les installations diverses (LCI; RSG L 5 05). De plus, l'autorisation d'aménager le magasin devait être annulée, dans la mesure où le commerce ne pouvait pas fonctionner sans les installations en question. B. La commune a recouru contre cette décision auprès du Tribunal administratif du canton de Genève. Par arrêt du 4 août 2010, ce tribunal a partiellement admis le recours, annulé la décision de la commission et rétabli les autorisations de construire des 27 avril 2007 et 28 juillet 2008. Il a notamment considéré que les "monoblocs" comprenant les installations de ventilation et de climatisation s'inséraient dans le gabarit de toiture et que la bouche de ventilation restait comprise dans la hauteur maximale de 4,8 m prévue par l'art. 36 LCI. La commission avait donc appliqué à tort l'art. 11 LCI, aucune dérogation n'étant nécessaire en l'espèce. Le département avait par ailleurs respecté l'art. 15 LCI. Quant à l'autorisation du 27 avril 2007 relative à l'aménagement du magasin, elle avait également été annulée à tort, cet aménagement n'ayant pas nécessité la pose des installations litigieuses sur la toiture et les objets des deux autorisations de construire précitées étant indépendants l'un de l'autre. C. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler cet arrêt ainsi que les autorisations de construire des 27 avril 2007 et 28 juillet 2008, subsidiairement de renvoyer la cause au Tribunal administratif pour nouvelle décision. Il se plaint d'une violation de son droit d'être entendu (art. 29 al. 2 Cst.) et d'une application arbitraire des art. 11 et 15 LCI. Le Tribunal administratif a renoncé à se déterminer. La Commune de Collonge-Bellerive et le département ont présenté des observations, concluant au rejet du recours. B._ conclut également au rejet du recours.