Faits:
A. L'Etat de Genève est propriétaire de la parcelle n° 3192 de la commune de Carouge, à l'adresse 17, rue de la Tambourine. Cette parcelle est incluse dans le plan localisé de quartier 28566A-544 (ci-après: le PLQ), adopté par le Conseil d'Etat le 23 juin 1994.
Le PLQ adopté en 1994 prévoit notamment:
- la construction d'un bâtiment B, affecté prioritairement à la recherche, aux activités correspondant à celles déployées par l'institut Battelle, subsidiairement au logement. Son gabarit est R + 5 + S;
- un parking souterrain le long de la façade nord-ouest du bâtiment B, dont l'accès se fait depuis la route de Troinex par une rampe située à l'extrémité sud de cette façade. Ce parking est destiné à l'immeuble de logements de la Caisse de prévoyance du personnel enseignant de l'instruction publique et des fonctionnaires de l'administration du canton de Genève (ci-après: l'immeuble CIA), situé parallèlement à la façade nord-ouest du bâtiment B;
- un autre garage souterrain au sud-est du bâtiment B. L'emprise de celui-là s'étend sous les bâtiments voisins (R + 5 + S le long de la route de Troinex sur le PLQ). L'accès se fait depuis la route de Troinex par une rampe située à la moitié de la longueur de la façade sud-est du bâtiment B;
- du côté sud de l'immeuble B, un engazonnement et le maintien de quelques arbres existants.
B. Le 26 septembre 2007, le Département cantonal des constructions et des technologies de l'information (ci-après: le DCTI) a déposé une demande définitive d'autorisation de construire ayant pour objet la construction d'un bâtiment pour la Haute école de gestion (ci-après: la HEG) de Battelle et un parking souterrain de 77 places sur la parcelle susmentionnée. La construction projetée était l'immeuble B visé dans le PLQ.
Les éléments suivants ressortent notamment des plans déposés à l'appui de cette demande:
- sur le plan niveau -1 du 31 mars 2009: un parking souterrain le long de la façade sud-est du bâtiment B dont l'accès se fait, depuis la route de Troinex, par la même rampe que celle par laquelle on accède au garage souterrain de l'immeuble CIA;
- sur le plan de situation du 26 septembre 2007: la couverture du parking susmentionné, l'aménagement de trois îlots végétalisés, avec la mention du fait que le projet d'aménagement extérieur sera finalisé lorsque la modification du PLQ sera en force;
- sur le plan de situation daté du 31 mars 2009: la couverture du parking souterrain, l'aménagement d'environ 130 places de stationnement pour motos et vélos ainsi qu'une desserte routière destinée aux véhicules des transports publics genevois, se terminant par une boucle.
Le 26 septembre 2007 également, le DCTI a déposé une demande d'autorisation d'abattage d'arbres du Département cantonal du territoire (ci-après: le DT).
Lors de l'instruction de la requête en autorisation de construire, les préavis suivants ont notamment été recueillis:
- le 12 novembre 2007, la ville de Carouge a préavisé favorablement le projet, conforme au PLQ, sous réserve de l'adoption du nouveau PLQ mentionné dans la requête en autorisation de construire;
- le 3 décembre 2007, le service des monuments et des sites (DCTI) n'a pas formulé d'objections, relevant que le bâtiment s'inscrivait dans la nouvelle image étudiée pour la modification du PLQ;
- le 17 février 2007, la commission d'architecture (DCTI) s'est déclarée favorable au projet;
- le 15 janvier 2009, le service de l'aménagement (DCTI) a émis un préavis favorable sous réserve, relevant que l'implantation du bâtiment était conforme à l'alignement fixé dans le PLQ. Toutefois, compte tenu du gabarit, une servitude de distance et vue droite était nécessaire pour respecter la distance aux limites de propriété. Par ailleurs, les dimensions du bâtiment étaient légèrement supérieures à celles prévues par le PLQ. Une dérogation était parfaitement envisageable car les droits à bâtir étaient répartis par affectation et non par bâtiment;
- le 10 septembre 2008, le domaine nature et paysage (DCTI) a émis un préavis favorable sous réserve des conditions mises à l'autorisation d'abattage;
- le 6 octobre 2008, la direction générale de la mobilité (DCTI) a émis un préavis favorable, sous réserve que les PLQ en cours d'élaboration matérialisent une réservation pour la mise à l'heure du bus.
Le 6 novembre 2007, l'Association A._ a adressé ses observations au DCTI. Elle demandait pour l'essentiel la modification du projet et la reconsidération du plan d'abattage d'arbres.
C. Par décision du 5 mai 2009, le DCTI a délivré l'autorisation de construire sur la parcelle n° 3192. Le même jour, le DT, devenu entre temps le département de l'intérieur et de la mobilité (ci-après: le DIM), a autorisé l'abattage des arbres selon le plan annexé à la requête, assortie de l'obligation de replanter des arbres pour un montant d'au moins 150'000 fr.
L'Association A._ et consorts ont déposé un recours contre les deux autorisations précitées auprès de la commission cantonale de recours en matière administrative (ci-après: la commission cantonale), qui les a déboutés le 16 décembre 2010.
Par arrêt du 26 juillet 2011, la Chambre administrative de la Cour de justice du canton de Genève (ci-après: la Cour de justice) a rejeté le recours de l'Association A._ et consorts contre la décision de la commission cantonale du 16 décembre 2010, considérant en substance que la modification de l'emprise du parking souterrain pouvait être acceptée comme étant constitutive d'une modification mineure du PLQ.
D. Agissant par la voie du recours en matière de droit public, l'Association A._ ainsi que B._ et consorts demandent au Tribunal fédéral d'annuler l'arrêt de la Cour de justice du 26 juillet 2011 et de renvoyer la cause à cette autorité pour qu'elle annule les autorisations de construire et d'abattage d'arbres du 5 mai 2009. Subsidiairement, les recourants concluent à l'annulation des autorisations de construire et d'abattage d'arbres précitées. Ils se plaignent d'une constatation incomplète des faits, d'une application arbitraire du droit cantonal ainsi que d'une violation de leur droit d'être entendu et du droit fédéral.
La Cour de justice s'en rapporte à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt. Le DIM et le DCTI concluent au rejet du recours. Les recourants ont répliqué le 8 novembre 2011; ils persistent dans leurs conclusions.
Par ordonnance du 10 octobre 2011, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif contenue dans le recours.

Considérant en droit:
1. Dirigé contre une décision confirmant en dernière instance cantonale l'octroi d'une autorisation de construire, sans qu'aucune des exceptions prévues à l'<ref-law> ne soit réalisée, le recours est en principe recevable comme recours en matière de droit public au sens des <ref-law>.
B._ et consorts ont pris part à la procédure devant l'autorité précédente. Ils sont particulièrement touchés par l'arrêt attaqué qui autorise la construction du parking souterrain litigieux, sis sur la parcelle voisine, et qui entraînerait certaines restrictions à leurs droits de propriété (cf. <ref-ruling> consid. 1.3.3 p. 253 s.). Ils disposent ainsi de la qualité pour recourir en vertu de l'<ref-law>. La qualité pour agir de l'Association A._ peut dès lors rester indécise, comme elle l'a été devant la Cour de justice.
2. Dans leur réplique du 8 novembre 2011, les recourants estiment qu'il serait le cas échéant utile, dans le cadre de la présente procédure, que le juge rapporteur convoque les parties sur place, à Carouge. Dans la mesure où il s'agirait d'une requête d'inspection locale et d'audition des parties, il n'y a pas lieu d'y donner suite, le Tribunal fédéral s'estimant suffisamment renseigné pour statuer sur la base du dossier, lequel comprend notamment plusieurs plans des constructions projetées.
3. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, les recourants se plaignent d'une violation de leur droit d'être entendus. Ils reprochent à la Cour de justice de s'être estimée liée par les préavis des autorités inférieures et de les priver ainsi d'un double degré de recours formellement prévu par le droit cantonal et fédéral. Ces critiques ne sont toutefois pas pertinentes en relation avec le droit d'être entendu, lequel comprend le droit pour l'intéressé de prendre connaissance du dossier, de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 2.2 p. 504 s.; <ref-ruling> consid. 2b p. 56; <ref-ruling> consid. 2a/aa p. 16 et les arrêts cités). Quoi qu'il en soit, même si les juges cantonaux observent une certaine retenue pour éviter de substituer leur propre appréciation à celle des commissions de préavis, pour autant que l'autorité inférieure suive l'avis de celles-ci, ils sont libres de s'écarter ou de suivre ces préavis. En l'occurrence, la Cour de justice n'a pas fondé sa décision en se basant uniquement sur les préavis exprimés par les commissions concernées, elle a simplement relevé, à l'appui de son raisonnement, que les préavis recueillis par le DCTI étaient positifs (cf. consid. 7 de l'arrêt attaqué). Le présent grief doit par conséquent être rejeté.
4. Les recourants font valoir une constatation inexacte des faits.
4.1 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Le recourant ne peut critiquer ceux-ci que s'ils ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.3 p. 62) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), ce qu'il lui appartient d'exposer et de démontrer de manière claire et circonstanciée. La correction du vice soulevé doit en outre être susceptible d'influer sur le sort de la cause (<ref-law>). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. <ref-ruling> consid. 3 p. 104 s; <ref-ruling> consid. 1.4 p. 254 s; <ref-ruling> consid. 2.1 p. 120).
4.2 En l'espèce, les recourants observent que l'arrêt attaqué ne mentionne pas la surface du parking souterrain litigieux. Cette question serait toutefois déterminante pour apprécier la validité d'une dérogation au PLQ en vigueur. Or, comme ils le relèvent eux-mêmes, les juges cantonaux ont rapporté, dans la partie en fait de leur arrêt, que la surface en question était, selon les recourants, de 1'647,22 m2, respectivement 1'693,53 m2 après nouveau calcul. Aucune partie ne conteste cette mesure de surface. Il apparaît de toute façon qu'une correction de l'arrêt sur ce point ne serait pas susceptible d'influer sur le sort de la cause (cf. consid. 5.2).
4.3 Les recourants reprochent ensuite à la Cour de justice une lecture erronée du PLQ. Celle-ci aurait repris une déclaration incorrecte de la commission cantonale en considérant que le PLQ n'impose pas de localisation précise pour le parking souterrain. A leur avis, le PLQ prévoit au contraire très exactement les surfaces d'emprise des constructions en sous-sol. Le projet contesté, enfreignant massivement le PLQ en vigueur, n'utiliserait aucune des emprises prévues pour la construction du parking en sous-sol, mais une parcelle importante que le PLQ destine à laisser en pleine terre, arborisée et végétalisée. Il ressort toutefois de l'arrêt attaqué que les juges cantonaux ne font pas une lecture du PLQ différente de celle des recourants, puisqu'ils indiquent que l'emprise du parking projeté n'est assurément pas celle qui était prévue par le PLQ. D'ailleurs, dans la partie en fait, ils exposent que le PLQ planifie un parking souterrain le long de la façade nord-ouest du bâtiment B et un autre au sud-est du bâtiment B, dont l'emprise s'étend sous les bâtiments voisins. Puis ils détaillent les plans de la demande d'autorisation de construire, laquelle prévoit un parking souterrain le long de la façade sud-est du bâtiment B. Les critiques des recourants sont donc infondées.
Il résulte de ce qui précède que le présent grief doit être rejeté. Le Tribunal fédéral est par conséquent lié par les faits retenus dans l'arrêt attaqué conformément à l'<ref-law>.
5. Les recourants font grief à la Cour de justice d'avoir procédé à une application arbitraire de l'art. 3 al. 4 de la loi générale du 29 juin 1957 sur les zones de développement (ci-après: la LGZD).
Selon cette disposition, les projets de construction établis selon les normes d'une zone de développement doivent être conformes aux plans localisés de quartier en vigueur. Toutefois, lors du contrôle de conformité des requêtes en autorisation de construire avec le plan localisé de quartier, le DCTI peut admettre que le projet s'écarte du plan dans la mesure où la mise au point technique du dossier ou un autre motif d'intérêt général le justifie.
5.1 Le Tribunal fédéral ne revoit l'interprétation et l'application du droit cantonal que sous l'angle de l'arbitraire. Il ne s'écarte de la solution retenue que si celle-ci se révèle insoutenable, en contradiction manifeste avec la situation effective, ou si elle a été adoptée sans motifs objectifs et en violation d'un droit certain, ce qu'il appartient au recourant de démontrer par une argumentation qui réponde aux exigences des art. 42 al. 2 et 106 al. 2 LTF (cf. <ref-ruling> consid. 3 p. 351 s.; <ref-ruling> consid de 1.4.2 p. 254 et les références). Le recourant doit ainsi indiquer précisément quelle disposition constitutionnelle ou légale a été violée et démontrer par une argumentation précise en quoi consiste la violation. En outre, si l'interprétation défendue par la cour cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, elle sera confirmée, même si une autre solution paraît également concevable, voire préférable (<ref-ruling> consid. 5.1 p. 17).
5.2 En l'espèce, c'est de façon arbitraire que, selon les recourants, la Cour de justice a considéré que le DCTI était en droit de prévoir une dérogation au PLQ, en application de l'art. 3 al. 4 LGZD. Ils estiment en effet, jurisprudence cantonale à l'appui, que le fait de remplacer une surface verte et végétalisée en pleine terre par un parking souterrain constitue une modification très importante du PLQ qui ne saurait être autorisée sur la base de cette disposition.
La Cour de justice a rappelé que la teneur actuelle de l'art. 3 al. 4 LGZD ne modifiait pas fondamentalement la marge d'appréciation laissée au DCTI. Cette disposition légale devait en effet s'interpréter de façon à ne pas vider le PLQ de sa substance. En acceptant par le biais d'une autorisation de construire une modification importante du PLQ, la procédure d'adoption des plans d'affectation telle que prévue par le droit fédéral de l'aménagement du territoire ne serait assurément pas respectée. En conséquence, seules des modifications peu importantes pouvaient être autorisées. Ainsi, les juges cantonaux avaient déjà jugé que le déplacement d'un bâtiment d'un mètre, l'agrandissement de 159 m2 d'un attique, la création de 19 places de parc au lieu de 21 prévues par le PLQ ou une augmentation de la hauteur du gabarit de 2,70 m étaient des dérogations mineures du PLQ. De même, la création d'un parking souterrain constituait une dérogation admissible en raison de l'intérêt public prépondérant à assurer une circulation fluide et à offrir aux habitants d'immeubles la possibilité de se parquer, nonobstant le fait que ce parking était prévu sous une surface devant rester non bâtie. Enfin, une emprise supplémentaire de 100 m2 de parking souterrain n'avait pas été considérée comme une modification mineure, mais avait toutefois été admise au vu des circonstances particulières du cas. Les recourants ne remettent pas en cause cette jurisprudence, mais estiment que la Cour de justice ne la respecte pas en admettant dans la présente affaire une modification mineure du PLQ.
Dans le cas d'espèce, la Cour de justice a constaté que l'emprise du parking projeté n'était effectivement pas celle qui était prévue par le PLQ. Celui-ci prévoyait un garage souterrain devant les immeubles R+5+S le long de la route de Troinex, auquel on accédait par une rampe située au milieu de la façade sud du bâtiment B. Des explications fournies par le DCTI, il était établi que cet ouvrage ne serait pas réalisé dans la mesure où il était surdimensionné par rapport à l'évolution du PLQ. Cette modification avait entre autres pour conséquence la suppression de la rampe d'accès décrite ci-avant. Ce nouvel aménagement du parking ne devait pas être apprécié uniquement pour lui-même, mais replacé dans le contexte dans lequel il s'inscrivait. A cet égard, il apparaissait que le parking querellé ne faisait que remplacer un autre parking prévu par le PLQ, que son impact visuel était nul et que les préavis recueillis par le DCTI étaient positifs. A cela, il convient d'ajouter que la surface du parking projeté sera largement inférieure à celle qui était prévue initialement sous les quatre bâtiments situés le long de la route de Troinex et que l'entrée au garage se fera par la rampe d'accès au parking souterrain déjà existante, ce qui aura pour conséquence que la circulation sera nettement diminuée autour de la place centrale située au sud de l'immeuble B. Dans ces conditions, il n'est pas insoutenable de considérer, comme l'a fait la Cour de justice, que la modification de l'emprise du parking souterrain constitue une modification mineure du PLQ. Mal fondé, le recours doit être rejeté sous cet angle.
5.3 Les recourants exposent que le PLQ en vigueur, à l'emplacement où est prévu le parking souterrain, impose un espace en pleine terre, végétalisé et arborisé. Sept arbres seraient abattus en dérogation au PLQ. Par ailleurs, le fait que la construction du parking souterrain prévu par le PLQ sous les immeubles R+5+S soit abandonnée ne permettrait pas de compenser la perte de cette surface verte.
La Cour de justice a relevé que, sur le plan de situation du 26 septembre 2007, l'aménagement de trois îlots végétalisés était prévu, ainsi que le maintien de plusieurs arbres existants. Le plan de situation définitif du 31 mars 2009 prévoyait sur la couverture du parking l'aménagement d'environ 130 places de stationnement pour motos et vélos ainsi qu'une desserte routière destinée aux véhicules des TPG, dans l'optique future de leur entrée sur le site. La question de savoir si l'aménagement de la toiture du parking pouvait être considérée comme une dérogation mineure au PLQ souffrait de rester indécise. En effet, elle était admissible au motif de l'intérêt général en ce qu'elle favorisait le développement de la mobilité douce d'une part et le recours aux transports publics d'autre part.
Dans sa réponse, le Département de l'intérieur et de la mobilité (DIM) explique que le PLQ n'est pas d'une grande précision concernant la végétation et que, de toute façon, l'écart entre l'autorisation octroyée et le PLQ est minime puisqu'il ne concernerait que trois arbres, lesquels ne constituent, selon le service spécialisé, ni des éléments majeurs du paysage, ni des arbres remarquables. Des mesures de compensation ont par ailleurs été imposées, puisque l'autorisation d'abattage des arbres est assortie de l'obligation de replanter des arbres pour 150'000 fr. à proximité du site. Le DCTI relève au demeurant que le préavis des autorités compétentes en la matière est favorable. Il s'ensuit que l'aménagement de la couverture du parking litigieux et l'abattage des arbres constitue également une dérogation mineure au PLQ et que la Cour de justice pouvait, sans tomber dans l'arbitraire, conclure qu'elle était justifiée par un motif d'intérêt général. Le grief tiré d'une application arbitraire de l'art. 3 al. 4 LGZD doit dès lors également être rejeté sur ce point.
6. Dans un dernier grief, les recourants dénoncent une violation des art. 21 à 23 de la loi fédérale du 22 juin 1979 sur l'aménagement du territoire (LAT; RS 700). Ils font valoir que le PLQ a force obligatoire pour chacun et que le droit cantonal ne peut pas, sous prétexte de dérogation, le vider de son contenu. Au vu des modifications importantes du PLQ occasionnées par le projet litigieux, l'autorité compétente aurait dû en premier lieu modifier le plan de quartier, puis, ultérieurement seulement, délivrer une autorisation de construire conforme à ce nouveau plan d'affectation.
Ces critiques tombent à faux puisque, comme il a été vu au consid. 5 ci-dessus, les modifications contenues dans le projet litigieux constituent des dérogations mineures au PLQ qui ne s'opposent pas, en l'espèce, à l'octroi de l'autorisation de construire contestée. Au demeurant, il sied de relever que l'art. 23 LAT dispose que le droit cantonal règle les exceptions prévues à l'intérieur de la zone à bâtir. Or, comme le fait remarquer le DCTI dans ses observations, c'est précisément en application des art. 21ss LAT que l'art. 3 al. 4 LGZD a été adopté, et les recourants ne contestent pas la conformité au droit fédéral de cette disposition. Il s'ensuit que l'autorisation de construire litigieuse, fondée sur l'art. 3 al. 4 LGZD, ne consacre pas une violation des art. 21 à 23 LAT.
7. Il résulte de ce qui précède que le recours, entièrement mal fondé, doit être rejeté, aux frais des recourants qui succombent (art. 66 al. 1 et 5 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, fixés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Le présent arrêt est communiqué au mandataire des recourants, au Département des constructions et des technologies de l'information, au Département de l'intérieur et de la mobilité et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lausanne, le 22 décembre 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Mabillard