Faits:
A. Propriétés de Y._ Sàrl, les parcelles nos 2'033 et 2'673 du cadastre de la commune de Choulex sont toutes deux affectées en partie en zone 4B protégée de village et en partie en zone agricole. Par décision du 19 février 2010, le Département des constructions et des technologies de l'information (actuellement le Département de l'urbanisme, DU) a délivré une autorisation de construire sur ces parcelles un immeuble de deux niveaux comportant plusieurs logements, conformément au sixième projet présenté par la propriétaire. Par décision du même jour, le Département du territoire (actuellement le Département de l'intérieur, de la mobilité et de l'environnement, DIME) a autorisé l'abattage d'un arbre situé sur la parcelle n° 2'033.
Plusieurs opposants à ce projet, dont X._, ont recouru sans succès contre ces décisions auprès de la commission cantonale de recours en matière administrative.
Saisie à son tour, la Chambre administrative de la Cour de justice a, par arrêt du 15 mai 2012, confirmé l'octroi des autorisations de construire et d'abattage d'un arbre. Elle a constaté que le bâtiment projeté serait édifié entièrement dans la zone à bâtir.
B. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral d'annuler l'arrêt de la Chambre administrative du 15 mai 2012, l'intimée étant déboutée de toute autre conclusion. Subsidiairement, il conclut à l'annulation de la décision entreprise et au renvoi de la cause pour nouvelle décision dans le sens des considérants. Il requiert en outre l'effet suspensif. La Cour de justice n'a aucune observation à formuler. Le DU, le DIME et l'intimée concluent au rejet du recours. Le recourant a renoncé à déposer des observations complémentaires.
Par ordonnance du 6 septembre 2012, le Président de la Ire Cour de droit public a rejeté la demande d'effet suspensif.

Considérant en droit:
1. Dirigé contre une décision finale (<ref-law>) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans le domaine du droit public des constructions (<ref-law>), le recours de droit public est en principe recevable, aucune des exceptions prévues à l'<ref-law> n'étant réalisée. Le recourant a pris part à la procédure de recours devant le Tribunal cantonal. Il est particulièrement touché par l'arrêt attaqué qui confirme l'octroi d'une autorisation de construire sur des parcelles qui se trouvent à proximité immédiate des siennes. Il peut ainsi se prévaloir d'un intérêt digne de protection à ce que cette décision soit annulée. Il a donc qualité pour agir au sens de l'<ref-law>. Les autres conditions de recevabilité du recours en matière de droit public sont réunies, si bien qu'il y a lieu d'entrer en matière sur le fond.
2. Le recourant se plaint tout d'abord d'une violation de son droit d'être entendu. Il fait grief à la cour cantonale de ne pas lui avoir donné de délai pour se déterminer sur les dernières observations présentées par les autres parties à la procédure.
2.1 Compris comme l'un des aspects de la notion générale de procès équitable au sens des art. 29 Cst. et 6 CEDH, le droit d'être entendu garantit notamment le droit pour une partie à un procès de prendre connaissance de toute argumentation présentée au tribunal et de se déterminer à son propos, que celle-ci contienne ou non de nouveaux éléments de fait ou de droit, et qu'elle soit ou non concrètement susceptible d'influer sur le jugement à rendre. Il appartient en effet aux parties, et non au juge, de décider si une prise de position ou une pièce nouvellement versée au dossier contient des éléments déterminants qui appellent des observations de leur part. Ce droit à la réplique vaut pour toutes les procédures judiciaires. Toute prise de position ou pièce nouvelle versée au dossier doit dès lors être communiquée aux parties pour leur permettre de décider si elles veulent ou non faire usage de leur faculté de se déterminer (<ref-ruling> consid. 2 p. 197 s.; <ref-ruling> consid. 4.5 p. 103; <ref-ruling> consid. 2.2 p. 99; <ref-ruling> consid. 3.3 p. 45 ss; cf. en outre les arrêts de la Cour européenne des droits de l'homme dans les causes Schaller-Bossert contre Suisse du 28 octobre 2010 § 39 s. et Nideröst-Huber contre Suisse du 18 février 1997, Recueil CourEDH 1997-I p. 101 § 24).
La Cour européenne des droits de l'homme s'est récemment penchée sur la pratique consistant, au terme de l'instruction, à envoyer aux parties copie d'écritures "pour information" sans qu'un délai soit expressément imparti pour d'éventuelles déterminations et sans indication de l'échéance à laquelle le tribunal entend rendre sa décision. Elle a admis qu'au départ, le justiciable risquait d'interpréter cette formule en ce sens qu'aucun commentaire complémentaire sur l'affaire ne pouvait être apporté, mais a toutefois considéré que la jurisprudence explicite du Tribunal fédéral dès l'ATF <ref-ruling> permettait désormais à la partie de comprendre qu'elle a la faculté soit de requérir le droit de soumettre ses déterminations, soit de les présenter directement. Dans le cas en question, la Cour européenne a souligné le fait que le recourant, bien que non représenté, était lui-même avocat et était ainsi réputé connaître la pratique dictée par la jurisprudence fédérale précitée. Ainsi, son droit d'être entendu n'avait pas été violé alors que des déterminations de deux pages lui avaient été transmises "pour information" et que la cause avait été jugée plus de trois semaines plus tard (arrêt Joos contre Suisse du 15 novembre 2012).
2.2 En l'espèce, après une visite des lieux par le juge délégué en présence des parties le 5 décembre 2011, la cour cantonale leur a adressé, par courrier du même jour, un procès-verbal de cette séance pour signature. A cette occasion, elle leur a imparti un délai au 20 janvier 2012 pour présenter des observations finales, précisant que suite à cela "la cause sera gardée à juger". Par correspondance du 20 janvier 2012, le recourant a adressé à la Cour de justice ses déterminations, qu'il a lui-même qualifiées d' "ultimes observations". Les écritures des autres parties lui sont parvenues en deux courriers des 25 et 26 janvier, par lesquels la cour cantonale informait une nouvelle fois les parties que la cause était "gardée à juger". L'arrêt a été rendu le 15 mai 2012 et notifié aux parties le 7 juin suivant.
Le recourant, lui-même avocat, ne saurait se prévaloir abusivement de la formule utilisée par la Cour de justice. Au moment déjà où elle a imparti un délai pour présenter des observations finales, la cour cantonale a exposé aux parties que la cause serait ensuite gardée à juger. A ce stade, le recourant a déposé ses observations sans requérir de pouvoir répondre encore aux écritures des autorités concernées. Ces diverses écritures, sitôt déposées, ont été transmises au recourant, certes sans l'inviter explicitement à se déterminer, mais sans le lui interdire non plus. L'arrêt n'a été rendu que près de quatre mois plus tard, de sorte que le recourant aurait largement eu le temps, s'il l'avait souhaité, de présenter spontanément des observations complémentaires ou à tout le moins de requérir qu'un délai lui soit accordé pour ce faire.
Les états de faits des arrêts auxquels le recourant se réfère pour faire valoir la violation de son droit d'être entendu, divergent du cas d'espèce. Ainsi, dans l'arrêt 5A_779/2010 du 1er avril 2011, l'autorité intimée n'avait pas même communiqué à l'intéressé les déterminations et autres documents versés au dossier. Dans l'arrêt 8C_104/2012 du 26 juin 2012, la partie n'était pas représentée par un avocat. Enfin, l'arrêt 1B_257/2012, qui applique une jurisprudence établie de longue date (cf. arrêt 1P.541/2002 du 8 novembre 2002 consid. 2.1.2), concerne un cas de détention provisoire. La particularité d'une telle procédure qui doit être menée promptement ne permet pas de laisser le dossier dans l'attente incertaine d'une éventuelle détermination de la partie concernée. En résumé, contrairement aux affaires susmentionnées, on ne saurait voir dans le cas d'espèce de violation du droit d'être entendu (cf. arrêts 1C_461/2010 du 31 janvier 2011; 8D_2/2010 du 24 janvier 2011; 8D_4/2009 du 3 mars 2010).
3. Le recourant se plaint d'une application arbitraire du droit cantonal, en particulier de l'art. 20 al. 1 de la loi genevoise du 4 juin 1987 d'application de la loi fédérale sur l'aménagement du territoire (LaLAT/GE; RS GE L 1 30) relatif aux constructions et installations autorisées en zone agricole. Le bâtiment litigieux serait si proche de la zone agricole que ses aménagements extérieurs empiéteraient forcément sur celle-ci. Le recourant fait notamment référence à la pose d'un dallage, aux clôtures qui délimiteront les jardins ainsi qu'à d'autres installations telles que barbecues en pierre, cabanes de jardin et autres aménagements d'agrément.
3.1 Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Selon l'<ref-law>, il ne peut s'en écarter que si les constatations de ladite autorité ont été établies en violation du droit au sens de l'<ref-law> ou de façon manifestement inexacte, c'est-à-dire arbitraire (<ref-law>) et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 2.4 p. 314). Si le recourant entend se prévaloir de constatations de faits différentes de celles de l'autorité précédente (cf. <ref-law>), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées. A défaut, il n'est pas possible de tenir compte d'un état de fait divergent de celui retenu dans l'acte attaqué. En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 3 p. 104 et les arrêts cités).
3.2 Le recourant expose en première partie de son recours qu'il ne critique pas les faits tels que retenus dans l'arrêt attaqué. Faisant valoir le grief d'arbitraire dans l'application du droit cantonal, il présente toutefois des faits (ou des suppositions) qui ne ressortent pas de cet arrêt. Celui-ci retient en effet que le projet de construction adopté est entièrement situé en zone à bâtir, la façade principale nord du bâtiment étant construite à 1,20 m de la zone agricole et que le permis de construire a été délivré à la condition impérative qu'aucun aménagement n'empiète sur la zone agricole (arrêt attaqué consid. 20 et 30). L'argumentation du recourant, dans la mesure où elle s'écarte des faits établis dans l'arrêt attaqué, sans prétendre que ceux-ci seraient manifestement inexacts ou arbitraires, apparaît irrecevable, le Tribunal fédéral n'étant pas une instance d'appel (<ref-ruling> consid. 3 p. 104 s.; <ref-ruling> consid. 5.2.2 p. 322).
4. Il résulte de ce qui précède que le recours doit être rejeté, dans la mesure de sa recevabilité, aux frais du recourant (<ref-law>). Il versera en outre une indemnité de dépens à l'intimée, qui obtient gain de cause avec l'assistance d'un avocat (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Une indemnité de 2'000 fr. est allouée à l'intimée à titre de dépens, à la charge du recourant.
4. Le présent arrêt est communiqué aux mandataires des parties, au Département de l'urbanisme de la République et canton de Genève, au Département de l'intérieur, de la mobilité et de l'environnement de la République et canton de Genève, et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lausanne, le 6 décembre 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Sidi-Ali