Faits:
A. A._ et B._ sont propriétaires de la parcelle 3891 de la commune de Thônex, située en zone de développement 4A. Ils habitent la villa individuelle construite sur leur terrain.
La Fondation C._ est propriétaire de la parcelle 3890 de la commune de Thônex, également située en zone de développement 4A. Le bâtiment qui y est sis est mentionné comme "digne de protection" selon le recensement architectural et des sites du canton de Genève et a fait l'objet d'un agrandissement autorisé le 11 avril 2006. Il est affecté à un foyer pour adolescents.
B. Le 17 mars 2008, le Département cantonal du territoire, donnant suite à une demande de renseignements de la Fondation de la Commune de Thônex pour le logement (ci-après: la Fondation) afin de réaliser des immeubles de logements, un garage souterrain et un parking, a élaboré un avant-projet de plan localisé de quartier (PLQ) situé à l'avenue de Thônex, à la hauteur du chemin de Clair-Val. Ce PLQ englobe les parcelles 3346, 3347, 3401, 3409, 3410, 3412, 3413 et 3891. La Fondation est propriétaire de quatre de ces parcelles. Le plan prévoit la construction de trois immeubles affectés pour l'essentiel à du logement. Il prévoit en outre la cession gratuite d'une bande de terrain aux fins de l'élargissement du domaine public cantonal, soit l'avenue de Thônex; les parcelles 3891 et 3346 sont concernées par cette cession. Le plan ne comprend pas la parcelle 3890.
Le 4 juin 2008, l'Office cantonal de la mobilité a rendu un préavis favorable au projet, avis réitéré le 31 mars 2009 par la Direction générale de la mobilité tout en tenant compte des dispositions réglementaires modifiées en matière de places de stationnement. Le 23 mai 2008, le Service cantonal de protection contre le bruit et les rayonnements non ionisants a également rendu un préavis favorable. Le 19 juin 2008, la Commission de l'urbanisme du Département cantonal du territoire s'est déclarée favorable au projet, tout en demandant d'inclure la parcelle 3890 dans le périmètre du PLQ: l'Etat pourrait promouvoir du logement et il serait judicieux d'intégrer dans les premiers niveaux du futur immeuble les activités sociales menées dans la maison existante.
Le Conseil municipal a rendu un préavis favorable au projet le 3 mars 2009.
A._ et B._ se sont opposés au projet.
Par courrier des 14 mai et 18 juin 2009, la commune de Chêne-Bougeries a fait part de son regret de ce que la parcelle 3890 ne soit pas incluse dans le périmètre du plan, hypothéquant ainsi la possibilité d'élargissement de l'avenue de Thônex jusqu'au carrefour des avenues Petit-Senn et Adrien-Jeandin. La commune précisait néanmoins ne pas être opposée au projet.
Le Conseil d'Etat a adopté le PLQ par arrêté du 26 août 2009 et a levé les oppositions.
C. Par arrêt du 11 janvier 2011, la Chambre administrative de la Cour de justice du canton de Genève (ci-après: la Cour de justice) a rejeté le recours des époux A._ et B._ contre l'arrêté précité. Elle a considéré en substance que le grief d'inégalité de traitement devait être écarté et que la cession gratuite au domaine public d'une portion de la parcelle 3891 était fondée.
D. Agissant par la voie du recours en matière de droit public, A._ et B._ demandent au Tribunal fédéral d'annuler l'arrêt de la Cour de justice du 11 janvier 2011. Ils se plaignent pour l'essentiel d'une constatation inexacte des faits pertinents, d'une application arbitraire du droit cantonal relatif aux cessions gratuites ainsi que d'une violation de la garantie de la propriété et du principe de l'égalité de traitement.
La Cour de justice s'en rapporte à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt. Le Conseil d'Etat s'en rapporte également à justice en ce qui concerne la recevabilité du recours et conclut à la confirmation de l'arrêt attaqué. La Fondation conclut au rejet du recours. Les recourants ont répliqué le 8 juin 2011; ils persistent dans les conclusions de leur recours.
Par ordonnance du 18 mars 2011, le Président de la Ire Cour de droit public a rejeté la requête d'effet suspensif contenue dans le recours.
Considérant en droit:
1. Dirigé contre une décision finale (art. 90 LTF) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans le domaine du droit public de l'aménagement du territoire (art. 82 let. a LTF), le recours est en principe recevable comme recours en matière de droit public selon les art. 82 ss LTF, aucune des exceptions prévues à l'art. 83 LTF n'étant réalisée. Les recourants ont pris part à la procédure de recours devant la Cour de justice. En tant que propriétaires d'une parcelle comprise dans le périmètre du plan de quartier litigieux, ils sont particulièrement touchés par l'arrêt attaqué et ont manifestement qualité pour recourir au sens de l'art. 89 al. 1 LTF. Les autres conditions de recevabilité sont par ailleurs réunies, si bien qu'il y a lieu d'entrer en matière.
2. Les recourants se plaignent d'un établissement des faits manifestement inexact et d'une violation de leur droit d'être entendus.
2.1 Le droit d'être entendu garanti à l'art. 29 al. 2 Cst. comprend notamment celui de faire administrer les preuves pour autant que celles-ci soient requises dans les formes prévues par le droit cantonal et qu'elles apparaissent utiles à l'établissement des faits pertinents (ATF 129 II 497 consid. 2.2 p. 504; 127 I 54 consid. 2b p. 56; 126 I 97 consid. 2b p. 102). L'autorité de décision peut donc se livrer à une appréciation anticipée de la pertinence du fait à prouver et de l'utilité du moyen de preuve offert et, sur cette base, refuser de l'administrer. Ce refus ne viole le droit d'être entendu que si l'appréciation à laquelle elle a ainsi procédé est entachée d'arbitraire (ATF 131 I 153 consid. 3 p. 157 et les arrêts cités; sur la notion d'arbitraire, voir ATF 132 I 13 consid. 5.1 p. 17).
Par ailleurs, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Le recourant ne peut critiquer ceux-ci que s'ils ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 134 V 53 consid. 4.3 p. 62) - ou en violation du droit au sens de l'art. 95 LTF (art. 97 al. 1 LTF), ce qu'il lui appartient d'exposer et de démontrer de manière claire et circonstanciée. La correction du vice soulevé doit en outre être susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. ATF 136 II 101 consid. 3 p. 104 s; 133 II 249 consid. 1.4 p. 254 s; 129 I 113 consid. 2.1 p. 120).
2.2 Les recourants estiment qu'en leur refusant un transport sur place, qui aurait permis de poursuivre l'instruction et d'établir complètement les faits, les juges cantonaux auraient violé leur droit d'être entendus. Dans son arrêt, la Cour cantonale a expliqué qu'au vu des éléments à sa disposition, cette mesure n'était pas nécessaire et que le dossier était en état d'être jugé. Les recourants n'expliquent pas en quoi le refus de la Cour de justice de procéder à une inspection locale serait constitutif d'arbitraire et c'est de toute façon en vain qu'ils soutiennent que les faits sur lesquels se sont basés les juges cantonaux seraient manifestement inexacts (cf. consid. 2.3 ci-dessous). La Cour cantonale pouvait dès lors, sans violer leur droit d'être entendus, renoncer à organiser une vision locale.
2.3 Quant à l'établissement des faits pertinents, la Cour de justice a retenu que les cessions au bénéfice du domaine public cantonal étaient prévues afin de permettre l'aménagement de l'avenue de Thônex desservant le quartier destiné à prendre de l'ampleur, conformément au plan directeur cantonal. Dans ce contexte, les aménagements servaient tant à l'amélioration générale de l'accès au quartier qu'à celle des immeubles envisagés, en prévoyant des accès adéquats sur ladite voie de communication.
Les recourants estiment que cette manière d'établir et d'apprécier les faits est arbitraire au sens de l'art. 97 al. 1 LTF. A leur avis, la cession gratuite d'une partie de leur parcelle vise bien plus à élargir l'avenue de Thônex et assurer ainsi la fluidité du trafic en direction de la route Blanche. Ils se réfèrent à l'arrêté du Conseil d'Etat du 26 août 2009 rejetant leur opposition, lequel affirmait que cette mesure était destinée à améliorer le trafic général. Ils soulignent par ailleurs que la fiche de coordination 11 du plan directeur communal prévoit une meilleure liaison avec l'autoroute qui passe à proximité de l'avenue de Thônex pour désengorger le trafic et que la création d'une nouvelle jonction se fera justement sur l'avenue de Thônex. A cela s'ajoute que la densification du secteur visé par le PLQ litigieux ne viserait que trois bâtiments et environ 130 places de parc. Ce nombre additionnel était insignifiant en comparaison avec le flux de trafic de la route Blanche à laquelle devait être liée l'avenue de Thônex. Enfin, les moyens que le Conseil d'Etat envisageait de mettre à disposition pour élargir l'avenue de Thônex (expropriation des autres parcelles) démontrerait que l'élargissement de l'avenue était prévu dans un but de fluidifier le trafic général et non pas pour améliorer l'accès du quartier et des immeubles projetés par le PLQ litigieux.
Dans l'arrêté du Conseil d'Etat cité par les recourants, celui-ci ajoutait que l'élargissement de l'avenue était également rendu nécessaire par la densification du secteur, prévue par le plan directeur communal. Cette mesure était donc aussi destinée à améliorer le trafic résultant de la transformation du secteur du Petit-Senn, telle que concrétisée par le projet de PLQ en cause. Par ailleurs, celui-ci était en rapport avec les constructions envisagées dans la mesure où le quartier compris dans son périmètre devait être desservi par ladite avenue et où il était prévu que l'accès au parking souterrain et aux places de parc extérieures se ferait depuis cette dernière. Il s'agirait là typiquement d'un équipement routier "mixte" qui profitera certes à la collectivité en général, mais aussi plus particulièrement aux propriétaires concernés, dont les biens-fonds seront ainsi très bien desservis. Dans ses déterminations du 27 avril 2011, le Conseil d'Etat rappelle que le secteur du Petit-Senn, dont fait partie la parcelle des recourants, est appelé à se transformer d'un quartier de villas en un quartier d'immeubles. L'augmentation du nombre d'habitations aura pour conséquence un accroissement du trafic. Les voies de communication existantes devaient dès lors être adaptées et redimensionnées afin de pouvoir accueillir le trafic supplémentaire dû aux futures constructions.
Les considérations du Conseil d'Etat sont convaincantes. Sur cette base, les critiques des recourants, en partie de nature appellatoire, ne permettent pas de tenir pour arbitraire la constatation de la Cour de justice selon laquelle la cession du terrain servira à améliorer l'accès au quartier et aux immeubles projetés par le PLQ. Ceci n'est en effet pas "manifestement inexact" du seul fait que l'aménagement de l'avenue de Thônex serait également destiné à améliorer le trafic général. Pour le surplus, la question de savoir si la cession gratuite est justifiée ne relève pas de l'établissement des faits mais de l'application du droit et sera donc examinée avec le fond. Le présent grief doit par conséquent être rejeté et le Tribunal fédéral est lié par les faits retenus dans l'arrêt attaqué, conformément à l'art. 105 al. 1 LTF.
3. Les recourants reprochent ensuite à la Cour de justice d'avoir appliqué arbitrairement le droit cantonal relatif aux cessions gratuites et d'avoir ainsi violé la garantie de la propriété.
Le Tribunal fédéral ne revoit l'interprétation et l'application du droit cantonal que sous l'angle de l'arbitraire. Il ne s'écarte de la solution retenue que si celle-ci se révèle insoutenable, en contradiction manifeste avec la situation effective, ou si elle a été adoptée sans motifs objectifs et en violation d'un droit certain, ce qu'il appartient au recourant de démontrer par une argumentation qui réponde aux exigences des art. 42 al. 2 et 106 al. 2 LTF (cf. ATF 134 II 349 consid. 3 p. 351 s.; 133 II 249 consid de 1.4.2 p. 254 et les références). Le recourant doit ainsi indiquer précisément quelle disposition constitutionnelle ou légale a été violée et démontrer par une argumentation précise en quoi consiste la violation. En outre, si l'interprétation défendue par la cour cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, elle sera confirmée, même si une autre solution paraît également concevable, voire préférable (ATF 132 I 13 consid. 5.1 p. 17).
3.1 En vertu de l'art. 3 al. 2 let. b de la loi générale du 29 juin 1957 sur les zones de développement du canton de Genève (ci-après: la LGZD), les plans localisés de quartier prévoient les éléments de base du programme d'équipement, soit notamment les emprises qui doivent être cédées gratuitement au domaine public.
Selon la jurisprudence, des déductions ou cessions de terrains sont compatibles avec la garantie de la propriété, dans le cadre de remaniements parcellaires ou de mesures de planification, lorsqu'il s'agit de réaliser des installations destinées à servir l'ensemble du périmètre (ATF 110 Ia 223 consid. 3c p. 229); il ne s'agit pas d'une mesure d'expropriation, mais d'une compensation de la plus-value résultant de la mesure d'aménagement, telle que les cantons peuvent le prévoir en vertu de l'art. 5 al. 1 de la loi fédérale du 22 juin 1979 sur l'aménagement du territoire (LAT; RS 700). Ainsi, l'art. 3 al. 2 let. b LGZD, qui permet à la collectivité publique d'obtenir des particuliers concernés par un plan localisé de quartier la cession gratuite d'une partie de leurs terrains, est conforme à la constitution dans la mesure où cette cession permet la réalisation des installations nécessaires à la réalisation du plan; cela n'autorise pas la collectivité publique à se procurer gratuitement, par le biais d'un plan localisé de quartier, des terrains dont elle a besoin à d'autres fins, notamment pour la réalisation de ses tâches ordinaires telle que l'amélioration générale du trafic (ATF 100 Ia 223 consid. 3c p. 230; arrêt 1C_268/2008 du 25 septembre 2008 consid. 3.2).
Dans un arrêt 1C_268/2008 du 25 septembre 2008, le Tribunal fédéral a confirmé un arrêt de la Cour de justice qui considérait que des cessions ayant pour but l'élargissement du domaine public (principalement au profit des piétons et des cycles, ainsi que la création d'une voie du bus en site propre et piste cyclable) étaient dans un rapport suffisant avec le PLQ, bien que profitant également à l'ensemble de la collectivité. L'amélioration des conditions de trafic sur l'axe mis au bénéfice des cessions était en effet en lien direct avec la densification du quartier et profitait en premier lieu aux habitants du périmètre. Le lien entre les cessions de terrains et les PLQ apparaissait dès lors suffisant.
3.2 En l'espèce, la Cour cantonale a jugé que la situation était analogue à celle mentionnée dans l'arrêt précité: le PLQ était adopté dans un quartier destiné à être densifié progressivement, lequel était actuellement desservi par des voies de communication créées pour des quartiers de villas. Les cessions au bénéfice du domaine public cantonal étaient prévues afin de permettre l'aménagement de l'avenue de Thônex desservant le quartier destiné à prendre de l'ampleur, conformément au plan directeur cantonal. Dans ce contexte, les aménagements servaient tant à l'amélioration générale de l'accès au quartier qu'à celle des immeubles envisagés, en prévoyant des accès adéquats sur ladite voie de communication. Des cessions avaient également été imposées aux propriétaires de terrains au bénéfice de PLQ en amont de la route de Thônex, pour le même motif.
Le raisonnement de la Cour de justice, fondé sur des faits qui lient la Cour de céans, ne s'écarte pas de la jurisprudence du Tribunal fédéral et échappe à la critique. Les recourants prétendent en vain que les pistes cyclables serviraient prioritairement à améliorer les conditions de trafic tout au long de l'avenue de Thônex et non pas à permettre aux habitants des trois immeubles projetés de circuler. En effet, l'aménagement de ladite avenue apparaît étroitement lié à la densification du quartier et il est évident qu'il profitera en premier lieu aux habitants du périmètre du PLQ litigieux, puisque les immeubles projetés se trouvent en bordure ou à proximité immédiate de l'avenue de Thônex et que l'accès au parking souterrain et aux places de parc extérieures se fera depuis cette dernière. Dans la mesure où les conditions d'application de l'art. 3 al. 2 let. b LGZD sont remplies, les recourants invoquent en vain la garantie de la propriété; contrairement à ce qu'ils soutiennent, la cession litigieuse n'a en effet pas été effectuée sans base légale.
4. Dans un dernier grief, les recourants se plaignent d'une violation du principe de l'égalité de traitement. Ils font valoir que seule la parcelle 3890 n'est pas comprise dans le PLQ litigieux. Le dessin que suit le PLQ autour de cette parcelle serait grotesque et révélerait que celui-ci a été préparé de manière parfaitement arbitraire dans le but d'épargner un propriétaire en particulier. Tel qu'élaboré, le PLQ n'avait aucune cohérence dans son ensemble et l'exclusion de la parcelle était contraire au but même de densification du quartier.
4.1 Une décision viole le droit à l'égalité de traitement lorsqu'elle établit des distinctions juridiques qui ne se justifient par aucun motif raisonnable au regard de la situation de fait à réglementer ou lorsqu'elle omet de faire des distinctions qui s'imposent au vu des circonstances (ATF 131 V 107 consid. 3.4.2 p. 114; 129 I 113 consid. 5.1 p. 125 et les arrêts cités). Ce principe n'a qu'une portée réduite dans l'élaboration des plans d'affectation. Il est en effet dans la nature même de l'aménagement local que la délimitation des zones créent des inégalités et que des terrains de mêmes situation et nature puissent être traités différemment en ce qui concerne tant leur attribution à une zone déterminée que leur possibilité d'utilisation. Du point de vue constitutionnel, il suffit que la planification soit objectivement soutenable, c'est-à-dire qu'elle ne soit pas arbitraire (ATF 121 I 245 consid. 6e/bb p. 249 et les arrêts cités).
4.2 En l'espèce, la Cour de justice a exposé que le bâtiment se trouvant sur la parcelle 3890, qui accueille un foyer pour adolescents, était mentionné comme "digne de protection" selon le recensement du patrimoine architectural et des sites du canton de Genève. Il s'agissait là d'un élément le distinguant des immeubles bâtis sur les parcelles comprises dans le périmètre du PLQ, ce que les recourants ne contestent pas. Par ailleurs, le bâtiment avait fait l'objet d'un agrandissement, autorisé une année avant le dépôt de la demande de renseignements ayant suscité l'élaboration du PLQ querellé. Comme l'a relevé le Conseil d'Etat, le nouveau bâtiment est aujourd'hui entièrement réalisé; dans la mesure où cette parcelle venait de faire l'objet d'importants travaux de construction, ce qui n'est pas le cas des parcelles incluses dans le périmètre du PLQ, il ne se justifiait pas de les traiter de façon semblable. L'on ne voit enfin pas comment les autorités auraient violé leur obligation de se comporter de bonne foi pour la seule raison que, selon les recourants, elles ne pouvaient ignorer les développements futurs (éventuel projet de PLQ dans cette zone) lors de l'octroi de l'autorisation de construire en 2006 sur la parcelle 3890. Quoi qu'il en soit, le fait que le PLQ querellé n'englobe pas la parcelle 3890 dans son périmètre ne permet pas, à lui seul, d'établir que la planification litigieuse serait insoutenable. Le grief d'inégalité de traitement doit par conséquent être écarté.
5. Il résulte de ce qui précède que le recours doit être rejeté, aux frais des recourants qui succombent (art. 65 et 66 LTF). En vertu de l'art. 68 al. 2 LTF, ceux-ci verseront en outre une indemnité de dépens à la Fondation qui obtient gain de cause avec l'assistance d'un avocat (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Une indemnité de 2'000 fr. est allouée à la Fondation de la Commune de Thônex pour le logement à titre de dépens, à la charge des recourants, solidairement entre eux.
4. Le présent arrêt est communiqué aux mandataires des recourants et de la Fondation de la Commune de Thônex pour le logement, ainsi qu'au Conseil d'Etat et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lausanne, le 29 juillet 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: La Greffière:
Aemisegger Mabillard