Faits:
A. Depuis mars 2006, A._ est propriétaire de la parcelle n° 6207 du registre foncier de la commune de Vex. Sur ce bien-fond, situé en zone agricole, est érigé un chalet d'habitation.
Le 2 novembre 2006, un inspecteur de la Police des constructions de l'Etat du Valais a constaté que des travaux de transformation du chalet avaient été entrepris sans autorisation (réalisation non achevée d'une couverture sur la terrasse, située à l'est, dans le prolongement de la toiture du chalet; construction d'un couvert attenant à la façade ouest du bâtiment). Le 10 avril 2007, la Commission cantonale des constructions (ci-après: la CCC) a ordonné la remise en état des lieux conforme au droit (suppression de la couverture sur la terrasse ainsi que du couvert) dans un délai de quatre mois dès l'entrée en force de sa décision.
B. Le 4 mai 2007, A._ a déposé une demande d'autorisation de construire portant sur trois objets: le couvert déjà réalisé, une cabane de jardin (3,30 m x 3 m) et des transformations à l'intérieur et l'extérieur du chalet; ces transformations consistaient à construire une annexe (4 m x 1,60 m) abritant un escalier sur la terrasse est, à supprimer l'escalier actuel et à créer un nouvel espace (3 m x 1,40 m) agrandissant la cave sise au rez-de-chaussée. Ce projet a été préavisé positivement par la Commune de Vex et négativement par la Sous-commission des sites qui mentionnait notamment que l'identité du bâtiment n'était pas maintenue. Quant au Service de l'aménagement du territoire (actuellement le Service du développement territorial, ci-après: le SDT), il a transmis un préavis positif excepté pour le cabanon de jardin.
L'intéressé a, le 28 janvier 2008, déposé un nouveau dossier d'autorisation suite aux remarques formulées par la CCC. Le nouveau projet, identique au premier concernant le couvert et la cabane de jardin, prévoyait d'abaisser le niveau du sol de la cave de 80 cm, de creuser au nord-est un escalier extérieur (3,20 m x 1 m) permettant l'accès à cette cave, de créer un escalier intérieur dans un nouvel espace au sud-est (3,20 m x 2 m) et de fermer la terrasse à l'étage côté est (5,50 m x 3,20 m) afin d'y abriter un bureau et l'arrivée du nouvel escalier. La mise à l'enquête publique n'a suscité aucune opposition. La Commune de Vex a transmis le dossier à la CCC en indiquant que la distance aux limites côté sud-est (dévaloir communal) n'était apparemment pas respectée. Le dossier a été préavisé négativement par le SDT ainsi que par la Sous-commission des sites, cette dernière précisant que l'identité du bâtiment n'était pas respectée.
Par décision du 11 septembre 2008, notifiée le lendemain, la CCC a refusé l'autorisation de construire, l'agrandissement projeté n'étant pas compatible avec le respect de l'identité de la construction existante; elle se fondait sur les calculs réalisés par le SDT qui estimait que l'agrandissement des surfaces brutes de plancher utiles (SBPu) ajoutées aux surfaces annexes (SA) était supérieur à la limite prévue par la loi fixée à 30 %. Le projet ne pouvait donc bénéficier d'une autorisation dérogatoire au sens des art. 24c LAT, 41 et 42 de l'ordonnance du 28 juin 2000 sur l'aménagement du territoire (OAT; RS 700.1). Le 23 juin 2010, le Conseil d'Etat a rejeté le recours déposé par A._ contre la décision de la CCC: les limites posées par l'<ref-law> étaient dépassées et, en outre, le projet ne respectait pas l'identité de la construction existante et n'améliorait pas son esthétique pour l'essentiel.
C. Par arrêt du 5 novembre 2010, la Cour de droit public du Tribunal cantonal valaisan (ci-après: le Tribunal cantonal) a rejeté le recours formé par A._. Elle a rectifié le calcul de l'agrandissement projeté pour l'arrêter à 30,2 % et a estimé qu'un refus fondé sur cette seule constatation serait peu équitable si, pour le reste, l'identité du bâtiment était préservée. Or, elle a considéré, en s'appuyant sur les avis de la Sous-Commission des sites - concernant le premier dossier d'autorisation - et de la CCC, que les transformations projetées modifieraient sérieusement la construction d'origine et a donc confirmé le refus de délivrer l'autorisation dérogatoire pour les transformations prévues sur le côté est du chalet. Elle a enfin relevé que la CCC a refusé sans autre motivation le couvert ouest et la cabane de jardin, ce que le recourant n'a toutefois pas contesté devant elle.
D. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt du Tribunal cantonal, ainsi que la décision du Conseil d'Etat du 23 juin 2010 et celle de la CCC du 11 septembre 2008. Il conclut principalement à l'octroi de l'autorisation de construire - excepté pour le cabanon de jardin - et subsidiairement au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants. Il se plaint en substance d'une application erronée de l'<ref-law>.
Le Tribunal cantonal, la CCC et l'Office fédéral du développement territorial renoncent à se déterminer. Le Conseil d'Etat renvoie à l'arrêt attaqué et propose le rejet du recours. La Commune de Vex se réfère à sa prise de position du 21 octobre 2008.

Considérant en droit:
1. Dirigé contre une décision prise en dernière instance cantonale dans le domaine du droit public de l'aménagement du territoire et des constructions, le recours est recevable comme recours en matière de droit public conformément aux <ref-law>. Le recourant a qualité pour recourir au sens de l'<ref-law> contre l'arrêt attaqué qui confirme le refus de délivrer une autorisation dérogatoire pour les transformations projetées sur son chalet. Au surplus, le recours ayant été déposé en temps utile (<ref-law>) et dans les formes prescrites par la loi (<ref-law>), il y a lieu d'entrer en matière.
2. Le recourant estime que les modifications de son chalet remplissent les conditions de l'<ref-law>. Il soutient tout d'abord que l'agrandissement du chalet reste en deçà des limites quantitatives prévues par cette disposition. Dans un second moyen qu'il convient d'examiner simultanément, le recourant fait grief au Tribunal cantonal de ne pas avoir examiné la question du respect de l'identité du bâtiment en tenant compte de l'ensemble des circonstances; il se serait contenté d'un obiter dictum et n'aurait pas fait usage de son pouvoir d'appréciation. Un examen global aurait dû amener l'autorité précédente à conclure que l'identité de la construction était préservée pour l'essentiel par les transformations projetées, celles-ci améliorant en outre l'esthétique du chalet.
2.1 Selon l'art. 24c LAT, les constructions et installations sises hors de la zone à bâtir, qui peuvent être utilisées conformément à leur destination mais qui ne sont plus conformes à l'affectation de la zone, bénéficient en principe de la garantie de la situation acquise (al. 1). L'autorité compétente peut autoriser la rénovation de telles constructions et installations, leur transformation partielle, leur agrandissement mesuré ou leur reconstruction, pour autant que les bâtiments aient été érigés ou transformés légalement; dans tous les cas, les exigences majeures de l'aménagement du territoire doivent être satisfaites (al. 2).
2.2 Le champ d'application de l'art. 24c LAT est restreint aux constructions et installations qui ont été érigées ou transformées conformément au droit matériel en vigueur à l'époque, mais qui sont devenues contraires à l'affectation de la zone à la suite d'une modification de la législation ou des plans d'aménagement (<ref-law>). La date déterminante est en principe celle du 1er juillet 1972, date de l'entrée en vigueur de la loi fédérale du 8 octobre 1971 sur la protection des eaux contre la pollution, qui a introduit expressément le principe de la séparation du territoire bâti et non bâti (<ref-ruling> consid. 4.2.1 p. 398).
2.3 L'<ref-law> concrétise les modifications qui peuvent être apportées aux constructions pour lesquelles l'art. 24c LAT est applicable. Ainsi, l'identité de la construction et de ses abords doit être respectée pour l'essentiel; sont admises les améliorations de nature esthétique (al. 1). Le moment déterminant pour l'appréciation du respect de l'identité est l'état de la construction au moment de la modification de la législation ou des plans d'aménagement (al. 2). La question de savoir si l'identité de la construction est respectée pour l'essentiel est à examiner en fonction de l'ensemble des circonstances (al. 3 première phrase).
Selon la jurisprudence développée sous l'empire de l'ancien droit (ancien art. 24 al. 2 LAT), applicable également au nouveau droit (<ref-ruling> consid. 3b p. 219), l'identité de l'ouvrage est préservée lorsque la modification projetée sauvegarde dans ses traits essentiels les dimensions ainsi que l'apparence extérieure de celui-ci et qu'elle n'entraîne pas d'effets nouveaux notables sur l'affectation du sol, l'équipement et l'environnement. La transformation doit être d'importance réduite par rapport à l'état existant de l'ouvrage (<ref-ruling> consid. 3a p. 218 s., 123 II 256 consid. 4 p. 261 et les arrêts cités).
L'identité n'est en tous cas pas respectée si à l'intérieur du volume bâti existant, la surface brute de plancher imputable est augmentée de plus 60 % (<ref-law>). De même, si un agrandissement n'est pas possible ou ne peut pas être exigé à l'intérieur du volume bâti existant, l'agrandissement total ne peut excéder ni 30 % de la surface utilisée pour un usage non conforme à l'affectation de la zone ni 100 m2; les agrandissements effectués à l'intérieur du volume bâti existant ne comptent que pour moitié (<ref-law>).
2.4 Les règles relatives à l'ampleur admissible des agrandissements ont été modifiées lors de la révision partielle de l'OAT en 2007 (RO 2007 3641). S'agissant des agrandissements effectués au moins en partie à l'extérieur du volume bâti existant, la limitation litigieuse de 30 % - prescrite à l'ancien <ref-law> (RO 2000 2061) auquel se réfère la CCC, le Conseil d'Etat ainsi que le recourant - a été maintenue à l'<ref-law>, en vigueur depuis le 1er septembre 2007 et applicable au cas d'espèce. Le nouveau texte énonce désormais clairement que les agrandissements doivent être réalisés à l'intérieur du volume bâti existant quand cela est possible et peut être exigé. Il convient en effet d'éviter de provoquer des atteintes supplémentaires au territoire et à l'environnement (cf. Office fédéral du développement territorial ARE, Explications relatives à la révision de l'OAT du 4 juillet 2007, Berne 2007, p. 8).
3. En l'espèce, il n'est pas contesté que le chalet sis sur la parcelle du recourant entre dans le champ d'application de l'art. 24c LAT dès lors qu'il a été construit et utilisé à des fins d'habitation secondaire avant la date déterminante de 1972.
3.1 La CCC et le Conseil d'Etat ont tous deux considéré que l'agrandissement du chalet envisagé par le recourant outrepassait la limite chiffrée posée par l'<ref-law>. Quant au Tribunal cantonal, il a estimé, après correction des erreurs de calcul, que l'agrandissement projeté s'élevait à 30,2 % de la surface d'origine utilisée pour un usage non conforme à l'affectation de la zone. Dans le calcul des surfaces déterminantes au 1er juillet 1972 opéré suivant les recommandations de l'Office fédéral du développement territorial ARE (DETEC/ODT, Nouveau droit de l'aménagement du territoire, Explications relatives à l'ordonnance sur l'aménagement du territoire et recommandations pour la mise en oeuvre, Berne 2001, partie V: "Autorisation au sens de l'art.24c LAT"), le Tribunal cantonal a retenu une surface existante de 97,84 m2 (SBPu de 86,64 m2 et SA de 11,2 m2). Quant aux nouvelles surfaces, il a considéré qu'elles s'élevaient à 35,2 m2 (SBPu à l'extérieur du volume existant de 24 m2 [6,4 m2 pour l'agrandissement du rez-de-chaussée par la création d'un escalier intérieur ainsi que 17,6 m2 à l'étage pour ledit escalier et pour la création d'un bureau] et SA à l'extérieur du volume existant de 11,2 m2 pour l'aménagement de la cave 80 cm plus bas dans le sol). Il a ensuite estimé que, selon les formules de calcul, la surface de la cave démolie devait être imputée pour moitié (5,6 m2) aux nouvelles surfaces créées à l'extérieur du volume existant (35,2 m2). Les transformations projetées (29,6 m2) représentaient, selon l'autorité précédente, 30,2 % de la surface totale existante (97,84 m2).
3.2 Le recourant soutient en revanche que l'agrandissement envisagé [SBPu + SA] s'élèverait à 24,5 %, de sorte qu'il respecterait la limite fixée par l'<ref-law>. Il estime en effet que la SA relative à la cave doit être comptabilisée comme surface à l'intérieur du volume existant puisque la reconstruction de cette cave 80 cm plus bas dans le sol n'impliquerait pas une augmentation du volume de la cave, ni de nouvelle surface utilisable; en outre, elle ne devrait pas être considérée comme SA démolie dès lors qu'elle va être reconstruite. Ainsi, le total des nouvelles surfaces à l'extérieur du volume bâti n'atteindrait que 24 m2 (6,4 m2 + 17,6 m2), ce qui correspondrait à un agrandissement de 24,5 % seulement.
3.3 Force est de constater que l'abaissement du niveau de la cave de 80 cm dans le sol a pour conséquence que les travaux relatifs à la cave se feraient au moins partiellement à l'extérieur du volume bâti existant. Bien que le volume de la cave ne soit pas modifié, celle-ci ne s'inscrit plus dans le volume bâti existant, de sorte que les autorités précédentes ont estimé que la surface de la cave était affectée à la catégorie SA à l'extérieur du volume existant. La solution retenue par le Tribunal cantonal, et préconisée selon la formule de l'ARE, a pour conséquence que la moitié de la surface d'une construction est comptée comme nouvelle lorsque celle-ci est déplacée, comme c'est le cas en l'espèce avec la cave en question. Une exception est toutefois admise lorsque le déplacement répond à un intérêt public, la reconstruction étant alors prise en compte dans le calcul comme si elle était reconstruite au même emplacement (cf. DETEC/ODT, op. cit., annexe 2, notes de bas de page 1 et 2 ); tel n'est manifestement pas le cas en l'espèce.
Cette solution n'apparaît pas critiquable au regard du droit fédéral dès lors que la nouvelle disposition réglementaire mentionne expressément que les agrandissements doivent dans la mesure du possible être réalisés à l'intérieur du volume bâti existant. Cette solution peut certes paraître rigoureuse in casu, elle n'apparaît toutefois pas contraire au droit fédéral. Par conséquent, dans la mesure où l'agrandissement projeté excède la limite admissible fixée à l'<ref-law>, l'identité du chalet n'est plus assurée. En tant que dérogation aux principes fixés à l'art. 24 LAT, cette disposition doit être appliquée strictement. Une autorisation dérogatoire pour les travaux envisagés ne peut donc, pour cette raison déjà, être octroyée.
3.4 Au demeurant, le refus d'autoriser les travaux de construction sur le chalet n'est pas motivé par le seul fait que ceux-ci excèdent l'agrandissement maximal autorisé selon l'<ref-law>, mais bien parce que l'identité du bâtiment est compromise pour d'autres motifs; le Tribunal cantonal a en effet estimé qu'un refus fondé sur cette seule constatation serait peu équitable vu le dépassement négligeable de la valeur limite de 30 % si, pour le reste, l'identité du chalet était préservée. Contrairement à ce que soutient le recourant, les considérations du Tribunal cantonal quant à l'identité de la construction (cf. consid. 3e in fine de l'arrêt entrepris) ne constituent donc pas un obiter dictum, mais le fondement même de son arrêt même si sa motivation est succincte. L'autorité précédente n'a ainsi pas indûment restreint son pouvoir d'examen sur ce point.
3.4.1 Le Tribunal fédéral s'impose une certaine retenue lorsqu'il doit se prononcer sur de pures questions d'appréciation ou tenir compte de circonstances locales, dont les autorités locales ont une meilleure connaissance que lui (<ref-ruling> consid. 6.1 p. 181, 129 I 337 consid. 4.1 p. 344 et les arrêts cités). C'est notamment le cas lorsqu'il s'agit d'apprécier la question du respect de l'identité d'un bâtiment et de son esthétique.
3.4.2 La Sous-commission des sites a relevé dans son préavis que l'identité du chalet n'était pas préservée par les travaux envisagés. Cette appréciation, émanant du service cantonal spécialisé, est partagée par la CCC et le Conseil d'Etat; la CCC a précisé, le 30 janvier 2009, que l'identité du bâtiment n'était à l'évidence plus assurée par les adjonctions faites de part et d'autre du chalet. Ce jugement est d'ailleurs confirmé par la lecture des plans figurant au dossier. En effet, les modifications de la construction originaire consistent dans l'abaissement du niveau du sol de la cave de 80 cm et la réalisation à l'avant du chalet d'un escalier extérieur creusé dans le sol pour y accéder, dans la création d'un espace à l'arrière de la cave destiné à accueillir un escalier intérieur, dans la couverture de la terrasse du chalet et la création de deux espaces supplémentaires au premier étage (pour y aménager respectivement un bureau et l'escalier intérieur). Il ne s'agit pas de modifications de peu d'importance dans la mesure où l'aspect visuel du bâtiment s'en trouve sensiblement modifié. En outre, bien que le couvert situé à l'ouest ne soit pas inclus dans la comparaison des surfaces au sens de l'<ref-law>, celui-ci ne doit pas altérer l'aspect de la construction; or tel est manifestement le cas compte tenu de ses dimensions importantes.
Le recourant n'apporte en l'espèce aucun élément susceptible de remettre en cause cette appréciation en dépit de ses nombreuses critiques à l'encontre des préavis de la Sous-commission des sites. En outre, si la réalisation d'une annexe sur la terrasse dans le prolongement du toit apporte assurément une certaine symétrie à l'ensemble de la construction, on ne saurait y voir, compte tenu notamment de l'ampleur des travaux, une amélioration esthétique qui justifierait une dérogation au principe du respect de l'identité de l'ouvrage. Eu égard à l'ensemble des circonstances, il apparaît que le projet litigieux implique un agrandissement trop important pour satisfaire aux exigences de l'art. 24c LAT.
3.5 Enfin, dans son second grief, le recourant soulève également la question de l'équité. Il rapporte que des autorisations de construire auraient été délivrées dans des cas similaires au sien et semble soutenir que l'équité commanderait d'en faire de même avec son projet. Ce faisant, le recourant paraît en réalité se plaindre d'une inégalité de traitement. Quoiqu'il en soit, à supposer qu'il ait entendu soulever ce grief, il apparaîtrait d'emblée irrecevable faute d'une motivation suffisante (<ref-law>). En effet, le recourant ne donne aucune indication précise quant au précèdent dont il entend se prévaloir, de sorte qu'il est impossible de vérifier le bien-fondé de ses affirmations.
De même, il relève incidemment que la CCC a commis un déni de justice formel en omettant de motiver le rejet de sa demande d'autorisation concernant le cabanon de jardin et le couvert situé à l'ouest du chalet. Il n'en fait toutefois pas un grief devant le Tribunal fédéral.
4. Sur le vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Le recourant, qui succombe, doit supporter les frais judiciaires (art. 65 et 66 al. 1 LTF). Il n'est pas alloué de dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au représentant du recourant, à la Commune de Vex, au Conseil d'Etat et au Tribunal cantonal du canton du Valais, Cour de droit public, ainsi qu'à l'Office fédéral du développement territorial.
Lausanne, le 18 mai 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Fonjallaz Arn