Faits:
A. Par avis publié au Bulletin officiel du 27 novembre 2009, la commune de Monthey a mis à l'enquête publique le réaménagement des rues du Fay, du Théâtre, du Marquisat et de l'avenue de la Gare, la réalisation d'un pont sur la Vièze en prolongement de la rue du Marquisat ainsi que la création d'un giratoire sur l'avenue du Simplon. Le dossier déposé contenait entre autres un plan de signalisation traduisant la nouvelle gestion du trafic que la commune entendait introduire dans le centre-ville ainsi qu'une expertise sur les zones 30 et de rencontre.
Ce projet, dit de la Petite Ceinture, découle du plan directeur des espaces publics du centre-ville de Monthey (ci-après: le plan directeur), élaboré en novembre 2005. Adopté par le Conseil communal le 23 janvier 2006, cet instrument propose une stratégie d'intervention dans le centre-ville, dont l'un des axes consiste à déplacer la circulation nord-sud - qui s'écoule actuellement en sens unique sur les avenues du Crochetan, du Midi et l'avenue de Venise - sur une large avenue reprenant, en double sens, le tracé actuel des rues du Fay, du Théâtre, de la Tannerie et du Marquisat, plus à l'est. Un pont à créer sur la Vièze doit permettre le raccord de cette artère à l'avenue du Simplon. La commune se propose de modérer le trafic sur ce nouvel axe en limitant la vitesse à 30 km/h sur la rue du Marquisat, puis de créer une zone de rencontre s'étendant sur les rues de la Tannerie, du Théâtre et du Fay.
La publication au Bulletin officiel a suscité plusieurs oppositions, dont celles de B._ et A._. Le 29 juillet 2010, la commune a transmis le dossier au Département cantonal des transports, de l'équipement et de l'environnement, en proposant d'écarter les oppositions, d'approuver le projet de réaménagement routier et de déclarer les travaux d'intérêt public.
B. Le 7 décembre 2010, le Conseil d'Etat a approuvé les plans routiers et a autorisé les expropriations induites par le projet. Il a rejeté simultanément les oppositions.
Par arrêt du 26 août 2011, le Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a rejeté le recours de B._ et A._ dans la mesure où il était recevable. Il a considéré en substance que la procédure suivie n'était pas critiquable et que l'instauration des zones 30 et de rencontre sur les voies publiques concernées par le projet était conforme au droit.
C. Agissant par la voie du recours en matière de droit public, B._ et A._ demandent au Tribunal fédéral d'annuler la décision du Tribunal cantonal du 26 août 2011 et de rejeter le projet soumis à l'enquête publique le 27 novembre 2009. Ils se plaignent de vices de procédure ainsi que d'une violation du droit fédéral relatif à la circulation routière.
Le Tribunal cantonal renonce à se déterminer sur le recours. Le Département cantonal des transports, de l'équipement et de l'environnement conclut au rejet du recours. La commune de Monthey conclut également au rejet du recours, dans la mesure de sa recevabilité, et à la confirmation du projet de réaménagement routier approuvé par le Conseil d'Etat le 7 décembre 2011. Les recourants ont répliqué le 20 janvier 2012; ils confirment les conclusions prises dans leur recours.

Considérant en droit:
1. 1.1 La décision attaquée a été rendue, en dernière instance cantonale, dans une cause de droit public au sens de l'art. 82 let. a LTF, sans qu'aucune des exceptions prévues à l'art. 83 LTF ne soit réalisée, de sorte que la voie du recours en matière de droit public est ouverte (art. 82 à 89 LTF).
1.2 B._ est domicilié à l'avenue de la Plantaud, laquelle est comprise dans le périmètre du plan de réaménagement routier litigieux et sera affectée en zone 30. Par ailleurs, cette rue est située à 75 m environ de la rue du Marquisat qui doit former, avec les rues du Fay, du Théâtre et de la Tannerie, la Petite Ceinture. Il ressort de l'arrêt attaqué que, sans la réalisation du projet contesté, la rue du Marquisat devrait connaître, à l'horizon 2025, un trafic journalier moyen compris entre 3'100 et 4'400 véhicules; avec le projet, cette rue aurait un trafic journalier moyen de 6'100 véhicules. Il est incontestable que cette augmentation de la circulation, sur un axe d'accès au domicile du recourant, est de nature à lui causer des inconvénients de nature matérielle (cf. <ref-ruling> consid. 2.3 p. 34). B._ est par conséquent particulièrement atteint par la décision attaquée et a un intérêt digne de protection à son annulation. Il dispose dès lors de la qualité pour recourir au sens de l'art. 89 al. 1 LTF et la qualité pour agir de A._ peut rester indécise, comme elle l'a été devant le Tribunal cantonal.
1.3 Les autres conditions de recevabilité sont remplies si bien qu'il y a lieu d'entrer en matière.
2. Les recourants se plaignent tout d'abord de vices de procédure dans le cadre de la mise à l'enquête publique. Ils estiment que le texte de la publication du projet au bulletin officiel était tronqué, ce qui était de nature à induire en erreur les citoyens. D'autre part, la publication n'annonçait pas l'introduction des zones 30 et de rencontre, en violation de l'art. 107 al. 1 de l'ordonnance du 5 septembre 1979 sur la signalisation routière (OSR; RS 741.21).
2.1 Le Conseil d'Etat a approuvé les plans routiers de la commune de Monthey sur la base de l'art. 47 de la loi cantonale du 3 septembre 1965 sur les routes (ci-après: la LR). Il a ainsi vérifié la compatibilité du projet avec l'art. 25 LR, selon lequel les voies publiques doivent être construites et aménagées conformément aux nécessités techniques et économiques du trafic et d'une manière appropriée à leur classement. L'examen à effectuer dans ce contexte dépend de l'affectation des voies publiques concernées (cf. art. 39 al. 2 LR). Celle-ci diffère en effet selon que s'y applique la vitesse maximale générale de 50 km/h ou la réglementation d'une zone 30 ou de rencontre.
Selon l'art. 107 al. 1 OSR, il incombe à l'autorité d'arrêter et de publier, en indiquant les voies de droit, les réglementations locales du trafic qui sont indiquées par des signaux de prescription ou de priorité ou par d'autres signaux ayant un caractère de prescription.
2.2 En l'espèce, le texte de l'avis d'enquête décrit les rues de l'axe principal visé par le plan routier, à savoir les rues du Fay, du Théâtre, du Marquisat et l'avenue de la Gare, et n'énumère effectivement pas toutes les rues adjacentes situées dans le périmètre concerné. Cette omission n'est cependant pas de nature à invalider la procédure, dans la mesure où toutes les rues touchées "physiquement" par le réaménagement sont mentionnées dans l'avis publié. De même, l'oubli de la mention de la rue de la Tannerie ne saurait constituer un vice de procédure: située dans le prolongement des rues du Fay et du Théâtre, et entre cette dernière et la rue du Marquisat, sa situation supposait nécessairement son intégration aux travaux mis à l'enquête, comme l'a relevé le Tribunal cantonal. Un éventuel doute à ce sujet pouvait au demeurant être levé après consultation du dossier. Par ailleurs, les recourants ne disent pas quelle base légale obligeait l'autorité à publier le projet sous la dénomination de "Petite Ceinture", utilisée habituellement par les habitants pour désigner l'axe concerné. Quoi qu'il en soit, l'énumération des rues touchées par le plan routier était suffisamment explicite pour permettre aux citoyens de connaître sans ambigüité l'objet mis à l'enquête.
2.3 Les recourants voient également un vice de procédure dans le fait que la publication ne fait pas mention des zones 30 et de rencontre.
La décision du Conseil d'Etat du 7 décembre 2010 concerne l'approbation de plans routiers, à savoir plus précisément le réaménagement de certaines rues, la réalisation d'un nouveau pont et la création d'un giratoire. L'introduction de la zone 30 km/h est prévue dans les charges et la procédure relative à la signalisation routière demeure réservée. Il est dès lors logique qu'un plan de signalisation ainsi qu'une expertise sur les zones 30 et de rencontre figurent au dossier de mise à l'enquête, à titre informatif, étant rappelé que l'examen à effectuer dans le cadre de la LR suppose de connaître l'affectation des routes concernées. Toutefois, il n'était pas indispensable que l'avis d'enquête mentionne l'introduction des zones 30 et de rencontre, puisque la décision d'approbation ne concernait formellement que les plans routiers et les éléments techniques de reconstruction de la Petite Ceinture. Il ne saurait dès lors y avoir de violation de l'art. 107 al. 1 OSR à ce stade, la signalisation routière devant faire l'objet d'une publication selon une procédure séparée.
2.4 Mal fondés, les griefs des recourants relatifs à des éventuels vices de procédure doivent être rejetés.
3. Les recourants s'opposent ensuite à l'introduction des zones 30 et de rencontre telles qu'elles ont été projetées. Ils font en particulier valoir que les conditions de base pour l'instauration d'une zone de rencontre dans les rues du Théâtre et de la Tannerie ne seraient pas satisfaites et que la création de cette zone ne serait pas proportionnée au but recherché. Par ailleurs, ils estiment que la création d'une zone de rencontre à côté de zones 30 engendrera une confusion pour les piétons et les véhicules, et que le double sens prévu sur la Petite Ceinture sera ingérable aux heures de pointe. Ils reprochent enfin aux autorités communales de ne pas avoir tenu compte des remarques formulées par les participants dans le cadre de l'adoption du projet et de s'être appuyées sur une expertise incomplète.
3.1 En vertu de l'art. 32 al. 2 de la loi fédérale du 19 décembre 1958 sur la circulation routière (LCR; RS 741.01), le Conseil fédéral limitera la vitesse des véhicules automobiles sur toutes les routes. L'autorité compétente ne peut abaisser ou augmenter la vitesse maximale fixée par le Conseil fédéral sur certains tronçons de route qu'après expertise (art. 32 al. 3 LCR). La vitesse maximale générale des véhicules est de 50 km/h dans les localités (art. 4a al. 1 let. a de l'ordonnance du 13 novembre 1962 sur les règles de la circulation routière [OCR; RS 741.11]).
L'art. 108 OSR prévoit que, pour éviter ou atténuer des dangers particuliers de la circulation routière, pour réduire les atteintes excessives à l'environnement ou pour améliorer la fluidité du trafic, l'autorité peut ordonner des dérogations aux limitations générales de vitesse sur certains tronçons de route (al. 1). Selon l'al. 2 de cette disposition, les limitations de vitesse peuvent être abaissées lorsqu'un danger n'est perceptible que difficilement ou n'est pas perceptible à temps et ne peut pas être écarté autrement (let. a), que certains usagers de la route ont besoin d'une protection spéciale qui ne peut être obtenue d'une autre manière (let. b), que cela permet d'améliorer la fluidité du trafic sur des tronçons très fréquentés (let. c) ou que, de ce fait, il est possible de réduire les atteintes excessives à l'environnement (bruit, polluants) au sens de la législation sur la protection de l'environnement (let. d). Il s'agira ce faisant de respecter le principe de la proportionnalité. Avant de fixer une dérogation à une limitation générale de vitesse, on procédera à une expertise afin de savoir si cette mesure est nécessaire, opportune et si elle respecte le principe de la proportionnalité, ou s'il convient de donner la préférence à d'autres mesures (art. 108 al. 4 OSR). Peuvent ainsi être autorisées, à l'intérieur des localités, sur les routes désignées au moyen d'une signalisation par zone, 30 km/h selon l'art. 22a ou 20 km/h selon l'art. 22b (art. 108 al. 5 let. e OSR).
Le signal "zone 30" désigne des routes, situées dans des quartiers ou des lotissements, sur lesquelles les conducteurs sont tenus de circuler d'une manière particulièrement prudente et prévenante. La vitesse maximale est fixée à 30 km/h (art. 22a OSR). Le signal "zone de rencontre" désigne des routes situées dans des quartiers résidentiels ou commerciaux, sur lesquelles les piétons et les utilisateurs d'engins assimilés à des véhicules peuvent utiliser toute l'aire de circulation. Ils bénéficient de la priorité mais ne doivent toutefois pas gêner inutilement les véhicules. La vitesse maximale est fixée à 20 km/h (art. 22b al. 1 et 2 OSR).
Le Tribunal fédéral examine librement si l'introduction d'une zone 30 ou de rencontre est conforme au droit. Il s'impose toutefois une certaine retenue lorsqu'il s'agit de revoir l'évaluation de circonstances locales, que les autorités compétentes connaissent mieux que lui. Les restrictions à la circulation sont liées à des questions d'appréciation complexes. Les autorités locales compétentes disposent dans ce contexte d'un important pouvoir d'appréciation (cf. <ref-ruling> consid. 3.2 p. 548).
3.2 En l'espèce, les recourants allèguent que l'expertise jointe au dossier de mise à l'enquête est lacunaire car elle ne comprendrait pas un plan d'ensemble des routes de la localité et ne démontrerait pas en quoi il y aurait un déficit de sécurité.
Aux termes de l'art. 3 let. d de l'ordonnance du 28 septembre 2001 sur les zones 30 et les zones de rencontre (RS 741.213.3), l'expertise requise selon l'art. 32 al. 4 LCR et décrite plus précisément dans l'art. 108 al. 4 OSR doit comprendre un plan d'ensemble montrant la hiérarchie des routes d'une localité ou de parties de celle-ci. Cette disposition prescrit l'établissement d'un plan d'ensemble, sans toutefois exiger qu'il montre la hiérarchie de toutes les routes de la municipalité. Au contraire, elle permet expressément de n'aborder qu'une partie du réseau routier local. Or, en l'occurrence, le réaménagement du réseau routier est limité au centre ville de Monthey et ne modifie pas les itinéraires d'accès, ce qui n'est pas contesté par les recourants. Les plans figurant dans l'expertise, qui présentent la hiérarchie des routes dans le périmètre concerné, sont suffisants pour appréhender le concept de circulation décidé par la commune de Monthey. Les recourants soutiennent par ailleurs en vain qu'un "vrai plan directeur" devrait absolument être adopté; cette exigence ne ressort pas de la disposition précitée et la commune de Monthey a déjà élaboré un plan directeur des espaces publics du centre ville, sur lequel se fonde le projet litigieux.
Ensuite, comme l'a relevé à juste titre le Tribunal cantonal, l'expertise aborde valablement les éléments visés par l'art. 3 de l'ordonnance sur les zones 30 et les zones de rencontre, en particulier l'évaluation des déficits existants ou prévisibles en termes de sécurité (let. c) et l'indication sur le niveau actuel des vitesses (let. d). Les critiques développées par les recourants dans ce contexte concernent plutôt l'admissibilité matérielle des zones 30 et de rencontre.
Les recourants ne peuvent dès lors être suivis lorsqu'ils affirment que l'expertise jointe au dossier de mise à l'enquête était incomplète.
3.3 Les contrôles de vitesse effectués dans le périmètre concerné montrent qu'entre 94.9 % et 99.9 % des véhicules recensés circulent à moins de 30 km/h, et que la vitesse moyenne est de 16 à 21 km/h. L'introduction de zones 30 et de rencontre permettra d'avoir une bonne cohésion entre les règles de circulation et le comportement effectif de la majorité des usagers (expertise let. d). Actuellement, le trafic individuel motorisé dans le centre ville utilise une grande partie de l'espace public, ne laissant aux autres usagers que des espaces résiduels. L'objectif du projet litigieux est de métamorphoser ce lieu de passage en lieu de vie et d'activités urbaines (expertise let. e). L'introduction des zones 30 et de rencontre n'a aucune incidence sur les possibilités de circulation dans le centre ville; le trafic n'est pas entravé, mais seulement modéré. Les sens uniques actuels imposent des détours. La mise en double sens de l'axe des rues du Marquisat et du Théâtre doit permettre de rejoindre le réseau principal de la ville au plus court (expertise let. f). Dans ces circonstances, il est indéniable que l'introduction des limitations de vitesse en cause répond au moins à l'une des conditions de l'art. 108 al. 2 OSR, en tant qu'elle permet d'améliorer la fluidité du trafic sur des tronçons très fréquentés (let. c). Cette mesure est dès lors en principe admissible.
Contrairement à ce que soutiennent les recourants, rien ne s'oppose à ce que les rues du Théâtre et de la Tannerie soient classées en zone de rencontre. Ces rues sont en effet situées dans un quartier commercial (cf. art. 22b OSR), qui abrite de nombreux commerces et s'apprête à accueillir un grand complexe commercial. Par ailleurs, les intéressés allèguent en vain que les rues englobées dans la zone de rencontre ne sont pas homogènes, que le périmètre serait trop grand, que l'instauration d'une telle zone serait génératrice de dangers supplémentaires et que la commune de Monthey "se trompe dans la vision qu'elle a de la Petite Ceinture". De telles affirmations doivent être taxées de vagues, générales et subjectives; elles sont en outre contredites par les experts et par le plan directeur; de toute façon, elles ne sont pas de nature à remettre en cause le projet dans sa globalité. Au demeurant, les recourants n'allèguent ni ne démontrent que les autorités communales auraient excédé les limites de leur large pouvoir d'appréciation. Enfin, comme l'ont souligné les juges cantonaux, les risques de confusion engendrés par la création d'une zone de rencontre à côté de zones 30 et redoutés par les recourants pourront sans autre être évités par une mise en évidence adéquate du début et de la fin de chaque zone, point sur lequel insiste d'ailleurs l'expertise et qui sera encore vérifié dans le cadre de la procédure d'approbation de la signalisation.
Les recourants formulent encore des remarques relatives à la proportionnalité de la mesure et à l'opportunité d'introduire le double sens sur la Petite Ceinture. Ces critiques apparaissent sans consistance. On ne voit en effet pas en quoi une mesure qui tend à améliorer la fluidité du trafic et se trouve en adéquation avec le comportement effectif de la majorité des usagers pourrait être disproportionnée. Quant au grief d'inopportunité, déclaré irrecevable devant le Tribunal cantonal, il échappe également à l'examen du Tribunal fédéral. On peut néanmoins renvoyer aux considérants pertinents de l'arrêt attaqué sur ce point (cf. art. 109 al. 3 LTF), les juges cantonaux ayant apporté une réponse circonstanciée aux doléances des recourants. Enfin, ceux-ci ne peuvent rien tirer du fait que les autorités communales n'ont pas pris en compte les remarques qu'ils avaient formulées lors de l'adoption du projet. Leur droit d'être entendu a en effet été respecté dans le cadre de la procédure de mise à l'enquête, exécutée dans les formes (cf. consid. 2 ci-dessus), et la commune de Monthey n'était en aucun cas liée par les suggestions des opposants.
3.4 Il résulte de ce qui précède que l'instauration des zones 30 et de rencontre sur les voies publiques concernées par le projet litigieux ne viole pas le droit fédéral.
4. Entièrement mal fondé, le recours doit être rejeté. Les recourants, qui succombent, doivent supporter les frais judiciaires, solidairement entre eux, et n'ont pas droit à des dépens (art. 66 al. 1 et 5 et art. 68 LTF). La commune de Monthey, qui agit dans l'exercice de ses attributions officielles, n'a pas droit à des dépens (art. 68 al. 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, fixés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Le présent arrêt est communiqué au mandataire des recourants, à la Commune de Monthey, au Conseil d'Etat et au Tribunal cantonal du canton du Valais, Cour de droit public, ainsi qu'à l'Office fédéral des routes.
Lausanne, le 4 juin 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Mabillard