Faits:
A. La parcelle 390 de la commune de Sierre se situe au centre-ville, non loin de la gare. Elle est bordée au nord par l'avenue Général Guisan et au sud par la rue du Quai, qui longe la voie CFF. La surface de ce bien-fonds (2'898 m2) classé en zone constructible est en grande partie occupée par le bâtiment "Casino", comprenant plusieurs étages avec notamment des commerces, un hôtel, un parking souterrain public et un entrepôt. Sur la partie est de la parcelle, une bande de terrain non bâtie a été aménagée pour permettre l'accès en véhicule audit parking, ainsi qu'au bien-fonds adjacent 391, au bénéfice d'une servitude de passage inscrite au registre foncier. Cette voie bidirectionnelle, appelée rue des Polychromes, est interdite à la circulation, à l'exception des ayant droit et des usagers du parking. Reliant l'avenue Général Guisan à la rue du Quai, elle est toutefois régulièrement empruntée par les automobilistes, qui y voient une facilité permettant de rejoindre la gare.
Le développement du projet d'aménagement du centre-ville de Sierre a conduit la commune à ouvrir, dès le mois de février 2004, des négociations avec la communauté des copropriétaires par étage du bâtiment "Casino" (ci-après: la CPPE) en vue d'affecter la rue des Polychromes au domaine public. Les discussions ont porté successivement sur une cession pure et simple (février 2004), sur un paiement de 150 fr./m2 (avril 2004), puis de 800 fr./m2 (février 2007). Divers problèmes et incertitudes quant à la circulation et à la sécurité devaient en outre être réglés. Le 18 septembre 2007, le conseil municipal de Sierre a accepté d'acquérir ces quelque 485 m2 de la parcelle 390 pour le dernier prix susmentionné. Au début de l'année 2008, un notaire a été chargé d'instrumenter l'acte de vente qui n'a cependant pas pu être conclu. Le 4 décembre 2008, le bureau fiduciaire administrant la CPPE a constaté que cette vente n'avait pas pu être concrétisée, certains copropriétaires ayant refusé de donner leur accord.
Le 22 mai 2009, la commune de Sierre a publié au Bulletin officiel le projet de réaménagement de la rue des Polychromes. L'opposition de la CPPE a été levée après une séance de conciliation tenue le 1er juillet 2009. Le 27 août suivant, le notaire en charge de la vente de gré à gré projetée a constaté qu'il paraissait désormais vain d'espérer une conclusion de ladite vente, à laquelle il avait été décidé de renoncer au profit de la procédure d'expropriation qui était déjà engagée.
Le projet de réaménagement routier a été approuvé par le Conseil d'Etat le 21 octobre 2009.
B. Après une séance tenue sur place le 28 septembre 2010, la procédure d'expropriation s'est poursuivie jusqu'aux décisions de la commission d'estimation en matière d'expropriation (ci-après: la commission) du 1er septembre 2011. La commission a fixé un prix de 125 fr./m2 pour la bande de terrain située au nord et aménagée en trottoir le long de l'avenue Général Guisan et a refusé toute indemnité pour la surface à l'est, occupée par la rue des Polychromes.
Par arrêt du 28 mars 2012, le Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a rejeté dans la mesure où il était recevable le recours de la CPPE et de vingt-six copropriétaires contre les décisions de la commission du 1er septembre 2011. Il a considéré en substance que la rue des Polychromes était une route privée desservant les immeubles bordiers et qu'il n'y avait pas de raison de s'écarter de la règle selon laquelle il n'est pas alloué d'indemnité pour le transfert de routes privées dans le domaine public. Il a par ailleurs confirmé le montant de l'indemnité fixée pour l'expropriation du trottoir sur l'avenue Général Guisan, correspondant à un quart de la valeur vénale du terrain.
C. Agissant par la voie du recours en matière de droit public et du recours constitutionnel subsidiaire, X._, la société Y._ SA et Z._ demandent au Tribunal fédéral d'annuler l'arrêt précité et d'enjoindre la commune de Sierre à verser une indemnité de 800 fr./m2 pour la surface occupée par la rue des Polychromes et de renvoyer la cause à la commission pour procéder à un réexamen de la valeur de la surface utilisée comme trottoir sur l'avenue Général Guisan. Les recourants se plaignent pour l'essentiel d'une appréciation arbitraire des preuves et d'une violation de leur droit d'être entendus ainsi que des principe de l'égalité de traitement et de la garantie de la propriété.
Le Tribunal cantonal renonce à se déterminer. La commission a transmis le dossier complet de la cause, sans prendre de conclusions. La commune de Sierre conclut implicitement à la confirmation de l'arrêt attaqué.

Considérant en droit:
1. 1.1 Les recourants ont formé, en un seul acte (<ref-law>), un recours en matière de droit public et un recours constitutionnel subsidiaire. Le second étant irrecevable en cas de recevabilité du premier (<ref-law>), il convient d'examiner en priorité si la voie du recours en matière de droit public est ouverte.
1.2 La voie du recours en matière de droit public au sens de l'<ref-law> est ouverte contre une décision en matière d'expropriation fondée sur du droit cantonal, aucune des exceptions prévues à l'<ref-law> n'étant réalisée. Les recourants ont pris part à la procédure de recours devant le Tribunal cantonal et sont particulièrement touchés par l'arrêt attaqué, qui leur alloue une indemnité largement inférieure à celle qu'ils avaient requise. Ils ont donc la qualité pour agir au sens de l'<ref-law>. Pour le surplus, les autres conditions de recevabilité sont remplies, si bien qu'il y a lieu d'entrer en matière.
1.3 La voie du recours en matière de droit public étant ouverte, le recours constitutionnel subsidiaire est irrecevable.
2. A titre de mesure d'instruction, les recourants requièrent une inspection locale. Il n'y a pas lieu de donner suite à cette requête, le Tribunal fédéral s'estimant suffisamment renseigné pour statuer sur la base du dossier, lequel comprend notamment plusieurs plans de situation ainsi que des photographies du passage litigieux.
3. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus par l'<ref-law>. Selon la jurisprudence, l'appréciation des preuves ou l'établissement des faits sont arbitraires (art. 9 Cst.; pour une définition de l'arbitraire cf. <ref-ruling> consid. 3.1 p. 265 s.; <ref-ruling> consid. 3.1 p. 153) lorsque l'autorité n'a manifestement pas compris le sens et la portée d'un moyen de preuve, si elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision ou lorsqu'elle tire des constatations insoutenables des éléments recueillis (<ref-ruling> consid. 2.1 p. 9; <ref-ruling> consid. 2a p. 41).
3.1 En début de mémoire, les recourants présentent un résumé des faits et apportent des précisions aux constatations des juges cantonaux. Une telle argumentation, dans la mesure où elle s'écarte des faits établis dans l'arrêt attaqué ou les complète, sans qu'il soit indiqué que ceux-ci seraient manifestement inexacts ou arbitraires, est irrecevable, le Tribunal fédéral n'étant pas une instance d'appel (<ref-ruling> consid. 3 p. 104 s.; <ref-ruling> consid. 5.2.2 p. 322).
3.2 Les recourants contestent par ailleurs l'appréciation du Tribunal cantonal selon laquelle la bande de terrain expropriée aurait un caractère routier. Pour les juges cantonaux, les photographies au dossier, qui montrent une voie bitumée dotée d'une signalisation routière, sont éloquentes. L'usage qui en est fait le serait également: la rue des Polychromes sert d'accès aux véhicules pour gagner le parking public du Casino et pour acheminer les marchandises vers le quai de déchargement utilisé par le magasin PAM. Elle est aussi empruntée par les ayants droit de l'immeuble voisin, sis sur la parcelle 391, au bénéfice d'une servitude de passage, et régulièrement utilisée comme voie de déviation, lorsque l'avenue Général Guisan est fermée. Ces constatations de fait et les déductions qu'en ont tirées le Tribunal cantonal échappent à l'arbitraire. Les recourants tentent en vain de démontrer, par une argumentation au demeurant appellatoire, qu'il ne s'agirait pas d'une route (privée) mais d'un accès privatif. Ils ne contestent en particulier pas que la rue des Polychromes, même si elle est interdite à la circulation, est devenue un raccourci permettant aux automobilistes de rejoindre la gare, ce qui souligne, de fait, son caractère routier. A cet égard, on peut relever que, contrairement aux allégations des recourants, les juges cantonaux n'ont jamais prétendu qu'il s'agissait d'une "voie ouverte à la circulation", mais plutôt d'une route privée. Mal fondé, leur grief doit être rejeté et le Tribunal fédéral est par conséquent lié par les faits retenus dans l'arrêt attaqué conformément à l'<ref-law>.
4. Les recourants se plaignent d'une violation de leur droit d'être entendus. Ils reprochent aux juges cantonaux d'avoir refusé la production de l'acte de vente du 16 novembre 2011 relatif à l'achat par la commune de Sierre de places de parc sises sur une parcelle voisine, document qu'ils avaient requis à l'appui de leur grief d'inégalité de traitement. Ils font en effet valoir que leurs voisins ont pu vendre à la commune de Sierre une surface de 63 m2, affectée à des places de parc, pour un montant de 1'190.50 fr./m2 alors qu'eux-mêmes ne reçoivent aucune indemnité pour l'expropriation du terrain occupant la rue des Polychromes. Il apparaît toutefois que ces deux situations ne sont pas similaires: une bande de terrain qui est utilisée pour le passage de véhicules automobiles et qui n'offre aucune possibilité raisonnable de bâtir ne peut être comparée à une surface affectée à des places de stationnement. Il ne saurait dès lors y avoir d'inégalité de traitement en l'espèce, ce qui vide de sa substance la question d'une éventuelle violation du droit d'être entendu. Ces deux griefs doivent par conséquent être écartés.
5. Les recourants invoquent la garantie de la propriété.
5.1 Ils dénoncent à cet égard une violation de l'art. 26 Cst., qui prévoit à son al. 2 qu'une pleine indemnité est due en cas d'expropriation, et de l'art. 6 de la Constitution du 8 mars 1907 du canton du Valais (ci-après: Cst./VS). Ils prétendent que l'art. 6 Cst./VS leur accorde une protection plus étendue que celle découlant de l'art. 26 Cst., dans la mesure où il dispose que la loi peut, pour cause d'utilité publique, déterminer les cas d'expropriation, sans indemnité, des terrains bourgeoisiaux et communaux (al. 3). Ils en déduisent que l'exception au principe de l'indemnisation pleine et entière ne peut porter que sur des terrains bourgeoisiaux et communaux. Leur raisonnement ne peut toutefois être suivi. Cette disposition laisse en effet la faculté au législateur de faire figurer dans la loi cantonale du 8 mai 2008 sur les expropriations (ci-après: LEx/VS) une telle clause d'exception, mais ne saurait a priori exclure l'application de règles tirées de la jurisprudence fédérale à des cas particuliers d'expropriation sans indemnisation. L'art. 6 Cst./VS n'a dès lors pas de portée propre dans le présent contexte et le grief des recourants doit en principe être examiné au regard du droit constitutionnel fédéral (cf. <ref-ruling> consid. 3a p. 126).
5.2 Saisi d'un recours en matière de droit public portant sur une indemnité d'expropriation, le Tribunal fédéral jouit d'un pouvoir d'examen libre si le principe même de l'indemnisation est en jeu. Il en va de même lorsque la question litigieuse porte sur la constitutionnalité du droit cantonal déterminant au regard de l'exigence d'une pleine indemnité contenue à l'art. 26 al. 2 Cst. En revanche, son pouvoir d'examen est limité à l'arbitraire si le recourant critique simplement l'application du droit cantonal qui régit le mode de fixation de l'indemnité ou les méthodes d'estimation utilisées et le résultat de l'estimation (cf. <ref-ruling> consid. 2c p. 173; <ref-ruling> consid. 1a p. 25; <ref-ruling> consid. 1b p. 201 et les arrêts cités).
En l'espèce, les recourants se plaignent exclusivement de la méthode d'estimation utilisée et du montant insuffisant de l'indemnité qui leur a été allouée pour la surface de leur parcelle touchée par l'expropriation. Ainsi formulé, leur grief tiré de la violation de l'art. 26 Cst. se confond avec celui de l'arbitraire et doit être examiné au regard des principes déduits de l'art. 9 Cst.
Selon la jurisprudence, une décision est arbitraire au sens de l'art. 9 Cst. lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté ou encore heurte de manière choquante le sentiment de la justice et de l'équité (cf. <ref-ruling> consid. 2.2 et 2.3 p. 246 s.; <ref-ruling> consid. 1.3 p. 261 s.; <ref-ruling> consid. 2.1 p. 120 et les arrêts cités). Le Tribunal fédéral ne s'écarte ainsi de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction manifeste avec la situation effective, ou si elle a été adoptée sans motifs objectifs et en violation d'un droit certain. En outre, il ne suffit pas que les motifs de la décision critiquée soient insoutenables, encore faut-il que cette dernière soit arbitraire dans son résultat (<ref-ruling> consid. 5.1 p. 17).
5.3 Dans la décision entreprise, le Tribunal cantonal a relevé que la surface expropriée comprenait deux secteurs distincts et a confirmé la décision de la commission qui fixait un prix de 125 fr./m2 pour la bande de terrain aménagée en trottoir le long de l'avenue Général Guisan et refusait toute indemnité pour la surface occupée par la rue des Polychromes. Les recourants contestent ces deux volets de l'arrêt attaqué.
5.3.1 S'agissant de la bande de terrain aménagée en trottoir, le Tribunal cantonal s'est référé à une affaire similaire qui avait trait à l'expropriation de surfaces occupées par des trottoirs, en ville de Sierre, à quelque 250 m de la parcelle litigieuse. Il avait réformé la décision de la commission, qui avait arrêté l'indemnité à la valeur vénale de 500 fr./m2, et jugé que les surfaces concernées étaient des avants-terrains entièrement frappés d'alignement, et donc inconstructibles, qui ne contribuaient en rien à la valorisation du solde du terrain. En conséquence, la valeur déterminante de ces bandes de terrain ne représentait que le quart de la valeur vénale. En l'espèce, la surface bordant l'avenue Général Guisan revêtait les mêmes caractéristiques que celles jugées dans l'affaire susmentionnée; inconstructible et utilisée comme espace piétonnier, il s'agissait d'un élément de la zone routière qui n'exerçait aucun effet de structuration de l'espace privé, de protection ou de détente pour l'immeuble "Casino". Partant, il était justifié d'évaluer le prix du m2 exproprié en tenant compte de ces éléments, ce qui induisait une réduction de la valeur vénale.
Les recourants estiment que la motivation précédente est insoutenable et viole la garantie de la propriété. A leur avis, "ce n'est pas parce qu'un bien-fonds est utilisé sans droit par le public qu'il perd de sa valeur"; sinon, une utilisation abusive aurait pour conséquence de pénaliser les administrés qui font preuve de tolérance. Cette critique est manifestement déficiente sous l'angle de la démonstration de l'arbitraire (cf. consid. 5.2 ci-dessus). Quoi qu'il en soit, il ne ressort pas des faits retenus dans l'arrêt attaqué que le trottoir serait utilisé sans droit par les piétons, et l'on ne voit de toute façon pas en quoi cet élément serait susceptible d'altérer le raisonnement des juges cantonaux, lequel échappe au demeurant à l'arbitraire.
5.3.2 En ce qui concerne la rue des Polychromes, après avoir confirmé le caractère routier de celle-ci, la cour cantonale a rappelé la règle générale selon laquelle il n'est pas alloué d'indemnité pour le transfert de routes privées dans le domaine public, pour peu que l'usage commun de ces voies devenues publiques reste ouvert à leur ancien propriétaire (cf. arrêt 1P.851/2005 du 3 mars 2006 consid. 3.3 et les références). Les recourants ne contestent pas cette jurisprudence, pas plus qu'ils ne démontrent en quoi l'arrêt attaqué serait insoutenable sur ce point. Ils se contentent d'alléguer que l'ouverture de la rue des Polychromes au trafic public aurait plus d'inconvénients que d'avantages, que la sortie du parking serait non seulement rendue plus difficile mais plus dangereuse et que le trafic générerait des vibrations qui provoqueront des fissures à l'immeuble "Casino". Ces éléments ne permettent pas de remettre en cause la jurisprudence précitée, ni de conclure à l'arbitraire de la motivation attaquée. Les recourants estiment par ailleurs en vain que la commune de Sierre devait être contrainte à indemniser les expropriés, comme elle était prête à le faire, pour un montant de 800 fr./m2. En effet, comme l'ont relevé les juges cantonaux, une entente sur l'indemnité ne lie les parties que si elle a été conclue en la forme écrite; elle est communiquée au président du collègue d'experts, qui la transmet avec son visa au registre foncier compétent (art. 26 al. 2 LEx/VS). Or, aucune pièce au dossier ne permet d'admettre qu'une éventuelle entente sur l'indemnité aurait été formalisée de la sorte. L'acte de vente rédigé par le notaire en charge de l'instrumentation est demeuré à l'état de projet. L'offre de la commune ne liait dès lors pas la commission (cf. art- 39 al. 3 LEx/VS).
5.4 Mal fondé, le grief tiré d'une violation de la garantie de la propriété doit être rejeté.
6. Il résulte de ce qui précède que le recours en matière de droit public doit être rejeté dans la mesure où il est recevable et que le recours constitutionnel subsidiaire est irrecevable. Les frais judiciaires sont mis à la charge des recourants qui succombent, solidairement entre eux (art. 65 et 66 al. 1 et 5 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est rejeté dans la mesure où il est recevable .
3. Les frais judiciaires, fixés à 4'000 fr., sont mis à la charge des recourants, solidairement entre eux.
4. Le présent arrêt est communiqué aux parties, à la Commune de Sierre, à la Commission d'estimation en matière d'expropriation du canton du Valais et au Tribunal cantonal du canton du Valais, Cour de droit public.
Lausanne, le 7 septembre 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Mabillard