Faits: A. Le 13 juillet 2005, A._ et B._ ont acquis les parcelles 121 et 126 du cadastre de Veytaux, sises au n° 26 de l'avenue de Chillon. Ces bien-fonds sont classés en zone de villas selon le règlement communal sur le plan d'extension et la police des constructions approuvé par le Conseil d'Etat le 9 juillet 1980 (ci-après: le RPE). Ils sont tous deux bordés à l'ouest par l'avenue de Chillon, la parcelle 126 étant au surplus enclavée dans la parcelle 121. La parcelle 126 est entièrement occupée par un local commercial d'un seul niveau (bâtiment n° ECA 495) flanqué au sud, sur la parcelle 121, d'un ancien garage (bâtiment n° ECA 371b). La toiture de ces constructions forme une terrasse pour le bâtiment d'habitation contigu à l'est (bâtiment n° ECA 371a), implanté sur la parcelle 121. Ce dernier comporte un sous-sol, un étage et un comble revêtu d'un toit à deux pans. Le local commercial, naguère exploité comme kiosque, et l'ancien garage communiquent par un escalier intérieur avec le sous-sol du bâtiment d'habitation, d'où l'on accède à la terrasse. Dès l'acquisition des parcelles, les intéressés ont entrepris des travaux "en vue d'y exploiter un kiosque à souvenirs ou un bar à café", sans demander d'autorisation. Interpelés par la municipalité de Veytaux (ci-après: la municipalité), ils ont fourni une documentation relative aux travaux en question. Il en découlait qu'ils avaient décidé d'aménager une salle de restaurant dans les locaux précédemment affectés à l'exploitation du kiosque, avec une cuisine dans l'ancien garage et une terrasse, protégée par des stores en toile, sur le trottoir de l'avenue de Chillon. Les 1er et 2 mai 2006, la municipalité a délivré à A._ et B._ un permis de construire et renoncé à soumettre le projet à l'enquête publique, dès lors qu'ils avaient donné suite à toutes les exigences. Le 12 janvier 2007, elle a octroyé aux intéressés le permis d'utiliser. B. Le 10 janvier 2007, A._ et B._ ont déposé une demande d'autorisation tendant à l'aménagement d'une terrasse pour la clientèle de leur restaurant sur la toiture des bâtiments nos ECA 495 et 371b. Le 6 février 2007, la municipalité les a informés qu'elle refusait d'entrer en matière et de leur accorder l'autorisation sollicitée, "compte tenu du fait que l'accès, par le public, à la terrasse envisagée devait obligatoirement se faire par un passage privé, ce qui ne [pouvait] en aucun cas être admis aussi bien par les instances cantonales que communales". Le 12 juillet 2007, A._ et B._ ont déposé une demande de permis de construire concernant l'agrandissement de leur restaurant et la création d'une terrasse publique sur les parcelles 121 et 126. Le projet a pour but la transformation de la terrasse existante en une terrasse de 40 places destinées aux clients du café-restaurant. Des aménagements intérieurs dans le sous-sol du bâtiment n° ECA 371a, liés à cette transformation, sont également prévus, soit notamment la division de l'actuelle chaufferie buanderie en trois petits locaux, dont des toilettes pour la clientèle, ainsi que la pose d'une cloison et d'une porte fermant l'accès à l'étage. L'enquête publique a été ouverte du 22 septembre au 22 octobre 2007. Elle a suscité cinq oppositions, dont celle de C._, copropriétaire de deux appartements dans la PPE "X._" constituée sur la parcelle voisine 117. Une vision locale, organisée par le Service cantonal de l'économie, du logement et du tourisme, a eu lieu le 29 novembre 2007, en présence de représentants de la municipalité, du Service cantonal de l'environnement et de l'énergie, des propriétaires, des exploitants et des opposants. Les instances cantonales consultées se sont déterminées le 3 mars 2008, avec les préavis favorables de tous les services, avec ou sans conditions. Par décision du 22 mai 2008, la municipalité a refusé de délivrer le permis de construire. Elle a constaté que, dans la mesure où l'immeuble de A._ et B._, situé en zone de villas, n'était pas conforme à la destination de la zone, son agrandissement ne pouvait être autorisé, dès lors que les conditions fixées à l'art. 80 de la loi cantonale du 4 décembre 1985 sur l'aménagement du territoire et les constructions (ci-après: LATC) n'étaient pas remplies. C. Par arrêt du 10 juin 2009, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours de A._ et B._ et confirmé la décision de la municipalité du 22 mai 2008. Elle a considéré pour l'essentiel que l'utilisation projetée était commerciale et ne correspondait pas à la définition de la zone de villas des art. 9 ss RPE. D. Agissant par la voie du recours en matière de droit public, A._ et B._ demandent au Tribunal fédéral de réformer l'arrêt du Tribunal cantonal du 10 juin 2009 en ce sens que le permis de construire leur est accordé et qu'ils obtiennent l'autorisation d'aménager une terrasse pour la clientèle de leur restaurant sur la toiture des bâtiments nos ECA 495 et 371b ainsi que d'effectuer les aménagements intérieurs dans le sous-sol du bâtiment n° ECA 371a. Subsidiairement, ils concluent à ce que l'arrêt attaqué soit réformé en ce sens que le permis leur est octroyé pour aménager la terrasse projetée. Ils requièrent en outre la tenue d'une vision locale. Ils se plaignent d'une violation de leur droit d'être entendus, d'une constatation inexacte des faits et d'une application arbitraire du droit cantonal. Le Tribunal cantonal ainsi que la municipalité concluent au rejet du recours. C._ s'en remet à justice quant au sort du recours. Le Service cantonal de l'économie, du logement et du tourisme confirme son autorisation spéciale et, pour le surplus, s'en remet à justice. Le Service cantonal de l'environnement et de l'énergie renvoie aux considérants de l'arrêt cantonal.