גאון נחשב לזמר מבוקש הן על ידי הקהל והן על ידי כותבי שירים ומלחינים שרצו שיבצע משיריהם. כך זכה להיות המבצע המוכר בהרבה להיטים של נעמי שמר (כגון: "עוד לא אהבתי די", "לא תנצחו אותי", "כמו חצב" ו"סימני דרך") ושל הפזמונאי חיים חפר והמלחין דובי זלצר (בשיריהם "הנני כאן", "השר משה מונטיפיורי", "רוזה", "לא נפסיק לשיר" ועוד). הוא הוציא אלבומים רבים, בהם אלבומים עם שירים ורומנסות בלאדינו ושירי שבת ומועדים. הוא הרבה לבצע שירים רומנטיים ונחשב כמי שמיזג בשיריו בין מזרח למערב, כשביצועיו שילבו מוזיקת פופ עם נגיעות מזרחיות (כמו בשיר "רוזה"). גאון הרבה לבצע שירי אהבה לארץ ישראל ולירושלים (בהם "שלום לך ארץ נהדרת", "מעל פסגת הר הצופים" ועוד).
במשך תקופה נחשב גאון ל"זמר הבית" של סיירת מטכ"ל ואף כתב לכבודה את "שיר היחידה" שאותיותיו חקוקות באנדרטה לזכר קרב קולה.
כמו כן ביצע את השיר "גולני שלי". לאחר מבצע "צוק איתן" פנה עופר מנדלוביץ', אביו של סמ"ר עוז מנדלוביץ' שנהרג במבצע, אל יוצרי השיר אפי נצר ועמוס אטינגר, כדי שיוסיפו לו עוד בית המדבר על המבצע. שלושתם פנו אל יהורם גאון כדי שיבצע את השיר מחדש, וזה הסכים לכך.
הוא קשר קשרי ידידות עם בכירים בצה"ל, כרמטכ"ל לשעבר דוד אלעזר, האלוף רחבעם זאבי והרמטכ"ל לשעבר דן שומרון. במלחמות ישראל, החל ממלחמת ששת הימים ואילך, הופיע כרבים מהאומנים בפני חיילים בשדות הקרב.
משחק בקולנוע ובטלוויזיה.
גאון שיחק במספר סרטים ישראלים, אשר רובם זכו להצלחה. "התיקון הקטן" מ-1959, "כל ממזר מלך" מ-1968, "מצור" ב-1969 ו"הפריצה הגדולה" מ-1971 שבהן שיחק את דמות הצבר הלוחם.
ב-1964 שיחק בסרטו של מנחם גולן "דליה והמלחים".
ב-1971 כתב, ביים ושיחק בסרט "אני ירושלמי", אוטוביוגרפיה מצולמת עליו ועל משפחתו הירושלמית. הסרט לווה בשירים בביצועו של גאון שכתבו חיים חפר ודובי זלצר, ובהם שירים שהפכו ללהיטים, כגון: "הנני כאן", "השר משה מונטיפיורי" ו"אני עושה לי מנגינות".
סרטים נוספים ששיחק בהם: "קזבלן" מ-1973 הגרסה הקולנועית והמצליחה של המחזמר. בסרט "מבצע יונתן", המגולל את סיפור "מבצע אנטבה", בו שוחררו חטופי המטוס שנחטף לאוגנדה, גילם גאון את דמותו של המפקד שנפל במבצע, יוני נתניהו. הסרט, אשר הופק זמן קצר לאחר האירוע, זכה להצלחה בינלאומית ואף היה מועמד לפרס אוסקר. עבור הסרט הקליט גאון את השיר "ארץ צבי". כמו כן שיחק בשנות השמונים בסרטים "כביש ללא מוצא", ו"המאהב" (על פי ספרו של א.ב. יהושע). ב-2004 עשה גיחה מחודשת לקולנוע לאחר שנים רבות, כששיחק בתפקיד אורח בסרטו של יוסף סידר "מדורת השבט".
הקריירה הטלוויזיונית שלו עשירה אף היא. בין השנים 1983–1986 הוא כיכב בקומדיית המצבים המצליחה "קרובים קרובים" בדמות יורם, האב ההיפוכונדר. בשנת 1998 שיחק במיני סדרת הדרמה "בלש בירושלים" וב-1999 שיחק בסדרת הדרמה "מר מאני". בשנים 2003–2005 הגיש בערבי שבת את תוכנית האירוח והבידור "שישי בגאון" בערוץ הראשון. בשנת 2005 הופיע בפרק האיחוד של "קרובים קרובים". כמו כן, באותה שנה חתם על חוזה טאלנט בשידורי קשת והחל להגיש תוכנית אירוח בשם "ערב טוב ישראל". בשנת 2007 שימש כשופט בתוכנית הכישרונות "הדבר הגדול הבא" בשידורי רשת, ובראשית 2008 שיחק בתוכנית הסאטירה "גם להם מגיע" בערוץ 10.
משנת 2009 עד 2012 הנחה את תוכנית הילדים "גאון של אבא" ששדורה בטלוויזיה החינוכית. בשנת 2010 כיכב לצד יוסי פולק במיני-סדרה הדרמטית "נבלות", ששודרה ב-HOT 3.
בשנת 2011, שיחק בסדרת הדרמה של yes, "אורים ותומים" בתפקיד הרב גרנט. החל משנת 2011 משחק בקומדיית המצבים "סברי מרנן" בתפקיד סילבן חסון.
בשנים 2011–2016 השתתף גאון בצוות המנטורים של תוכנית הטלוויזיה "בית ספר למוזיקה", במסגרת ערוץ 2, בשלוש עונות ברצף.
בשנת 2014 שיחק בתפקיד הראשי בסרט "מבצע חמניה".
ב-2015 גילם את דמותו של בוריס השומר בסרט "גויאבות".
בקיץ 2015 שימש כשופט אורח בתוכנית המציאות "הפייטן" של ערוץ 20. באותה שנה גילם את דמותו של סיימון בסדרה "המדרשה". ב-2017 השתתף בסרט הקולנוע "מבצע ביצה".
עשייתו הציבורית ודעותיו.
גאון נהנה מתמיכה כלל ישראלית ואינו מזוהה עם עמדה או מגזר מסוים, וזאת על אף שבמהלך כל שנות פעילותו הרבה לעסוק בעניינים פוליטיים-ציבוריים. כשחקן, היה לגאון תפקיד בולט במחזמר הביקורתי מבחינה פוליטית "קזבלן". משני תפקידים אחרים הוא פרש מנסיבות פוליטיות-חברתיות; הוא הפסיק להגיש את פרקי הסדרה "תקומה", משום שסבר כי אחד מפרקיה, "בילאדי בילאדי", הוא פרו-פלסטיני, וכן עזב את התוכנית "גם להם מגיע" לאחר שהתקשה לעמוד בגל הביקורות שהופנו כלפי התוכנית וספציפית אליו.
ביוני 1991 הכריז על מועמדותו לראשות עיריית ירושלים, לקראת הבחירות לרשויות המקומיות בנובמבר 1993. לצורך כך הקים מפלגה בשם "אני ירושלמי". תחילה נראה שסיכויו לזכות היו טובים, מאחר שראש העירייה הוותיק, טדי קולק, הודיע על כוונתו לא לרוץ שוב. לאחר שקולק כן החליט לרוץ שוב, ואהוד אולמרט נבחר כמועמד מטעם הליכוד, החליט גאון לרוץ למועצת העיר בלבד. הוא נבחר ומונה למחזיק תיק התרבות. גאון נבחר למשך שתי קדנציות למועצת העיר ירושלים מטעם רשימת "אני ירושלמי". בתפקידו זה הוא קידם תמיכה בלימודי נגינה בכלים המקובלים במוזיקה מזרחית קלאסית. בפברואר 2003, לאחר שראש העירייה אולמרט פרש לטובת חברות בכנסת, הודיע שירוץ לראשות העירייה בבחירות בנובמבר 2003, לבסוף החליט לא להתמודד שוב הן לראשות העירייה והן למועצת העיר.
הדימוי של גאון כזמר לאומי הביא לבחירתו לשיר בטקס קבלת פרס נובל לשלום ב-1994, בו זכו יצחק רבין ושמעון פרס. בשנת 2000, כאשר ראש הממשלה אהוד ברק נתקל בהתנגדות רחבה בישראל ליוזמתו המדינית לחלוקת ירושלים, גייס את תמיכתו של גאון במאבקו על דעת הקהל, על ידי שימוש בתדמיתו הירושלמית השורשית. למרות זאת, בתוכנית הרדיו שלו ביום שישי גאון משמיע לא פעם אמירות אוהדות כלפי המתנחלים. גאון הביע תמיכה גם בבחירתו של עמיר פרץ לראשות מפלגת העבודה.
גאון מגיש החל מ-1997 תוכנית אישית בימי שישי בצהריים ברשת ב' בשם "גאון ברדיו", בה הוא מדבר על אירועים אקטואליים שקרו באותו שבוע ומביע את דעותיו האישיות לגביהן. לאחר סגירת רשות השידור ב-2017, גאון עבר לשדר את התוכנית בגלי צה"ל.
בשנת 2011 התראיין גאון לאלון כץ, אז סטודנט מאוניברסיטת אריאל, ותקף בחריפות את התמלילים של חלק מהמוזיקה הים-תיכונית שהשתלטה לטענתו על הרדיו. הוא כינה אותם "זבל איום שהשטן לא ברא". עם זאת, ציין לטובה זמרים מזרחיים מסוימים כגון שלמה בר ואביהו מדינה. הראיון צוטט בידיעות אחרונות וגרר תגובות זועמות מצד הזמרים המזרחיים וקהל המוזיקה המזרחית. בתוכניתו השבועית הסביר גאון, שאין הוא חוזר בו מדבריו, אך הבהיר שהמוזיקה המזרחית היא ראויה וטובה, אף על פי שיש בה, "הרבה חצץ", כלשונו. דבריו של גאון זכו לתמיכה והזדהות מפי אביהו מדינה, שאמר, בין השאר: "אני איתו, וכל הכבוד שהוא אומר זאת באומץ".
גאון הוא קונסול הכבוד של הונדורס בישראל. כמו כן, הוא משמש כחבר נשיאות עמותת ארקאדאש - קהילת יוצאי טורקיה בישראל. הוא חתן פרס ליבהבר מטעם מכון שכטר למדעי היהדות לשנת 2011. הפרס ניתן עבור תרומה משמעותית להשגת סובלנות דתית ופתיחות תרבותית בישראל.
בשנת 2013 הודיע גאון על כוונתו להופיע בסבסטיה אשר בשומרון. למרות ביקורת בשמאל, הוא לא ביטל את הופעתו ואמר בריאיון לערוץ 7 כי הוא "מרשה לעצמו להופיע בגאווה בכל חלק של ארץ ישראל".
באותה שנה, על רקע ביקורת חריפה שספג הציבור החרדי, ביקר אותם בעצמו בתוכניתו ברשת ב', אך אמר בין היתר על הביטויים החריפים נגדם: "לא הייתי מעז בחלומות הכי רעים שלי לראות באלה שלא נוטלים בנטל או שלא רוצים לימודי ליבה, ושהם אחיי ואחותי ובני עמי, מוקצים מחמת מיאוס. לאחר מה שראיתי ושמעתי בכנסת, בכנסת ישראל, מצאתי את עצמי צועק בקול ולאות הזדהות מוחלטת עם החרדים מצאתי את עצמי צועק 'אני חרדי!' בפירוש כך, כן, 'אני חרדי!'".
ב-18 במאי 2015 אוניברסיטת בר-אילן העניקה ליהורם גאון תואר דוקטור לשם כבוד.
ב-2017 נבחר להשיא משואה בטקס הדלקת המשואות לרגל יום העצמאות ה-69 למדינת ישראל, שעמד בסימן יובל לאיחוד ירושלים.
באפריל 2017, הוציא לאור אוטוביוגרפיה בשם "עוד אני פוסע – סיפור חיי", שכתב עם שי פלד.
בפברואר 2018, בעקבות הפיכתו של מנכ"ל משרד התקשורת המושעה, שלמה פילבר, לעד מדינה בחקירות נתניהו, הגדיר בתוכניתו "גאון ברדיו" בגלי צה"ל, את עד המדינה כ"מלשן" ו"איש קריות", הדגיש את היותו "קודם כל עבריין", וציטט גם מתפילת שמונה עשרה שבה נאמר "למלשינים אל תהיי תקווה". גאון גם סייג את דבריו ואמר "הביטוי מלשן שנוי במחלוקת ותלוי מי הלשין כדי לטהר את החברה ומי הלשין כדי למלט רק את עצמו".
בתחילת שנת 2021, על רקע מבצע חיסוני הקורונה, אמר גאון בראיון טלוויזיוני כי "מי שלא מתחסן ויוצא מהבית הוא רוצח".
ב-16 במאי 2021 הכריז גאון באורח רשמי על התמודדותו לתפקיד נשיא מדינת ישראל, ופתח באיסוף חתימות של חברי הכנסת לקראת הבחירות לנשיאות, אך לבסוף לא התמודד. באותו חודש השתתף בפרק של הסדרה התיעודית "הופרדו בלידתם" של תאגיד השידור הישראלי.
קריירה עסקית.