בשנת 1954 הפך צ'אק ויין, גיטריסט ג'אז אמריקאי ויליד ניו יורק, למנהלו המוזיקלי של בנט. בנט הוציא את אלבומו הראשון שאורכו עולה על חצי שעה בשנת 1957, "Cloud 7". ויין הופיע בחלק מרצועות האלבום כגיטריסט וכמעבד, ואף קיבל על כך קרדיט בגב אריזות התקליט והתקליטור. "Cloud 7" הוא האלבום שהראה את זיקתו ואהבתו של בנט לסוגת הג'אז על כל גווניה, החל מג'אז ווקאלי וכלה בג'אז-פופ. באותה השנה עזב ויין את תפקידו ואת מקומו תפס ראלף שרון. שרון עודד את בנט להמשיך ולבצע שירי ג'אז, ולא שירי אהבה נכזבת, שלטענתו, הפכו למאוסים ובלתי-נסבלים לשמיעה.
שנת 1957 הייתה לשנת מפתח בקריירה המוזיקלית של בנט. מעבר לאירועים השונים שקרו בחייו האישיים, הוא הוציא לאור את האלבום "The Beat of My Heart". בחלק משירי האלבום הופיעו מיטב זמרי הג'אז של התקופה, דוגמת הרבי מאן ונאט אדרלי. הוא אופיין בצלילים שהופקו מכלי ההקשה בהשראת ארט בלייקי וג'ו ג'ונס. "The Beat of My Heart" קיבל אהדה רבה מטעם מבקרי המוזיקה, ואף קיבל ציון של ארבעה וחצי כוכבי זהב מתוך חמישה באתר "Allmusic". בנט המשיך לעבוד עם התזמורת של קאונט בייסי, שליוותה אותו באלבום, והפך לסולן הראשי ממין זכר שלה. האלבומים "Strike Up the Band" (1958) ו-"" (1959) היו שיתופי פעולה שהופקו יחד עם התזמורת.
ביוני 1962 הפיק בנט קונצרט מקודם ובעל תמיכה של חברת התקליטים קולומביה רקורדס בקרנגי הול שבניו יורק. הוא אירח שם כמה אמני הג'אז, כמו אל קון, קני בורל, קנדידו קמרו ושלישיית ראלף שארון. זו הייתה הפעם הראשונה שבעלי הקרנגי הול העלו מופע של אמן פופ־ג'אז, למעט הופעתה של ג'ודי גרלנד בשנה לפני כן. המופע כלל ארבעים וארבעה שירים, ביניהם נמנים "I've Got the World on a String" ו-"The Best Is Yet to Come". הצלחתו המסחרית הייתה גבוהה מאוד, ובזכותה התבסס המוניטין הרחב של בנט כזמר ג'אז פופולרי עוד יותר. הקונצרט הוקלט ויצא לאור ב-23 ביולי 1962 בפורמט אלבום הופעה בשם "Tony Bennett at Carnegie Hall". בנט הופיע בד בבד בטלוויזיה, ובאוקטובר אותה השנה אף הופיע בפרק הראשון בהנחיית ג'וני קרסון של "The Tonight Show".
כמו כן, בשנת 1962 יצא לאור הסינגל "I Left My Heart in San Francisco". תחילה הוא הוצע לזמרת אופרה ששמה אינה ידועה, אולם לבסוף בנט הקליט ופרסם את גרסתו. הוא בילה כשנה במצעדי הסינגלים השונים ברחבי העולם והגדיל את חשיפתו של בנט לקהל האירופאי, חרף הגעתו למקום ה-19 במצעד הבילבורד הוט 100 האמריקאי. האלבום "I Left My Heart in San Francisco", בו נכלל השיר, הגיע למקומות ה-17 וה-13 בבילבורד 200 ובמצעד האלבומים הבריטי בהתאמה. כמו השיר גם הוא קיבל תואר זהב מאיגוד תעשיית ההקלטות האמריקאי על נתוני המכירות שלו. בנוסף, "I Left My Heart in San Francisco" הסינגל, זכה בפרס גראמי עבור הקלטת השנה ועבור ביצוע הפופ הווקאלי הטוב ביותר לגבר. בשנת 2001 הוא אף דורג במקום ה-23 ברשימת "השירים המשמעותיים ביותר מבחינה היסטורית של המאה ה-20", שפורסמה על ידי הקרן הלאומית לאמנויות ואיגוד תעשיית ההקלטות האמריקאי.
אלבומו הבא של בנט, ' (1963) הגיע למקום ה-26 בבילבורד 200, והרצועות "" ו-"The Good Life" הגיעו לעשרים השירים הפותחים בבילבורד הוט 100. השני מביניהם אף דורג במקום השביעי במצעד השירים העכשוויים למבוגרים ובמקום ה-27 במצעד הסינגלים הבריטי. הוא נמכר בכ-500,000 עותקים ברחבי ארצות הברית, ועל נתוני מכירות אלה הוענק לו תואר זהב על ידי איגוד תעשיית ההקלטות האמריקאי. לימים השיר נכלל בארבעת האלבומים המצליחים ביותר של בנט, דוגמת "MTV Unplugged" (1993) ו-' (2006).
עם עלייתם של הביטלס בעקבות הוצאת האלבום "A Hard Day's Night" ותחילת עידן "הפלישה הבריטית" בשנת 1964 התרחשה נקודת מפנה במוזיקת המיינסטרים המקובלת. לא עוד שירי פופ וסטנדרטי ג'אז. את מקומם תפסו שירי הרוק, כמו "I Want to Hold Your Hand" ו-"Yesterday". החל מתקופה זו הדרדרה הפופולריות לה זכה בנט כאמן מוביל בסוגת הג'אז, אם-כי במהלכה הוציא לאור כמה אלבומים ושירים שזכו להצלחה מסחרית מידתית: השיר האחרון שלו שהגיע ל-40 השירים הפותחים של הבילבורד הוט 100 הוא "If I Ruled the World", שדורג במקום ה-34 ונכלל ב-"". בשנת 1966 שיחק בסרט "The Oscar" בניסיון להחזיר לעצמו את המוניטין הרחב שהיה לו. אולם ידו לא הייתה על העליונה ומבקרי הקולנוע כינו את כישרון המשחק שלו כ"בינוני".
1965–1979: דעיכה משמעותית בהצלחתו.
בשנת 1965 התפטר ראלף שרון מתפקידו כמנהל המוזיקלי של בנט. מנכ"ל חברת התקליטים קולומביה רקורדס, קלייב דייוויס, ראה את נתוני המכירות של אלבומיו של בנט יורדות בהתמדה. לכן, הציע לו להקליט באלבומו החדש חומרים עכשוויים, שזכו כבר להצלחה מסחרית בשווקים הבין–לאומיים. לטענתו של דייוויס, הרפרטואר של בנט היה מיושן, ולא פנה לקהל הצעיר החדש. באותה תקופה פנתה חברת התקליטים לרבים ממצבת האומנים החתומים בה, דוגמת לנה הורן וברברה סטרייסנד, במטרה לשנות את סוגם המוזיקלי המועדף. חלק מהמוזיקאים ראו בהצעה כהזדמנות להשתלב ברוח העכשווית של מוזיקת המיינסטרים כמו פגי לי, אולם בנט הטיל רבב בהצעת קולומביה רקורדס. – כתב בנט באוטוביוגרפיה שלו. בעצת חברת התקליטים יצא לאור האלבום ', שכלל את "MacArthur Park" של ריצ'רד האריס ו-"Something" של הביטלס. שתי הרצועות זכו להצלחה בין–לאומית באותה התקופה, ועל-כן צופה מ-' להיות אלבום מצליח מאוד של בנט. הציפיות של חברת התקליטים היו לשווא, והאלבום הגיע למקום ה-144 בלבד בבילבורד 200.
בין השנים 1971–1972 הוציא בנט לאור את אלבומי האולפן "Love Story", "Summer of '42" ו-"With Love" שהגיעו למקום ה-67, ה-182 וה-167 בבילבורד 200 בהתאמה. אולם המשיך ונצר במוחו את מורת רוחו כשהתבקש על ידי קולומביה רקורדס לייצר חומר עכשווי. הוא אף השווה את הבקשה הזו לאמו, שהתבקשה מכמה מלקחותיה שחיו מהיד אל הפה לתפור עבורם שמלה "זולה". על רקע הסכסוך בינו לבין קולומביה רקורדס החליט בנט לעזוב אותה ולעבור לחברת ורב רקורדס. לאחר מכן עבר לתקופה ללונדון, שם הנחה תוכנית טלוויזיה בשם "Tony Bennett at the Talk of the Town". יחד עם חברת התקליטים החדשה שלו ניסה עוד כמה סוגות מוזיקליות שונות, כולל עוד כמה יצירות של הביטלס, אך המשיך להיכשל בשווקים הבין־לאומיים מבחינה מסחרית. בעוד כמה שנים נפרע החוזה בינו לבין ורב רקורדס, והוא נותר במשך כמה חודשים ללא ליווי של חברת תקליטים.
בעקבות כך הקים בנט חברת תקליטים משלו בשם אימפרוב רקורדס. הוא הקליט את השיר "", והוציא שני אלבומי אולפן לאור עם ביל אוונס "The Tony Bennett/Bill Evans Album" (1975) ו-"Together Again" (1977). אולם לאימפרוב לא היה הסכם עם חברת תקליטים גדולה שתממן את הוצאותיה, ולכן עד שנת 1977 פשטה את הרגל.
כששנות ה-70 קרבו לסיומן לא היה לבנט חברת תקליטים, מנהל מוזיקלי וקונצרטים שהזמינו אותו מחוץ ללאס וגאס. הוא פיתח התמכרות לסמים, הונו ירד באופן משמעותי, ושירות הכנסות הפנים של ארצות הברית ניסה להוציא צווים משפטיים נגד בנט.
1979–1989: שינוי בקו הקריירה המוזיקלית.
בשנת 1979 לקח בנט מנת יתר של קוקאין, שכמעט גרמה למותו. לאחר מכן התקשר לבניו, דני ודיי, וציין כי הוא מרגיש אבוד הן בחייו האישיים והן בקריירה המקצועית שלו כזמר ג'אז. הוא הוסיף וטען כי קהל היעד הקבוע שלו כבר לא מעוניין להאזין למוזיקה ביצירתו.
גם דני בנט, בדומה לאביו, הגיע לנקודת שפל בקריירת המוזיקה שלו. להקתו, שהוקמה יחד עם אחיו דיי בשם Quacky Duck and His Barnyard Friends, הגיעה למיצוי מבחינה מסחרית. מגבלותיו הווקאליות של דני הורגשו באלבום האחרון של הלהקה, אך הוא התגלה כאיש עסקים מצליח. לעומת זאת, לאביו, היה כישרון מוזיקלי אדיר, אולם לא היה לו ידע פיננסי לתכנן ולכלכל את הקריירה המוזיקלית שלו. לכן, דני הפך למנהל המוזיקלי של אביו. הוא השתלט על ההוצאות הכספיות של אביו, החזיר אותו לניו יורק, והחל לארגן לו הופעות קבועות בקולג'ים ובתיאטראות קטנים כדי לגמול אותו מהתמכרותו לסמים. לאחר מאמץ מסוים הנהיג דני תוכנית פיננסית חדשה ומוצלחת בה יוחזרו כל החובות של בנט לשירותי המס של ארצות הברית. עד שנת 1986 הוחתם בנט מחדש בקולומביה רקורדס, הפעם עם שליטה על תוכני היצירות שהוא מוציא לאור. לאחר מכן פרסם את האלבום "The Art of Excellence", שהגיע למקום ה-160 בבילבורד 200 – האלבום הראשון של בנט שנכנס למצעד מאז 1972.
שיר הנושא "Life in a Looking Glass" של סרט הקולנוע "That's Life" הושר על ידי בנט וקיבל מועמדות לפרס אוסקר בקטגוריית "השיר המקורי הטוב ביותר".
1990–1995: קהל יעד חדש.
דני, בנו של ובנט ומנהלו המוזיקלי, סבר כי המוזיקה של אביו יכולה לקבל אהדה רבה מהקהל הצעיר יותר, שטרם נחשף לשיריו. אף שינוי במראה הפורמלי של בנט, בסגנון השירה, בליווי המוזיקלי (שלישיית ראלף או תזמורת) או בבחירת השיר (בדרך כלל שירים שהוכללו בספר השירים האמריקאי הגדול) לא היו נחוצים כדי לחשוף אותו לקהל צעיר יותר. דני החל להזמין את אביו להתארח בתוכנית "Late Night" של דייוויד לטרמן – תוכנית שכוונה לבני הנוער. לאחר מכן הופיע בנט גם ב-"Late Night" של קונאן או'בריאן, "The Simpsons", "Muppets Tonight" ובתוכניות MTV שונות. בשנת 1993 ניגן בנט בסדרת קונצרטים שאורגנו על ידי תחנות הרדיו של הרוק האלטרנטיבי ברחבי ארצות הברית. התוכנית של דני עבדה; בנט אף סיפר לימים כי השוני והייחודיות שלו בנוף המוזיקלי של בני הנוער באותה התקופה גרמו לו להצלחה.