Der große Erfolg für Powell stellte sich jedoch erst mit Beginn des Tonfilms Ende der 1920er-Jahre ein, der auch seine angenehme Stimme zur Geltung brachte. Der Kriminalfilm "The Canary Murder Case" von 1929, in dem er den aus den Romanen von S. S. Van Dine bekannten Privatdetektiv "Philo Vance" darstellte, etablierte ihn in positiveren Rollen. Powell drehte einige Melodramen mit Kay Francis, mit der er 1932 gleichzeitig zu Warner Brothers wechselte. Im selben Jahr hatte er mit Francis zwei kommerziell erfolgreiche Auftritte in "Ein Dieb mit Klasse" und "Reise ohne Wiederkehr". Endgültig zum Filmstar wurde er 1934 nach einem Wechsel zu MGM, wo er mit der Rolle des wohlhabenden Hobby-Detektivs Nick Charles in der Kriminalkomödie "Der dünne Mann" großen Erfolg hatte. Mit seiner Filmpartnerin Myrna Loy, neben der er zuerst in "Manhattan Melodrama" spielte, bildete er bis 1948 in insgesamt 14 Filmen ein Leinwandpaar, darunter in auch in den fünf noch folgenden "Dünner-Mann"-Kriminalkomödien um Nick Charles und dessen Ehefrau Nora. Powell erhielt für "Der dünne Mann", mit dem er sein Talent für elegante Salonkomödien unter Beweis stellte, auf der Oscarverleihung 1935 seine erste Nominierung für den Oscar als bester Hauptdarsteller. Weitere Nominierungen sollten für die Komödien "Mein Mann Godfrey" und "Unser Leben mit Vater" folgen.