मेयर की प्रतिष्ठा बढ़ने लगी और मार्च 2000 के साउथ बाइ साउथवेस्ट में प्रदर्शन ने उनके प्रति "लॉन्च" लेबल, अवेयर अवार्ड्स का ध्यान आकृष्ट किया। अवेयर फेस्टिवल के संगीत समारोह में उन्हें शामिल किए जाने के बाद तथा उनके गानों को सन 2001 के आरंभ में अवेयर के संकलनों में संग्रहीत किए जाने के बाद अवेयर ने मेयर का रूम फॉर स्क्वायर्स शीर्षक से केवल इंटरनेट एल्बम रिलीज़ किया। उसी वक्त के दौरान, अवेयर ने कोलंबिया रिकॉर्ड्स के साथ एक समझौते पर हस्ताक्षर किया, जिसने कोलंबिया को अवेयर कलाकारों में से चुनने की प्राथमिकता प्रदान की और इसीलिए उसी वर्ष सितम्बर के महीने में, कोलंबिया ने रूम फॉर स्क्वायर्स का रिमेक्स रिलीज़ किया। प्रमुख लेबल के "प्रवेशांक" के एक अंश के रूप में, एल्बम की कलात्मक सज्जा को नवीनता प्रदान की गई, एवं "3x5" ट्रैक को सम्मिलित किया गया। पुनः रिलीज़ में उसके इंडी रॉक एल्बम इनसाइड वौंट्स आउट के प्रथम संपादित स्टूडियो संस्करण भी शामिल थे।सन 2002 के अंत तक, रूम फॉर स्क्वायर्स से कई रेडियो हिट गाने निकले, जिनमें "नो सच थिंग", "यॉर बॉडी इज़ अ वंडरलैंड" और अंत में "व्हाई जॉर्जिया" भी शामिल हैं। सन 2003 में, मेयर ने "यॉर बॉडी इज़ अ वंडरलैंड" के लिए सर्वोत्तम पुरुष पॉप गायन प्रदर्शन का ग्रैमी पुरूस्कार जीता. अपने स्वीकृति अभिभाषण में उन्होंने चर्चा करते हुए कहा, "यह बहुत ही तेज है और मैं वादा करता हूं कि इसे जरुर पकड़ लूंगा." उन्होंने अपने बारे में व्यंग्यात्मक ढंग से कहा कि अभी तो वे सोलह के ही हैं, यह एक ऎसी टिप्पणी थी जिसका लोगों ने उस वक्त उनकी उम्र सिर्फ सोलह की होने का गलत अर्थ लगाया.सन 2003 में, मेयर ने अलबामा, बर्मिंघम में हुए एक संगीत समारोह के सीधे प्रसारण की एनी गिवेंन थर्सडे शीर्षक CD और DVD रिलीज़ की. इस संगीत समारोह में ऐसे कुछ ऐसे गाने प्रदर्शित किए गए जो पहले रिकॉर्ड नहीं किए गए थे, जैसे कि "मैन ऑन द साइड" (कुक के साथ सह लिखित) तथा "सम्थिंग्स मिसिंग" जो बाद में हेवियर थिंग्स में प्रदर्शित हुए. इस संगीत समारोह में "कवर्ड इन रेन को भी शामिल किया गया". साथ ही साथ पेश किए जाने वाले DVD के वृत्तचित्र के अनुसार यह गाना "सिटी लव" के गाने का "द्वित्तीय भाग" हैं, जिसमें "कवर्ड इन रेन" की पंक्तियां भी शामिल हैं। वाणिज्यिक स्तर पर यह एल्बम तेजी से बिलबोर्ड 200 के चार्ट पर सत्रहवें पायदान की ऊंचाई पर पहुंच गया। उनकी CD/DVD को उन आलोचकों से रुढ़िवादी पर समनुरूप अनुकूल प्रशंसा मिली जो उनके पॉप की आदर्श प्रतिमूर्ति तथा कुशल गिटार वादक की उभरती हुई प्रतिभा के बीच विभाजित थे। एरिक क्रावफोर्ड (ऑलम्यूजिक) ने पूछा, "क्या वे केवल उदाहरणीय उत्कृष्ट गिटार वादक ही नहीं लगते, जब वे स्टीव रे वॉन के 'लेन्नी' एक कवर बजाते हैं, अथवा क्या वे केवल नवयुवकों की आदर्श प्रतिमूर्ति नहीं लगते जब यौवन की दहलीज़ पर कदम रखने वाली तरुणिया "यॉर बॉडी इज़ अ वंडरलैंड" के बजाने के बाद चीखती-चिल्लाती और किलकारियां मारती हैं।मेयर का दूसरा एल्बम हेवियर थिंग्स सन 2003 में रिलीज़ किया गया जिसकी आमतौर पर अनुकूल समीक्षा हुई. रॉलिंग स्टोन, ऑलम्यूजिक और ब्लेंडर हालांकि सभी के बारे में आरक्षित ही सही लेकिन सकारात्मक प्रतिपुष्टि मिलीं. पॉपमैटर्स पत्रिका ने कहा कि, "जितनी कोई धारणा कर सकता है, उतनी खामियां इसमें नहीं हैं।" व्यावसायिक स्तर पर यह एल्बम सफल रहा और जबकि रूम फॉर स्क्वायर्स जितनी इसकी बिक्री नहीं हुई, फिर भी यह अमेरिका के बिलबोर्ड 200 के चार्ट में नंबर वन की ऊंचाई पर पहुंच गया। मेयर ने अपने एकल डॉटर्स के गानों के लिए नंबर वन की ख्याति अर्जित तो की ही साथ ही साथ 2005 के ग्रैमी में अपने साथी दावेदारों एलिसिया कीज़ और कान्ये वेस्ट को पीछे छोड़ते हुए साँग ऑफ़ द इयर का खिताब जीता. उन्होंने इस पुरस्कार को अपनी दादी मां, ऐनी हॉफमेन को समर्पित किया, जिनका स्वर्गवास मई 2004 में हो गया। उन्होंने सर्वोत्तम पुरुष पॉप गायन प्रदर्शन का खिताब भी पुरस्कार के अन्य दावेदारों एल्विस कॉसटेलो, प्रिंस एवं सील को हराकर जीता. 9 फ़रवरी 2009 को द एलेन डी जेनर्स शो के एक साक्षात्कार में, मेयर ने कहा कि उन्होंने सोचा था कि साँग ऑफ़ द इयर के लिए ग्रैमी नहीं जीतना चाहिए था क्योंकि उनके ख्याल से एलिसिया कीज़ का इफ आइ ऐन्ट गॉट यू बेहतर गीत था। इस कारण उन्होंने ग्रेमी के ऊपर का आधा हिस्सा हटा कर कीज़ को दे दिया और नीचे का हिस्सा अपने लिए रखा. सन 2006 में, 37वें वार्षिक के गीतकारों के हॉल ऑफ़ फेम इन्डक्शन अवार्ड समारोह में मेयर को हाल डेविड स्टारलाइट पुरस्कार से नवाज़ा गया।मेयर ने पुनः सन 2004 में किए गए अमेरिकी दौरे के सात रातों के संगीत समारोहों के कार्यक्रमों के सीधे प्रसारणों को रिकॉर्ड किया। ऐज़/इज़ के शीर्षक से इन रिकॉर्डिंगस को आई ट्यून म्यूजिक स्टोर ने इस बात की सूचना देते हुए रिलीज़ किया कि अच्छे पलों के साथ ही गलतियों को रहने दिया गया है। कुछ महीने बाद, ऐज़/इज़ नाइट्स के गीतों को संकलित कर "सर्वोत्तम" CD तैयार की गई। इस एल्बम में मार्विन गे के गाने "इन्नर सिटी ब्लूज़ (मेक मी वन्ना हॉल्लर)", के पहले ही अप्रसारित कवर को शामिल किया गया, जिसमें मेयर का एकल अभिनय समर्थन जाज़ और ब्लूज़ टर्नटैब्लिस्ट, डी जे लॉजिक प्रदर्शित किए गए। ऐज़/इज़ रिलीज़ के सारे एल्बमों के कवर पर प्राणियों के मानवीकरण करने हुए मानवतारोची चित्रकारियां दर्शायी गई हैं।