लेखा के अतिरिक्त महानियंत्रक के रूप में सार्वजनिक वित्तीय प्रबंधन प्रणाली के विकास और कार्यान्वयन के रूप में उनके काम को काफी सराहा गया है। श्री गुप्ता प्रत्यक्ष लाभ हस्तांत्रण के लिए सूचना प्रौद्योगिकी बुनियादी ढांचा तथा भारत सरकार के अन्य वित्तीय प्रबंधन मॉड्यूल की रीढ़ रहे हैं।