देश में पहली बार औपचारिक स्थापना 7 सितंबर 1925 को हुई जब आईएचएफ ने ग्वालियर में एक मीटिंग के दौरान कर्नल ब्रुस टर्नबुल को अपना अध्यक्ष और एनएस अंसारी को सचिव के रूप में चुना। 10 मार्च 1928 वह दिन जब 13 सदस्यीय भारतीय हॉकी टीम (तीन खिलाड़ियों लंदन में टीम के साथ जुड़े थे) ने मुंबई से लंदन के लिए उड़ान भरी। इस समय आईएचएफ के दो अधिकारी और एक पत्रकार टीम के साथ इस एतिहासिक मौके का गवाह बनने के लिए मौजूद थे। भारतीय टीम के विमान ने 10 मार्च 1928 को लंदन के टिल्बरी डोक्स पर लैंड किया और यहां से एम्सटर्डम के लिए टीम रवाना हुई। इस समय भारत अंग्रेजी हुकूमत के अधीन आता था और 1908 और 1920 ओलंपिक में स्वर्ण पदक जीतने वाली इंग्लिश टीम ने अपनी टीम ना भेजते हुए भारतीय टीम को भेजने का निर्णय लिया। 17 मई 1928 को भारतीय टीम ने ओलंपिक में अपना पहला मुकाबला खेला जहां ऑस्ट्रिया के खिलाफ 6-0 से टीम ने जीत हासिल की। इसके बाद भारतीय टीम ने टूर्नामेंट में रूकने का बिल्कुल नाम नहीं लिया और बेल्जियम को 9-0, डेनमार्क को 5-0 और स्विजरलैंड को सेमीफाइनल में 6-0 से मात देकर फाइनल में कदम रखा जहां स्वर्ण पदक के लिए उन्हें हॉलैंड से भिड़ना था।