Omkring år 1900 begynte Klein å interessere seg særlig for matematikkundervisning i skolene, og i 1908 ble han valgt til president i det nystartede (ICMI). Under Kleins ledelse publiserte den tyske grenen av ICMI en stor mengde bøker om undervisning i matematikk på alle nivåer.