Coba jelasin Karier akademik di Indonesia dari H.J. de Graaf dong

Pada tahun 1931 ia meninggalkan layanan sipilnya dan menjadi kepala sekolah di Malang, dan kemudian Kota Probolinggo. Pada tahun 1935 ia kembali ke Leiden untuk meraih gelar doktor. Supervisornya adalah H. T. Colenbrander, yang karya-karyanya awalnya memicu minatnya dalam sejarah Indonesia. Disertasinya tentang pembunuhan Kapten François Tack di istana Mataram pada tahun 1686 merupakan "tengara dalam studi sejarah Jawa", menurut M. C. Ricklefs. Berbeda dari sejarahwan yang telah mempelajari sejarah Jawa sebelum dia, de Graaf menggabungkan sumber-sumber Jawa dan sumber-sumber Eropa serta metode sejarah.

Masih pada tahun 1935, ia kembali ke Hindia Belanda dan kembali mengajar di Surakarta. Dia mengajak siswa-siswanya dari Jawa untuk mengunjungi situs-situs bersejarah dan tempat-tempat suci Islam di seluruh pulau Jawa, meskipun sekolahnya adalah sekolah Protestan. Selama liburan sekolah, dia melanjutkan penelitian di Batavia, menerbitkan artikel tentang pemberontakan Trunajaya dan jatuhnya Kesultanan Mataram. Dia juga menulis untuk Cina Geschiedenis pada tahun 1941. Ketakutan akan isi pekerjaan ini yang tidak mendukung Jepang membuat penerbitnya menghancurkan sebagian besar naskahnya pada tahun 1942, tatkala Jepang mengambil alih Hindia belanda sebagai bagian dari Perang Dunia II.

Dia kemudian ditahan dan menghabiskan perang di beberapa kamp dan berteman dengan ahli botani C. C. Berg. Istrinya ditahan secara terpisah di kamp wanita, dan pada tahun 1944 putri mereka Elisabeth Anna meninggal dalam usia sembilan tahun di kamp itu.

Perang Dunia II diikuti oleh Revolusi Nasional Indonesia (1945-9) membuat Indonesia yang baru merdeka melawan Belanda yang mencoba untuk mendapatkan kembali jajahannya. Dia mengajar sebentar di Bandung sebelum Berg mengundangnya ke Jakarta untuk mengajar perguruan tinggi yang sekarang bernama Universitas Indonesia. Ia menerima undangan itu dan tinggal di Jakarta sampai tahun 1950. Selama periode ini ia menulis berbagai karya, termasuk Mahkota Majapahit (belanda": Over de kroon van Madja-Pait, 1948) dan Sejarah Indonesia (belanda": Geschiedenis van Indonesië, 1949) yang terkenal. Dia juga membuat perjalanan penelitian ke Belanda pada 1947-1948, memelajari arsip VOC yang dikirim kepadanya di Arnhem dari Den Haag. Ia juga merasakan kekecewaan atas kepemimpinan seorang pemimpin muda Soekarno atas Republik Indonesia.

Kekecewaan ini, serta khawatir akan keselamatan isterinya yang mengajar sebagai orang asing di Indonesia, dan frustrasi atas tidak diangkatnya dia menjadi profesor—dia pikir ini dijanjikan untuknya—membuatnya memtuskan untuk meninggalkan Indonesia selamanya pada tahun 1950.