Hijo de un capitán de policía bávaro, Greim era cadete del ejército antes de la Primera Guerra Mundial y sirvió inicialmente en la artillería antes de ser transferido al servicio aéreo alemán (Fliegertruppe) en 1915.