De Greiff hizo sus primeros estudios en el Liceo Antioqueño adscrito a la Universidad de Antioquia y, después, comenzaría la carrera de ingeniería en la Escuela Nacional de Minas (incorporada a la Universidad Nacional de Colombia desde 1939), para aquel entonces una institución de educación superior independiente de donde sería expulsado junto a otros estudiantes en 1913 por "subversivos y disociadores".