Han gikk på en militærskole i Modena, men ga seg i 1892. I 1899 investerte han i etableringen av Fiat. Der ble Agnelli administrerende direktør i 1902 og etter å ha kjøpt seg opp til stor aksjemajoritet, styreformann i 1920. Under den første verdenskrig leverte han til krigsmaskineriet samt investerte i transatlantisk transport sammen med Riccardo Gualino (1879–1964). Agnelli støttet Benito Mussolini som i 1923 ga ham en plass i senatet. Med Gualino investerte han i La Stampa, men samarbeidet endte i 1926. I 1927 etablerte han investerings-selskapet IFI (i dag Exor), et slags holdingselskap for hans og Agnelli-familiens varierte eierskap.