Gaddafi var det yngste barnet i en bondefamilie. Han vokste opp i ørkenregionen i Surt. Han fikk en tradisjonell religiøs barneskoleutdannelse og gikk så på ungdomsskole i Fezzan fra 1956 til 1961. Gaddafi og en liten gruppe med venner som han traff på denne skolen, ble senere kjernen i gruppen av militante revolusjonære som etterhvert overtok landet. Gaddafis inspirasjon var Gamal Abdel Nasser, president i nabolandet Egypt, som ble president ved å appellere til arabisk enhet. I 1961 ble Gaddafi utvist fra skolen på grunn av sin politiske aktivisme.