Hans studie av sjeldne jordmetaller førte til hans oppdagelse av ytterbium i 1878 og av gadolinium i 1880. Han var 21 år gammel da han begynte å studere ved École polytechnique i Paris, og fra 1837 til 1839 studerte han ved École des mines, som også ligger i Frankrike. Etter en kortere periode som forsker ved flere laboratorium begynte Marignac i 1841 som professor i kjemi ved akademiet i Genève i Sveits. I 1845 ble Marignac utnevnt til professor i mineralogi også, en posisjon han beholdt frem til 1878, da stadig skrantende helse tvang ham til å gå av som professor. Marignac døde i Genève i 1894 da han var 77 år gammel. Gjennom hele livet hans viste han stor oppmerksomhet til forskjellige sjeldne jordarter, og problemet med å separere og skille disse.