G.O. Sars' foreldre var Michael Sars (1805–1869) og Maren Cathrine Welhaven Sars (1802–1889). Han var bror av historikeren Ernst Sars og svoger til Fridtjof Nansen, som var gift med hans søster Eva Sars. Sars vokste opp på Manger i Nordhordland der faren var sogneprest. Han ble sendt på Bergen katedralskole i 1852 og begynte i 1854 på Oslo katedralskole etter at familien flyttet dit. Her tok han examen artium i 1857. Han studerte først medisin, men etter 1. avdeling gikk han over til zoologi og mottok H.K.H. Kronprinsens gullmedalje 1862. Dette ble avgjørende for hans videre karriere. I 1864 fikk Sars og Jonas Axel Boeck ansettelser som de første havforskere for å studere henholdsvis torsk og sild. I 1870 ble han universitetsstipendiat ved Universitetet i Oslo, i 1874 ble han professor, et sete han holdt til 1918, 81 år gammel. Men han fortsatte sitt vitenskapelige arbeid ved universitetet, som statsstipendiat fra 1918, helt til han døde, nesten 90 år gammel, i 1927.