Den første idéen om å bygge en jernbane mellom Nesttun og Os ble lansert under planleggingen av Vossebanen i 1870-årene. Den gikk ut på å bygge en litt lengre trasé av Vossebanen, som skulle gå via Os, Samnanger, Norheimsund og Granvin. For at planene skulle vurderes, ble det forventet at Os herred måtte finansiere 20 % av prosjektet. I 1874 ble herredsstyret derfor oppfordret til å kjøpe aksjer for 2000 speciedaler (8000 kroner). Dette ble vedtatt mot at jernbanen ble bygget langs den anbefalte traséen. Saken ble tatt opp på nytt året etter, da investeringen ble avvist av herredsstyret, og Vossebanen ble derfor bygget via Dale i stedet. I 1884 ble det nedsatt en komité i Fana som skulle se på muligheten for å bygge en sidebane fra Nesttun til Fana, men hverken kommunen eller fylket var villig til å gi tilskudd til planene, som derfor ble skrinlagt i 1885. Distriktslege Daniel Schumann Krüger i Os tok samme året initiativet til å bygge en jernbanelinje fra Nesttun til Osøren. Han inviterte forstmester Andreas Tanberg Gløersen til møte med en lokal jernbanekomité for å diskutere idéen om en jernbane til Os. Jernbanen ble da beregnet å koste 885 000 kroner pluss kostnader knyttet til innløsning av eiendommer på strekningen. Staten hadde noen år tidligere kjøpt store skogeiendommer fra Lyse kloster, og Gløersen mente derfor at det var naturlig at staten var med på å finansiere en slik bane med 100 000 kroner fra inntektene fra skogen.