Garbarek ble født i en leir på Mysen for såkalte «displaced persons». Den tyske SS-Sonderlager Mysen ble overtatt av norske myndigheter og drevet av UNRRA. Hans polske far var i tysk fangenskap under annen verdenskrig og arbeidet på jernbanen i Trøndelag da han møtte Kari Nordbø fra Rennebu, Jan Garbareks mor.