Knud Rasmussen ble født i Ilulissat (Jakobshavn) på Grønland. Faren var misjonæren Christian Rasmussen, som bodde og fungerte som prest i byen i over 20 år, og som giftet seg med Lovise Fleischer, en kvinne fra lokalbefolkningen. Knud Rasmussen vokste opp med en sterk inuittisk påvirkning og lærte som grønlandsk gutt å håndtere både jaktvåpen, kajakk og hundeslede.