Museet ble etablert i 1912 som et av de første friluftsmuseer i Danmark. Grunnleggeren var en lokal malermester, som var interessert i bygningshistorie. Under sin vandring som malersvenn i Europa omkring år 1900 ble Knudsen inspireret av Tysklands innsats for å bevare sine historiske bygninger. Det ble begynnelsen på Glud Museum. Stedets første bygning var Rasmus Thomesøns hus fra 1662, som var en tidligere festegård rett ved Glud kirke.