Il Museo è nato dal Museo del Dipartimento del Caucaso della Società Geografica Imperiale Russa, fondato il 10 maggio 1852 e trasformato nel Museo del Caucaso su iniziativa dell'esploratore tedesco Gustav Radde nel 1865. Dopo che la Georgia ha riconquistato la sua indipendenza dalla Russia (1918), il museo è stato ribattezzato Museo della Georgia nel 1919. Noe Kipiani è stato il primo direttore del museo. Gran parte della sua collezione fu evacuata dal governo georgiano in Europa dopo che i bolscevichi presero il potere nel 1921, ed è stata restituita alla Georgia sovietica grazie agli sforzi dell'emigrante georgiano Ekvtime Takaishvili nel 1945. Nel 1947, il museo prese il nome da lo storico georgiano Simon Janashia. Il Museo ha sofferto notevolmente durante gli anni delle turbolenze post-sovietiche in Georgia all'inizio degli anni '90. Fu danneggiato dapprima durante i combattimenti durante il colpo di stato militare del 1991-1992 e poi parte della sua collezione fu distrutta da un incendio. Nel 2004, il Museo Janashia è stato integrato con altri importanti musei georgiani nell'ambito di un sistema di gestione congiunto del Museo Nazionale della Georgia.