Galleriets historie startet i 1856 da den moskovittiske handelsmannen og industrimagnaten Pavel Mikhailovitsj Tretjakov (1832–98) begynte å anskaffe arbeider av datidens russiske kunstnere, med det formål å opprette en samling som senere kunne vokse til et museum av nasjonal kunst. I 1892 skjenket Tretjakov sin allerede da berømte samling til den russiske nasjon.