Da Frisinnede Venstre ble dannet i 1909, som en slags arvtager etter Samlingspartiet, sluttet Holtsmark seg til det nye partiet. Fra 1910 til 1912 var han landbruksminister i Wollert Konows regjering, som var utgått av Høyre og Frisinnede Venstre.