Am 1. August 1914 zum Generalmajor befördert, wurde Goldbach gleichzeitig zum Kommandanten der 32. Infanterie-Brigade ernannt. Mit dieser Brigade kämpfte er im Verband der 16. Infanterie-Truppen-Division (I.T.D.) als Teil der Armeegruppe Kövess während der Schlacht in Galizien an der Gnila Lipa.