Nach Ausbruch des Ersten Weltkriegs schloss er sich den armenischen Freiwilligenverbänden an, die auf Seiten der Kaiserlich Russischen Armee an der Kaukasusfront gegen das Osmanische Reich kämpften. Armenische Freunde hatten ihm davon abgeraten, weil sie befürchteten, dass die osmanische Regierung dies als Indiz für eine Kollaboration aller Armenier mit dem Feind werten und mit Repressalien reagieren würde. Als die osmanische Regierung den Völkermord an den Armeniern einleitete, beteiligte sich Armen Karo am Aufstand von Van. In dieser Zeit wurde er depressiv und krank. Nach der Gründung der Demokratischen Republik Armenien 1918 wurde er zuerst Mitglied der armenischen Delegation in Frankreich, dann Botschafter seines Landes in den USA. Er starb an einer Herzkrankheit im schweizerischen Genf am 23. März 1923, als er an einer Konferenz über Russland teilnahm.