Collinson war ein Sohn von J. W. S. Collinson, Beltoft House, Lincolnshire. Er besuchte die "Royal Military Academy" in Sandhurst und trat 1879 in das 58. (Northamptonshire) Regiment ein. Er diente im Zulukrieg, 1879, im Ersten Burenkrieg, 1881, und nahm mit der ägyptischen Armee am Dongola-Feldzug, 1896, und am Atbara-Feldzug, 1898, teil. Er führte das Bataillon, das 1896 Akasheh einnahm. In der Schlacht von Omdurman kommandierte er die 4. Brigade der ägyptischen Armee. Für seine Verdienste dabei wurde er zum "Companion" des "Order of the Bath" ernannt.