Gibb ble født i Lauriston, Skottland og var sønn av en byggmester. Han studerte kunst på kveldskurs i Edinburgh og ved Royal Scottish Academy, før begynte å stille ut på RSA i 1867, der han viste Arran-landskapet. Dette var det første av ikke færre enn 143 malerier som ble utstilt på akademiet. Ved slutten av neste tiår hadde han begynt å etablere sitt rykte som en maler som malte militære slag. Etter , som var hans første steg inn i den militære sjangeren, ble han valgt som en representant for Royal Scottish Academy. Temaet for dette maleriet, som var en gruppe av tre soldater der en av dem har gått ned i snøen, er hentet fra maleriet hans som viste retrett fra Moskva og som ble vist året etter. Han ble et fullverdig medlem av akademitet etter den enorme suksessen med sitt maleri fra 1881, , som var inspirert av hans lesning en historisk hendelse beskrevet i Alexander Kinglakes bok . Tre år senere kom som var to offiserer i kampens hete, en fallende og såret i armene på den andre. Han fortsatte å male militære scener i hele den store krigen, og hans siste militære maleri dukket opp i 1929.