Григорій Ковальов народився 25 квітня (за новим стилем — 8 травня) 1902 року в селі Велика Крушинівка (нині — Рогачовський район Гомельської області Білорусі). У 1924—1928 роках проходив службу в Робітничо-селянській Червоній армії. З 1932 року працював головою колгоспу на батьківщині. На початку війни опинився в окупації і вступив бійцем в партизанський загін. У серпні 1944 року Ковальов повторно був призваний в армію, був стрільцем 2-ї гвардійської мотострілецької бригади 3-го гвардійського танкового корпусу 5-ї гвардійської танкової армії 1-го Прибалтійського фронту. Відзначився під час Шяуляйської операції.