Den 22-årige vann med totalt 16.041, som USA: s Danell Leyva hävdade silver och Rysslands David Belyavskiy tog brons.
Världsmästare You Hao slutade åttonde, som Kina lämnade Rio gymnastik tävling utan en titel.
Det var första gången de inte vunnit guld i sporten sedan 1980.
Kina bojkottade Moskvaspelen det året.
Verniajev missade på all-around titeln med bara 0,101 poäng efter att ha hoppat framåt när demontera den höga baren.
Prenumerera på BBC Sport nyhetsbrev för att få vårt tips på nyheter, funktioner och video skickas till din inkorg.
Ta reda på hur du kommer in i gymnastiken med vår specialguide.
Ukrainas Oleg Verniajev vann OS-guld på de parallella barer i Rio efter att snävt missa ut på all-around titeln.