Brinells föräldrar var lantbrukare. Han gick fem år i Jönköpings läroverk och fortsatte till Tekniska Elementarskolan i Borås, där han tog examen 1871. Därefter gjorde han karriär som ingenjör, först vid Nydqvist &amp; Holm i Trollhättan, därefter (1872) i Finspång varifrån Carl Ekman 1875 rekommenderade honom för sin bror Gustaf Ekman, som drev Lesjöfors Bruk. Brinell gifte sig 1880 med Selma Josephina Elisabet Nilson och fick fem barn med henne. Mellan 1882 och 1903 var Brinell överingenjör vid Fagersta Bruk, vars produktion han lyckades fördubbla. Mellan 1903 och 1914 var han överingenjör vid Jernkontoret i Stockholm och deltog i redaktionen för tidskriften "Jernkontorets annaler". Hans forskning kring stålets egenskaper presenterades vid Stockholmsutställningen 1897 och världsutställningen i Paris 1900. Från 1902 var han ledamot av Vetenskapsakademien och från 1919 av Ingenjörsvetenskapsakademien. 1908-? var han knuten till Tekniska Högskolans materialprovningsanstalt, som senare kom att utgöra Statens provningsanstalt. Mot slutet av sitt liv var han bosatt i Nässjö, nära den nuvarande hembygdsparken.