日用川の源流は石川県小松市南部の赤瀬町の山中。概ね北西方向に流れ、粟津温泉付近で粟津川を合流し、その後木場潟に流入する。前川として木場潟から流出し、小松市街地、旧今江潟の干拓地東端を流れ、小松空港北東の小松市安宅町で梯川と合流する。
旧制能代中学校から東京教育大学、慶應義塾大学卒。東京教育大学では久保田正躬と学生寮で相部屋だった。同大学1年の時に高校教師だった父親を亡くす。同大学3年の時に1952年ヘルシンキオリンピックに出場し跳馬で体操競技では日本初となる銅メダルを獲得。1956年メルボルンオリンピックの鉄棒でひねり飛び越しを成功させ体操競技で日本人最初の金メダリストとなった。慶應義塾大学卒業と同時に東洋レーヨンに入社する。滋賀工場勤務を経て東京本社勤務。社業を終えた後に母校の体育館で練習を続けながらの競技生活を送る。1960年ローマオリンピックでは初の団体総合優勝に貢献、鉄棒で連覇のほかに跳馬でも金メダルを獲得し、日本の男子体操黄金時代の礎を築いた。一方、個人総合ではメルボルン大会は平行棒、ゆかの着地で失敗しヴィクトル・チュカリンに、ローマ大会はボリス・シャハリンと、いずれもソビエト連邦の選手に0.05点の僅差で敗れ、金メダルに手が届かなかった（日本選手の個人総合優勝は、東京大会で秋田県出身の後輩・遠藤幸雄が実現することになる）。1964年の東京オリンピックでは日本選手団主将に指名され、開会式では選手宣誓を務めた。すでに選手としてはピークを過ぎており、本番では大会前に痛めた肩に麻酔の注射を打って演技に臨んだが個人でのメダル獲得はならず、団体総合の一員としてのみ金メダルを授与された。小野は日本のオリンピック選手としては初めて夏季大会に4大会連続で代表に選ばれて出場した選手である。出場したすべての大会でメダルを獲得しており、夏季大会4大会連続メダルは谷亮子が更新するまでは日本人最多であった（男子では最多）。また、獲得したメダルの総数13個は、加藤沢男（日本人最多金メダリスト）らを抑えて日本人最多となっている。一時期、学校法人二階堂学園の常務理事を務めた。1998年に国際体操殿堂入り。2011年10月1日、東京都名誉都民に顕彰。現在は日本マレットゴルフ協会会長。日本スポーツクラブ協会元相談役。2016年、文化功労者に選出される。妻の清子（旧姓：大泉）とは1952年の国民体育大会で知り合った。清子にオリンピック出場できる素質を感じた小野は指導をするうちに恋が芽生え、2人は1958年に結婚しており、ローマオリンピック、東京オリンピックで夫婦共に日本代表として出場、東京オリンピックでは夫婦揃ってメダリストとなった。2人の間には息子2人、娘3人が生まれた。
寛政3年（1791年）に梶尾矩満の婿養子となる。寛政9年（1797年）正月、小十人格西丸山里御庭番となった。寛政11年（1799年）4月、蝦夷地遠国調査、文化元年（1804年）11月には長崎表遠国調査、文化9年（1812年）には上方筋遠国調査を命じられた。文化12年（1815年）御膳奉行となり隠密探査からは離れた。文化13年（1816年）義父が死去し家督を継いだ。文政元年（1818年）5月西ノ丸広敷用人となり、将軍世子徳川家慶正室楽宮喬子女王の御用人を務め、その後徳川家慶御役も務めた。楽宮は有栖川宮織仁親王の娘だったので、度々御用で上京した。文政3年（1820年）親王薨去の時は京に御香奠を携えて弔問の役を命じられた。また文政4年（1821年）京都所司代松平乗寛の計らいにより桂離宮を見て、その美しさを文章に残した。同年、広敷用人に昇格し、将軍徳川家斉正室寔子の御用人となった。そして、文政5年（1822年）には諸大夫となり、従五位下土佐守の官位を受けた。文政8年（1825年）6月1日に禁裏付となり京に滞在し、この時大坂城代、京都所司代を務めた水野忠邦の知遇を得た。天保2年（1831年）奈良奉行に就任し、東大寺正倉院の修理、宝物の開封点検の監督をした。天保3年（1832年）に与力の子弟や町民の為に学問所「明教館」を開設。天保7年（1836年）11月、京都西町奉行となり、天保9年（1838年）2月24日作事奉行となり足掛け12年8ヶ月に及んだ関西勤務をこなし江戸に帰任した。天保11年（1840年）勘定奉行に就任し、老中首座水野忠邦を補佐して天保の改革を推進した。天保14年（1843年）印旛沼掘割普請御用掛を江戸町奉行鳥居耀蔵、目付戸田氏栄、勘定吟味役篠田藤四郎の4名で行い、梶野は場所見回りを担当した。3ヶ月後完成を間近にした9月23日水野忠邦が突然失脚し工事は中止なった。良材も10月9日に無役の旗本寄合席となり、謹慎の必要なしと登城差し控えとなった。翌年差し控えが解除となりまた翌年には忠邦も老中に返り咲いた。嘉永6年（1853年）没した。法名は、現功院殿従五位下前土佐守徳誉民厚諦山大居士。江戸の四谷鮫河橋千日谷（現新宿区南元町）の一行院に葬られた。