長崎奉行所地役人で世襲の町司を勤める矢次豊三郎とみ祢の次男として長崎引地町で出生。幼名は富次郎。数え年三歳で父と死別。12歳のとき、兄和一郎の下で部屋住みの身であるにもかかわらず、特例を以て長崎奉行所隠密方御用所番に採用され、奉行所に出仕。1861年4月（文久元年3月）、長崎製鉄所が落成。再度、特例を以て長崎製鉄所機関方見習となる。製鉄所御用掛となっていた本木昌造の下でオランダ人技術者から機械学を学び、エンジニアとしての基礎を築く。その頃、長崎滞在のイギリス人A・W・ハンサードが英字新聞発行のため新聞印刷伝習を兼ねて若者を募集。それに応募した本木昌造一門に加わる。2年間の見習期間を終えて、1863年3月（文久3年2月）、長崎製鉄所機関方に任命され、蒸気帆走輸送船「チャールズ」号（長崎丸）と「ヴィクトリア」号（長崎丸一番）の乗組員となる。船長本木昌造の下、機関手として乗船すること多く、関門海峡経由で大坂・江戸を往復する中で、長州藩の攘夷運動や鹿児島砲撃後のイギリス艦隊の動向視察など、数々の歴史的場面に遭遇。数え18歳のとき、縁あって長州藩蔵屋敷の家守吉村為之助の養子となり、吉村富次郎と改名。1864年12月（元治元年11月）、本木昌造が船長を務める「ヴィクトリア」号で江戸から長崎への帰途、暴風雨で難破し八丈島に漂着。全員上陸後、「ヴィクトリア」号は沈没。12月末（和暦11月末）から翌年5月初旬（慶応元年4月中旬）まで、八丈島滞在を余儀なくされる。1866年7月（慶応2年6月）、長崎港内巡視用軍艦「回天」の一等機関方に任命される。同年8月（和暦7月）、軍艦「回天」に乗艦し、第二次幕長戦争の小倉沖海戦で活躍。将軍徳川家茂の死去の報により、老中小笠原壱岐守を長崎から大坂まで送り、次いで、将軍の霊柩に随伴して江戸に向かう。江戸に到着後、軍艦「回天」が江戸軍艦所所属となり、軍艦所一等機関手の内命を受けたが、すぐに内命取消となる。内命取消の理由が、養子先の長州藩関与であると察知し、養子縁組を解消。矢次家始祖の旧姓を継いで平野富次郎と改名。1867年4月（慶応3年3月）、土佐藩参政後藤象二郎の招きで土佐藩の蒸気船器械方となる。長崎土佐商会を拠点として、土佐や兵庫を頻繁に往復。同年8月（和暦7月）、長崎の花街でイギリス軍艦イカルス号の水夫二人の斬殺事件が発生。イカルス号事件と呼ばれる国際問題となり、坂本龍馬率いる海援隊員に嫌疑、富次郎乗船の土佐藩船が犯人逃亡幇助を疑われる。9月中旬から10月初旬まで（和暦8月初めから9月半ばまで）の間、行動を共にした坂本龍馬と徹夜で国の将来を語り合ったという。1868年1月（慶応3年12月）長崎駐在の土佐藩参政佐々木三四郎（高行）から辞令を受けて土佐藩を去る。1868年2月（慶応4年2月）、長崎製鉄所機関手に復帰。幕府軍艦「朝陽」を兵庫まで回航するに当たり一等機関手として乗組み、大坂赴任の大隈八太郎（重信）の面識を得る。新政府直轄の長崎府による経営となった長崎製鉄所の新組織で、頭取本木昌造の下、機関方として製鉄所職員に登用され、1869年1月（明治元年12月）、第一等機関方となる。同年4月（明治2年3月）、イギリス商人トーマス・グラバーから買取った小菅修船場の技術担当所長に任命される。その結果、船舶の新造・修理設備がなく経営に行き詰まっていた長崎製鉄所に大きな収益をもたらす。さらに、立神ドックの築造を建言してドック取建掛に任命され、大規模土木工事を推進、多くの人夫を雇うことによって長崎市中に溢れる失業者の救済にも貢献。その間、元締役助、元締役へと長崎製鉄所の役職昇進を果たし、1870年12月（明治3年閏10月）、長崎県の官位である権大属に任命され、長崎製鉄所の事実上の経営責任者となる。その時、数えで25歳。折しも長崎製鉄所が長崎県から工部省に移管されることになり、工部権大丞山尾庸三が経営移管準備として長崎を訪れ、帳簿調査などで誠実な対応振りを高く評価される。長崎製鉄所の工部省移管により、1871年5月（明治4年3月）、長崎製鉄所を退職。造船事業こそ自分の進むべき道と心に決めていたことから、工事途中の立神ドック完成とその後の運営を願い出るが果たせなかった。1871年8月（明治4年7月）、活版印刷事業で窮地に追い込まれていた本木昌造から活字製造部門の経営を委嘱され、経営方針の見直しと生産体制の抜本改革を断行、短期間で成果を出す。需要調査のため上京、活字販売の見通しを得る。1872年2月（明治5年）になって、安田古まと結婚し、新居を長崎外浦町に求める。近代戸籍の編成に際して平野富二と改名して届出。同年8月（和暦7月）、新妻と従業員8人を引き連れ、東京神田和泉町（旧藤堂藩上屋敷門長屋）に活版製造所を開設、長崎新塾出張活版製造所とした。同所では活字販売と共に活版印刷機の国産化を果たし、木版印刷が大勢を占める中、苦労しながら活版印刷の普及に努める。政府、府県の布告類や新聞の活版印刷採用によって活字の需要が急速に伸張したため、1873年（明治6年）7月、東京築地に移転。翌年、鉄工部を設けて活版印刷機の本格的製造を開始。平野活版製造所または築地活版製造所と称する。事業主である本木昌造が、1875年（明治8年）9月3日、長崎で病死。大阪活版所設立のために五代友厚から融資を受けた負債を肩代わりして月賦弁済する。1878年（明治11年）9月、本木昌造没後三年祭を長崎で挙行。東京の事業を本木家に返還、嫡子本木小太郎を所長とし、その後見人となる。1885年（明治18年）6月、有限責任株式組織化に当たり東京築地活版製造所の社長に選任される。1889年（明治22年）6月、社長を辞任。以後、活版事業から一応手を引く。その間、活字見本帳の発行、フィラデルフィア万国博覧会（1876年）と内国勧業博覧会（1877年・1881年）への出品、上海出張所修文館の設立（1883年）、福沢諭吉の要請で李朝朝鮮国にハングル活字と印刷機の納入（1883年）、ロンドン万国発明品博覧会に出品（1886年）、清国での活版需要調査（1889年）など、内外での販路拡大に力を入れる。1876年（明治9年）5月、活版製造事業と並行して、長崎製鉄所時代の同僚杉山徳三郎が横浜製鉄所を借用して機械製造事業を開始したことから、経営陣に参加して活版印刷機を製造。山尾庸三の要請でイギリス人技師アーチボルド・キングを迎え、職工頭とする。同年10月30日、海軍省から石川島修船場の跡地を借用して、石川島平野造船所（現、株式会社IHI）を設立。民間洋式造船所の嚆矢となる。直ちに築地活版製造所の鉄工部を石川島に移転し、印刷機を含む機械製造を開始。河川用低喫水式小形蒸気船を開発して内国通運会社向けに通運丸シリーズを連続建造。東京で唯一のドックを活用して洋式船舶の修理を行う。多額の投下資本と運営資金を必要とする造船事業で、薩長閥と政商とは一線を画す立場をとったことから、絶えず資金不足に悩む中、第一国立銀行の渋沢栄一と第十八国立銀行（長崎）の松田源五郎から支援を受けて苦境を乗り越えてきたが、1889年（明治22年）1月、個人会社を改め、有限責任東京石川島造船所とし、渋沢栄一、梅浦精一を委員に迎え、常任委員となる。沿海運航用小形蒸気船通快丸シリーズを建造し、協力者稲木嘉助と共に東京湾内の海運業に進出。1879年（明治12年）12月、横須賀海軍造船所から横浜製鉄所を借用し、石川口製鉄所の分工場とする。1884年（明治17年）、横浜「石川口製鉄所」の建物・器械類を石川島に移設。翌年、払下げを受ける。1885年（明治18年）3月、海軍省から一等砲艦「鳥海」を受注。1888年（明治21年）12月、公式試運転を終えて海軍省に引渡す。わが国民間造船所で建造した最初の軍艦となる。かたわら、函館の渡辺熊四郎の要請に応じて函館器械製造所（現、函館どっく株式会社）の設立に協力。新潟の荒川太二と共同で運輸会社を設立。造船事業と並行して各種陸上設備を手掛け、隅田川最初の鉄製橋「吾妻橋」の架設、わが国最初の電動式エレベーターを浅草凌雲閣に設置、わが国最初の商業用水力発電所である京都蹴上発電所にぺルトン水車を納入など、時代の先端を行く製品を次々と世に送り出す。フランスのドコビール社と契約して組立式軽便鉄軌と車両類の輸入販売を行い、その応用事例を示すため現在の山手線大崎・渋谷間の土木工事を請負う。その結果、組立式軽便鉄軌を、鹿島組、足尾銅山に納入。平野土木組を設立して、日本鉄道会社東北線各所の土木工事を請負う。その他、横浜創設水道設備の水道鉄管等運搬請負、横須賀海軍工廠の各種土木工事請負、碓井馬車鉄道の鉄軌・車両の納入など、多くの実績を残す。若い頃から持病を抱えていたが、1886年（明治19年）5月から、再三にわたり脳溢血を発症。酒類を断って静養に努め、事業整理と株式組織化を計る。しかし、人に頼まれれば次々と新事業に手を出し、余暇を楽しむことはなかった。1889年（明治22年）に東京湾内を運行する各社が合同して東京湾汽船会社（現、東海汽船株式会社）を設立し、取締役に就任。1892年（明治25年）12月2日、日本橋小舟町の会場で水道鉄管国産化について演説中に卒倒し、翌日、脳溢血で死去。満46歳2月であった。東京谷中墓地に埋葬される。葬儀は親戚惣代として同郷の中村六三郎（国立東京商船学校、現、東京海洋大学の校長）が勤めた。遺族は妻古ま、二女津類、三女幾み。長女古とは夭逝、二女津類が相続。法学者・社会運動家で、戦後の世界平和に尽力した平野義太郎（1897年3月5日-1980年2月8日）は嫡孫に当たる。東京谷中霊園の平野家墓所（甲11号14側）に「平野富二碑」（矢次み祢建立、撰文は西道仙、書は三女幾み）、同管理事務所横（甲1号1側）に「平野富二君碑」（篆額は榎本武揚、撰文と書は福地桜痴）、東京築地のコンワビルの敷地に「活字発祥の碑」がある。2016年（平成28年）12月、「長崎諸役所絵図」（国立公文書館所蔵）から引地町町使長屋の旧在地が判明し、平野富二の生家の場所が特定された。『平野富二生誕の地』碑建立有志の会が結成され、2018年（平成30年）11月「長崎県勤労福祉会館」（長崎市桜町9番6号　地先の歩道脇）に「平野富二生誕の地碑」が建立・除幕されて長崎市に寄贈された。