越中国射水郡藪田村（のち富山県氷見郡藪田村、現・氷見市）にて医師の淺野泰順の長男として生まれた。幼名は泰治郎。姉夫婦が家督を継ぐことになったため、1853年（嘉永6年）に氷見郡氷見町の医師・宮崎南禎の養子となるが、理由あって離縁し、1861年（文久元年）に養家より戻った。周囲の反対を押し切り、家業の医師ではなく商人を志す。1866年（慶応2年）、射水郡大野村の豪農・鎌仲惣右衛門の長女と婚姻し婿養子となる。越中の海産物等を運搬し北陸への販売を始めたが、船の遭難により巨額の資本を失う。これを契機に商売を諦めるように婚家や身内から説得されるが、商人となることを諦めきれず離縁となる。一旦は実家に戻るが、1871年（明治4年）の春、23歳の時に上京。当初は、東京本郷の旅館を宿とした。この宿の主のアドバイスから、夏場は御茶の水の冷たい名水に砂糖を入れた「水売り」、冬は本郷の赤門前で暖かいおでん屋をすると予想以上に繁盛し貯金ができた。浅野はその資金を携え、一旗上げるために当時創業期であった横浜に向かう。横浜で勤めた味噌屋で贈答用の包みとして使われていた竹の皮に興味を持ち、贈答用の竹の皮の販売を手掛ける竹の皮屋となる。これを販売していたところ、医者であった父の旧友と横浜で偶然に再会、その勧めを商機と見た浅野は薪炭商（しんたんしょう）に転向した。（この部分は、平凡社の大百科事典によれば、「浅野総一郎（1848-1931）は、越中藪田（現富山県氷見市）に百姓の長子として生まれ、1871年に上京、お茶の水で水売りを初め、竹の皮商から薪炭商へ転じ、コークスの売り込みに成功。」とある。）1872年（明治5年）にサク(佐久、鈴木長右衛門の孫)と結婚。向かいの貸し布団屋の女中が実によく働くのに目をつけ浅野が求婚したもので、以来、妻の佐久との共働きで成功していくことになる。1873年（明治6年）に石炭や薪炭を売り込む商いによりガス会社とつながりができ、石炭からガスを製造した後の産業廃棄物の処分に困っていた横浜ガス局から、コークスやコールタールを安値で買い取り、セメント製造の燃料として、ただ同然のコークスを官営深川セメント製造所に納め、巨万の利益を得た。数年後コレラが流行した時に、消毒剤の材料として、内務省衛生局にコールタールを大量に売却して儲けた。セメントが建設資材の柱になることにいち早く着目、1884年（明治17年）には官営深川セメント製造所を好条件で払い下げられ、これが浅野セメント（後の日本セメント、現在の太平洋セメント）の基礎となる。この払い下げには取引で浅野の仕事ぶりを見込んだ渋沢栄一の後ろ盾があった。浅野は、王子抄紙部（後の王子製紙（初代））にコークスと物々交換で石炭を納入していたが、人足等と真っ黒になって働く浅野に驚嘆した抄紙部総理渋沢栄一は、浅野を私邸に招き絆を深めた。以来、浅野は渋沢の助言をもとに、水力発電所や鉄道建設など急増する需要を受けて、積極的な経営戦略を展開する。なお、浅野セメントの経営には、渋沢の代理として大川平三郎が加わった。また、横浜から深川までコークスを運搬するために運搬業も始め、それが東洋汽船へとつながっていった。一方で、1896年（明治29年）には欧米視察に赴き、イギリス、ドイツ、アメリカなどの港湾開発の発展ぶりを目の当たりにする。横浜港に戻るとその旧態依然とした港の様子に衝撃を受け、浅野は港湾を近代化し、工場を一体化した日本初の臨海工業地帯を東京市から横浜市にかけての海岸部に政府の支援を受けずに独力で建設することを計画する。この大規模計画に神奈川県は当初、二の足を踏むが、浅野の計画の価値を認めた安田善次郎（安田財閥）が支援に乗り出したことで動き出す。浅野が浅野セメントを合資会社にする際に安田が出資に協力して以来、安田は渋沢同様に浅野の理解者であった。また安田と浅野は同じ富山県の出身でもあり、浅野総一郎と安田善次郎の個人的な信頼・友情に基づいて、浅野財閥が急速に発展した。横浜市鶴見区から川崎市の海岸の埋め立て工事は、大正から昭和の初めにかけて約15年間に及ぶ年月をかけて完成、浅野は、浅野造船所（後の日本鋼管、現JFEエンジニアリング、及び、現ユニバーサル造船）など多数の会社を設立した。その後、第一次世界大戦の特需を受け、一代で浅野財閥を築いた。東京三田の札の辻に金の鯱のある城の天守閣のような豪邸（紫雲閣）を建てたが、贅沢を嫌う明治天皇の逆鱗に触れたために、住宅ではなく接待用の迎賓館として用いた。その豪邸が悪趣味だとして、新聞が面白可笑しく脚色した批判的な報道を掲載した為に、全国的に有名になった。その新聞記事の要約を以下に記す。紫雲閣の敷地の隣に、洗濯屋がある。物干し竿に翻る洗濯物が目障りなので、浅野は土地を買収して立ち退かせようとしたが、洗濯屋は、どんなに大金を積まれても土地を売ろうとしない。この人は、財閥などものともしない江戸っ子気質の持ち主である。仕方がないので、浅野は塀を高くして洗濯物が見えないようにした。すると洗濯屋は物干し台の柱を高くして、わざと見えるようにした。浅野がもっと塀を高くすると、洗濯屋は、もっと物干し台を高くする。これを何度か繰り返した後に、浅野は根負けして諦めた。久邇宮が紫雲閣を訪れた時に、この洗濯物を目にした。浅野総一郎がこの洗濯屋に困っている事を伝えると、侍従が警察署長を呼び出して何か命じた。すると、洗濯物がすぐに下げられた。「此時程気持のよかつたことはない」と浅野総一郎は述べている。それ以降、紫雲閣に来客がある時は、洗濯屋は洗濯物を干すのを控えるようになった。浅野は東洋汽船の一等船室の客（外国人）を必ず紫雲閣に招待して、茶会を開き、浅野一族の娘・孫娘・嫁など20-30人でもてなした。合計で13万人ぐらいの外国人を招待したので、外国では「浅野の茶会」として有名だと浅野総一郎自らが述べている。また、浅野財閥各社の社員や、浅野綜合中学校（現在の浅野中学校・高等学校）の卒業生も紫雲閣に招いた。太平洋戦争の空襲で焼失した。産業に於ける科学の重要性を認識し、科学に強い人材を育成して浅野財閥に供給するために、1920年（大正9年）に、横浜市神奈川区に浅野綜合中学校（現在の浅野中学校・高等学校）を設立した。浅野総一郎はしばしば学校を訪れて、生徒たちに話をしたが、その話がとてもおもしろかったと当時の生徒が回想している。1930年5月より欧米視察に向かうも6月26日にベルリンで発病、8月2日に帰国して大磯町の別邸で療養していたが同年11月9日、食道癌と急性肺炎のため死去した。告別式には3000人をはるかに超える焼香客が訪れた。神奈川県横浜市鶴見区の總持寺に葬る。法名は積功院殿偉業総成大居士。巨大な銅像が浅野学園（浅野中学校・浅野高等学校）の敷地内の銅像山に建てられている。東京都江東区清澄のアサノコンクリート深川工場（旧官営深川セメント製造所）に、「本邦セメント工業発祥の地」記念碑があり、浅野総一郎の銅像もある。横浜市鶴見区安善町（浅野総一郎の埋立地）の東亜建設工業技術研究開発センターにも銅像がある。2008年7月、生地である氷見市薮田にある海岸近くの児童公園を廃して、富山湾を臨むようにした大きな銅像が建てられた。2012年4月、氷見市から渋川市へ銅像が寄贈され、浅野総一郎が設立した関東水力電気の佐久発電所内のふれあい公園に氷見市の方向を向いた姿で設置された。浅野総一郎が設立した庄川水力電気小牧ダム近くの庄川水記念公園（砺波市）の銅像は右手ではなく左手でステッキを突いている。いずれの銅像も、横浜市鶴見区の海岸埋立や鶴見臨港鉄道などの工事現場を視察した時の姿である。「浅野さんは朝九時に...やってきた。銅像と同じ格好でね。シャッポかぶってストッキングはいて半ズボンだよ。...そのとき感心したことは、天下の浅野さんさぞこわい恰好をしてお供をゾロゾロ連れてくるのかと思ったら、お供は一人だけ。恰好も洋服はヨレヨレだしストッキングもつぎはぎだらけなんだ。側近とか家族はいろいろ言うけれども、『いや、現場へ行くのにはこれでたくさんだ』って頑張って、そういう恰好でステッキついて、達者なもんでしたよ。」と当時現場担当者だった小柴健太郎は述べている。ストッキングとか脚半とか半股引と表現されているので、長靴ではなくゲートルの類を着用していると思われる。鶴見埋立工事現場の帰途、この恰好のまま外務大臣官舎の晩餐会に出席し、田中総理大臣や政治家の鳩山と会合したこともあった。