平安時代には既に水屋が建設されており、後に輪中が形成されて行き住民は洪水に対抗していった。地元に残る言葉に「四刻八刻十二刻」がある。これは大雨が降った際の木曽三川の洪水到達予測時間の事であり、揖斐川は四刻（8時間）、長良川は八刻（16時間）、木曽川は十二刻（24時間）で洪水が到達することを意味している。いかに流域住民が水害に対して敏感であったかが良く分かる。一方で網の目状に流れる木曽三川を利用しての水運は、金華山や大垣の他、烏江湊から陸路を経由しての琵琶湖水運、桑名津からの海運などで大坂などにも繋がっていた。
神護景雲3年(769年)の洪水により本流が笠松の南を流れるようになると、川の掘開により本流を元に戻す施工が行われるようになる。しかし土砂の堆積と流量の変化は続き、施工が美濃国側と尾張国側の洪水被害の量にも関わるようになり、貞観8年（866年）には、前年に太政大臣の藤原良房に派遣され施工した尾張国の郡司とその役夫を、美濃国の各務郡郡司の各務吉雄と厚見郡郡司の各務吉宗が、襲撃するという「広野川事件（各務原合戦）」が起きた。
山形県西置賜郡荒砥村（現：白鷹町）の旧家の四男、山口安平として生まれた。生家（山口家）は大地主であったが次第に没落し、また実父が早くに病死したため、米沢中学在籍時に天童織田家の藩士だった佐野家の養子となった。（旧制）第二高等学校を経て東京帝国大学建築学科に進学。建築学を辰野金吾に学んだ（辰野は佐野が3年のときに辞任）。卒業後、大学院に進学及び同校講師を経て助教授。この他、国技館や東京駅の構造設計を担当した。1906年（明治39年）、サンフランシスコ大地震の被害調査のため、アメリカに出張。鉄骨煉瓦造の丸善書店（1909年（明治42年））の構造設計を行った。1911年（明治44年）よりドイツに留学、欧米を回って1914年（大正3年）4月に帰国。1915年（大正4年）、教授に就任。「家屋耐震構造論」（1915年）で工学博士号を取得。同論文（翌年刊行）は、日本の建築構造学の基礎を築いたものと評され、また建築構造の耐震理論構築としては当時世界初の試みである。1915年（大正4年）、内務省明治神宮造営局参事・参与を務め、社殿や宝物殿の建設、外苑の整備に関与した。また、1921年（大正10年）に宮内省からの要請を受けて、兼務で宮内省宮内技師に就任した。内匠寮工務課長任を一年間務め、その後同窓の北村耕造に席を譲って自らはふたたび学究の道へと戻った。この間、建築法規の制定運動を起こし、1919年の都市計画法（旧法）と市街地建築物法（建築基準法の前身）の制定に貢献した。1920年（大正9年）、日本大学が創立した高等工学校の校長に就任した（同校は1928年（昭和3年）に日本大学工学部となり、佐野は部長に就任）。1922年、雑誌に発表した都市型地震に関する災害防止策の中で、被災者数約10万と試算した（翌年起こった関東大震災の死者・行方不明者は10万5千人余と推定されている）。1923年（大正12年）9月1日に大地震が発生すると、内務省から救護事務官の辞令を受け、救護バラック建設の指揮に当たった。9月末には、内務大臣後藤新平が帝都復興院を置いて総裁に就き、その依頼で佐野も帝都復興院理事・建築局長に就任し、関東大震災後の復興事業・土地区画整理事業を推進したが、これに消極的で拙速主義を取り、予算を削減しようとする副総裁宮尾舜治、理事・計画局長池田宏らと対立した。また、東京市長の永田秀次郎の依頼により、1924年（大正13年）から東京市建築局長を兼任し、都市不燃化の一環として100を超える鉄筋コンクリート造の復興小学校建築に当たった。不燃建築（RC造）の建設を促進するため、融資を行う復興建築助成株式会社の設立（1926年、民間及び東京市・横浜市が出資）にも尽力した。この復興建築助成株式会社は、自主的に耐火建築を行おうとする市民に建設費を融資し、耐火建築化を促進する建築会社を指し、日本初の耐火建築助成を目的とした公的資金融資の実例となった。昭和初め頃、東京帝国大学建築学科は教授の定年退官が続いたことなどで体制が整わない時期であったが、佐野は清水組の経営に関わることになり、定年前に退官した。1929年（昭和4年）-1932年（昭和7年）に清水組の副社長を務め、建設会社組織の近代化を図った（退官後も東大では1941年（昭和16年）まで講師を務めた）。同社副社長を務めた最後の年である1932年には、新京国都建設計画主要プランナーの一人となり、かつて道半ばで挫折した東京改造計画「帝都復興」で培った構想を多く採り入れたものとなる。清水組退社後は（従来から務めていた）日本大学工学部長、東京工業大学教授の職に専念した（いずれも1939年（昭和14年）まで）。戦後は復興建設技術協会協会長などを務めた。