静岡県生まれの土木技術者である。内村鑑三の門下となり、東京帝国大学工科大学では広井勇の指導を受ける。パナマ運河建設に携わった唯一の日本人として知られる。帰国後は内務省に入省し、東京土木出張所においては荒川放水路の建設を指揮した。また、新潟土木出張所では所長として信濃川大河津分水路の改修工事を指揮した。その後、内務省の技官のトップである内務技監に就任するが、技官と事務官の処遇格差を巡り省内が混乱し、責任を取る形で辞職した。また、土木学会では会長を務め、のちにそれまでの功績から名誉会員の称号が贈られた。
来歴.
生い立ち.
静岡県豊田郡中泉村（現在の磐田市）において、青山徹・ふじ夫妻の三男として生まれる。尋常小学校を卒業後に上京し、東京府尋常中学校（現在の日比谷高校）、第一高等学校を経て、東京帝国大学工科大学土木工学科（現在の東京大学工学部土木工学科）に進学した。一高在学時に内村鑑三の講演を聞き、影響を受けて門下生となった。土木技術者を志したのも内村の影響で（内村は講演『後世への最大遺物』で、子孫のためになる仕事の例として土木事業を挙げている）、東京帝大に進んだのも広井勇（内村鑑三と札幌農学校の同級生で親友であった）が主任教授を務めていたことから内村に勧められたものである。青山は広井の講義を聴き、パナマ運河への思いを募らせた。
パナマ運河.
日本に帰国後.
内務技監退任後は、東京市水道水源調査委員会、兵庫県水害復興専門委員会の委員や、満州国交通部嘱託として、土木行政・治水事業などの指導にあたった。
太平洋戦争中には、パナマ運河の爆破攻撃を立案していた大日本帝国海軍から、パナマ運河についての情報提供を求められた。「私は造ることは知っているが壊し方は知らない」と答え、土木技術者の良心に基づきこれを拒否したと伝えられている。あるいは「せっかく皆で苦労して造ったのだから、そっくりそのまま貰うことを考えたらどうじゃ」と返して破壊への非協力を示したともいう。一方で、各地の治水事業にあたっては「土木も国防である」と語っていた。 
思想.
青山士の生き方は、無教会主義のクリスチャンであった内村鑑三の影響を強く受け、私利私欲のためではなく広く後世の人類の為になるような仕事をしなければならない、という思想を貫いた。