海軍省副官は海軍次官直属の重要配置で、事務当局が作成した文書の全てに関与する激職であった。後に同職を務めた福地誠夫によれば一日に押した判子の数は約3千である。横山の在職中は日独伊三国軍事同盟締結問題の最中で、海軍大臣・米内光政、海軍次官・山本五十六、軍務局長・井上成美らが同盟に反対していたため暗殺の危険があり、横山らは拳銃を携帯し、海軍省は襲撃された場合への対応を整えていた。横山は三国同盟について、独伊の海軍力が日本を援助することはできない一方で、日本は米英海軍に対抗することとなり、軍事同盟が互恵をなしていないとして｢狂気の沙汰｣としている。駐米大使・斎藤博が客死した際、その遺骨を日本へ送り届けた米重巡「アストリア」艦長、リッチモンド・K・ターナー大佐と面識を得たのはこの副官時代であった。
帰国後、軍務局において軍備制限縮小の主務者となり、軍備制限研究委員会委員となる。この委員会の役割は第二次ロンドン海軍軍縮会議に対する海軍の腹案を作成することであった。横山は軍備は米英の海軍力を拘束することが重要で、そのため対英米比率7割未満でも構わないという条約派的思考であった。委員会の答申は最初は8割を主張し比率が低下しても会議を成功させることを求めたものであった。答申を受けた海軍大臣・大角岑生、軍務局長・吉田善吾、軍令部第一部長・嶋田繁太郎、同第二部長・古賀峯一らが打ち出した方針は兵力均等及び主力艦、航空母艦の全廃であった。その結果、日本はロンドン海軍軍縮条約を脱退することとなった。横山は戦後｢愚劣極まる｣と批判し、「太平洋戦争を惹起した責任は軍縮を放棄した日本海軍にある」としている。また海軍の南方政策を立案する対南洋方策研究会の幹事を務めている。この委員会は武力進出はしないこと及び現地との共存共栄を方針とし、経済的進出及び資源獲得の方途を研究しニューギニアの買収を考えていた。戦後、横山は日本は海洋国であるとの認識が不足していたことを嘆じている。海洋国に大陸経営は不可能で、日本は中国、さらには朝鮮からも撤退すべきであったとし、経済的な南方進出をしていれば米英との戦争は避けられたとしている。
エール大学に留学した横山は主にアメリカ歴史を学び、次いで駐アメリカ大使館附武官補佐官となる。アメリカ滞在中に 満州事変が勃発し円の急落、対日感情の悪化に苦しんだ。この頃、横山は大学のフットボールゲームで死者が出ているにも関わらず試合を続行したこと、小学1年生に情況判断を教えていること、またワシントンからシアトルにいた中澤佑にかけた電話が30秒ほどでつながったことなどに衝撃を受けている。横山が情況判断の教育を受けたのは海大甲種学生時代のみであり、東京大阪間の電話がつながるのに半日かかるのが日本の現状であった。こうした経験からアメリカとの戦争はできないとの考えを持つようになった。
地中海方面への遠洋航海から帰国後、海軍少尉に任官した。装甲巡洋艦「出雲」乗組みとして世界一周の遠洋航海に参加する。海軍砲術学校高等科学生を卒業し、戦艦「山城」分隊長となり、主砲発令所長を務める。次いで駆逐艦「松風」砲術長、横須賀鎮守府副官兼参謀となり、在職中に海軍大学校甲種学生（28期）に合格する。首席で卒業した。卒業に際し恩賜の長剣を拝受することになり、その式へ母の出席を認めるよう要望したが、大学側は前例がないとして許可しなかった。横山は母の出席を叶えることができなかった事を終生悔やんでいた。
計画段階ではミッドタウン自動車トンネルと命名される予定であったが、偉人の名を冠したジョージ・ワシントン・ブリッジの例に倣い、計画担当者によって最終的にエイブラハム・リンカーンにちなんだ名称に決定した。オーレ・シングスタッドによって設計されたこのトンネルは、ニューディール政策の一環で設立された公共工事局からの資金を利用している。1934年3月に最初の坑道が着工した。開通は1937年12月22日で、現在の貨幣価値で8.51ドルに相当する0.5ドルの通行料金を徴収していた。建設費は現在の貨幣価値で15.55億ドルに相当する8500万ドルを要している。当初の設計では坑道は2本のみであった。2本目の建設工事は1938年に一旦中止され、1941年に再開しているが、その後も大戦の煽りを受けた金属資材不足により、完成が2年遅れている。1945年2月1日に開通式が行われ、オメロ・カタン（ミスターファーストの異名で知られ、526を超える施設の開業で「最初の人」となった）の兄であるマイケル・カタンが最初にトンネルを通り抜けた一般人となった。交通需要の増大を受け、3本目の坑道の建設がニューヨーク・ニュージャージー港湾公社により提案されるが、増大する交通量に応じた道路整備の財源にすべく、港湾公社を傘下に置こうとしていたニューヨーク市が反対を表明する。最終的に市が妥協する形で、1957年5月25日に3本目の坑道が2つのトンネルの南側に開通した。このため、ニュージャージー側では3本の坑口が1か所で並んでいるのに対し、ニューヨーク側では北坑道の坑口が他の2本より1街区西側、10番街に面した38丁目と39丁目の間にある。2012年はリンカーントンネルの開通75周年であり、ジャージーシティのホランドトンネルの開通85周年にあたる年でもあるため、ホーボーケン歴史博物館のメインギャラリーでは「Driving Under the Hudson: The History of the Holland and Lincoln Tunnels」と銘打ち、2つのトンネルの歴史や地域に与えた影響を探る展示を開催した。この展示設計は、2011年に著書『Crossing Under the Hudson: The Story of The Holland and Lincoln Tunnels』を出版したラトガース大学のアンガス・ガレスピ教授である。