1891年6月2日、兵庫県氷上郡芦田村（現・丹波市青垣町）の小地主、父・大西亀吉と母・ウタの次男として生まれる。旧制柏原中学校在学中、日本海海戦勝利の時期であり、中学の先輩から聞かされた広瀬武夫中佐を熱心に崇拝した。1909年、海軍兵学校40期に20番の成績で入学し、兵学校では、名物の棒倒し競技で、同期の山口多聞と毎年大暴れして、抜群の棒倒し男と目された。剣道は兵学校で最高の一級、柔道も最上位であった。寄宿舎の寮長も務め、秩序を乱すものがいれば、そのものを布団に簀巻きにして、2階の窓から下に落とすような荒事もやっていたので、大西には誰も手出しをすることがなくなり、喧嘩瀧兵衛ともあだ名されていた。学業も優秀であり、1912年7月17日、150人中20番の成績で卒業した。海軍兵学校卒業後、海軍少尉に任官。1912年7月17日、「宗谷」乗り組み。1913年5月1日、「筑波」乗り組み。1914年5月27日、「河内」乗り組み。1914年12月1日、海軍砲術学校普通科学生。1915年5月26日、海軍水雷学校普通科学生。1915年12月1日、「若宮」乗り組み。1915年12月、山口三郎ら5名と航空術研究員となり、6期練習将校として飛行操縦術を学ぶ。1916年4月1日、横須賀海軍航空隊付。1916年、複葉機を設計し民間製作の必要を感じた中島知久平機関大尉が海軍をやめて飛行機製作会社（後の中島飛行機）をつくりたいと大西中尉に打ち明けた。大西は賛成して奔走し、資本主を探し回った。大西が面会した山下亀三郎が海軍省に報告したため、大西は出頭を命じられ、「軍人に賜わりたる勅諭」を三回暗誦させられてから始末書を書かされた。大西は軍籍を離れて中島の会社に入ろうと思っていたが、軍に却下された。中島はこのとき「退職の辞」として、戦術上からも経済上からも大艦巨砲主義を一擲して新航空軍備に転換すべきこと、設計製作は国産航空機たるべきこと、民営生産航空機たるべきことの三点を強調したが、この影響で大西は航空主兵論、戦艦無用論をさかんに唱えたとも言われる。1918年11月1日、横須賀鎮守府付、英仏留学。帰国後の1921年8月6日、横須賀海軍航空隊付、センピル教育団の講習の参加者の一人として選抜され受講した。大西は日本で初めて落下傘降下を行った。9月14日、海軍砲術学校教官、海軍水雷学校教官。1922年11月1日、横須賀、霞ヶ浦海軍航空隊教官。1923年11月1日、海軍省教育局員。1924年、3度目の海軍大学校受験に不合格。学科試験をパスし、口頭試問に臨んだが、数日前に料亭で飲んだ際に暴れて芸者を殴り暴力事件として新聞になったことから素行不良を理由に「大西は出頭するに及ばず」と入試候補を取り消された。1925年1月7日霞ヶ浦海軍航空隊教官。1926年2月1日佐世保海軍航空隊飛行隊長。1927年12月1日第一艦隊司令部付、連合艦隊参謀。1928年2月21日、結婚。佐世保海軍工廠人事部長・井上四郎中佐（のち少将）の仲介による松見嘉子（後に淑恵と改名）との見合い結婚であり、万松楼で行われたが、まだ結婚を考えていない大西は破談にしようと当日大酒を飲んで泥酔した上に褌姿で芸者を連れて見合いの席に現れ、踊ったり卑猥な言葉を浴びせたりと暴れ、目の上の負傷を嘉子に「軍務上のお怪我ですか？」と尋ねられた際、「先夜、上のほうから拳骨らしきものが降ってきましてなあ」と答えたりもした。しかし、その姿を見た嘉子の母親が大西の傍若無人で飾り気のない人柄を非常に気に入り、「海軍軍人としてあっぱれな振舞い、このような豪傑に娘を嫁がせたい」と嘉子に強く結婚を促し嫁がせた。妻の姉久栄の息子が笹井醇一で甥となる。1928年11月16日、「鳳翔」飛行長。1929年11月1日、海軍航空本部教育部員。同年に岐阜市各務ヶ原飛行場で行われた陸軍飛行戦隊の飛行演習を見学、その際に陸軍航空本部員であった菅原道大少佐と初面談、当時まだ数少なかった航空の専門家であった両者はすっかりと意気投合して、演習のあとの慰労会の宴会の席上で互いに開襟を開いて大いに語り合ったという。のちに菅原と大西はそれぞれ陸海軍で特別攻撃を推進していくことになる。1932年2月1日、第三艦隊参謀。11月15日「加賀」副長。航空演習の当日、天候不良でパイロットが帰還する自信がないことから参加を決めかねていたが、大西の「みんな行って死んでこい」の激しい一言でパイロットは飛んでいき面目を施した。大西によれば「人間その気になってやれないことはない。演習は実戦さながらの訓練であり、もちろん自分の責任で命令した。」という。1933年10月20日、佐世保海軍航空隊司令。1934年、民間防空指導の軍事講演で海軍代表として大西は、民間防空もさることながら防空の本旨は敵機をして本土上空に進入させない事にある、それには海軍航空隊の充実が先決的急務というべきで、国民はこれを重点に考えてほしいと述べてから、もっともいくら航空隊を充実しても、敵機をすべて討ちとることは不可能だから、侵入機に対する民間防空は必要だとつけ加えた。演習とその実績で勅令を公布していた陸軍は大西が民間防空を軽視したとして久留米師団から佐世保鎮守府に抗議文をおくり、陸軍省内でも問題化しようという声が出た。海軍は大西の所説は真実であるが、表現が率直すぎたとした。1934年11月15日、横須賀海軍航空隊副長兼教頭。この頃より大西は、第一航空戦隊司令官山本五十六少将や横須賀航空隊分隊長源田実大尉らと、かつてからの持論であった「航空主兵・戦艦無用論」に向けて主張を強めている。1935年戦艦大和、武蔵の建造に関し、海軍航空本部長となっていた山本が、大和型戦艦の設計担当の平賀譲造船中将と福田啓二造船少将に対して反対の意見を述べたのと同様に、同じ「航空主兵」論者の大西も「一方を廃止し5万トン以下にすれば空母が三つ作れる」と主張した。また、福留繁軍令部課長に対し、「大和一つの建造費で千機の戦闘機ができる」と主張して今すぐ建造を中止するように要望した。また大西は大型機論（戦闘機無用論）を支持していた。1935年、横須賀航空隊副長兼教頭だった大西は横空研究会で、戦闘機より優速の双発陸上攻撃機の完成が近いこと、戦闘機は短航続力で海上航法能力も小さいため、空母での使用制限があることから戦闘機無用論を唱えて、横空の戦闘機関係者を論破した。また援護戦闘機も不要と主張していた。1936年4月1日、海軍航空本部教育部長に就任。この人事は同じ「航空主兵」論者の山本の指名であった。大西は大村空飛行隊長池上二男少佐を呼び、「今度はじめて九六式艦上戦闘機が大村空に配属される。戦闘機出身でない君がその飛行隊長にえらばれたが、この全金属単葉の性能のすぐれた九六艦戦をもってしても、戦闘機は無用と言えるのかどうか専門外の人の方が、客観的に正当な意見を出しやすいからそのつもりで意見をまとめてもらいたい」と依頼した。それにより1937年4月、佐世保鎮守府で鹿屋の九六式陸上攻撃機（中攻）が攻撃側、大村空の九六式艦戦が防御側で防空演習を行い、当時は防空体制が整っていなかったこともあり、攻撃機側が奇襲の形で完勝した。1937年7月、海軍航空本部教育部長の際「航空軍備に関する研究」と題するパンフレットを各方面に配布した。大遠距離、大攻撃力、大速力を持つ大型機による革新を説くもので、大型機が将来的に戦艦の役割も担い新艦艇として制海権も獲得できると主張した。潜水艦以外の艦艇は航空に対抗し得ない。また小型航空機は現戦略戦術を根底から変えることはできない、戦闘機、対空防御砲火は現在も信頼できず、将来的にも爆撃機の速度、高度増大でさらに必要がなくなるといった戦闘機無用論も含んでいた。日本海軍では初の航空戦力による政戦略攻撃にまで言及した文章であった。また、1937年、水平爆撃の命中の悪さから水平爆撃廃止論を唱えていた。しかし、山本五十六中将の続行方針の明示宣言で終息した。1937年にドイツの航空軍備状況の視察に派遣された（駐独武官大島浩を団長としたが、実質的な長は菅原であり菅原航空視察団と通称された）陸軍の菅原が海軍の求めに応じてドイツの航空事情の説明を行った際に、菅原が日本軍もルフトヴァッフェのように陸海軍の航空を合体した独立空軍を持つべきであるとの申し入れを海軍側に正式に行った。菅原の申し入れに対して海軍は、陸軍側が人数が多く政治力もあり独立空軍は陸軍に支配されることを懸念したことや、技術的、用兵的に劣っている陸軍航空に海軍航空が吸収されるのは御免、などの理由により菅原の先進的な申し出を「空軍独立問題は時期尚早であり、海軍側は不賛成である」と断ることにし、その海軍側の返事を菅原に伝えたのが大西であった。しかし、使いとなった大西自身は山本と共に独立空軍について前向きな考えを持っていた。空軍独立問題はこの後も陸海軍で検討は続けられたが、太平洋戦争の開戦により棚上げとなった。