コザ市は、市域の約70%が嘉手納基地を中心とする軍用地が占めた。米軍基地は地代収入、雇用機会、生産サービス需要といった経済的恩恵をもたらした。その一方で、アメリカ軍が米兵の歓楽街への立ち入りを禁止（オフリミッツ）を行うと途端に、業者の倒産や移転が起こり、街が一気に荒廃するということが起こった。市長となった大山は市政について本土で学ぶ必要を痛感し、自治省に依頼して習志野市長であった白鳥義三郎の紹介を受けた。白鳥からは「基盤の固まっていない新興都市は都市計画をしっかりしておかなければならない」とアドバイスを受けた。大山の実際市政運営は徹底的な合理化で臨んだ。大山は「（公共工事は）安あがりをねらって、工事設計書を作っても請け負いには出さず、よく直営工事をした。担当職員が資材受払簿もつくり、人夫も配置するやり方を多々とった」と語っている。また米軍からの援助も徹底的に活用し、「私は土木工事用の高価な機械、自動車、消防用車など機材や消耗品その他、暴風雨被害のための廃材、スクラップなど、とにかく採算が取れて金になるもの、あるいは何かの交換材になるものは、チリかアクタも軍から貰い受けた」と回顧している。そして自らを「コザ市のための高等乞食」と称した。
大山は、自身の生まれ育ったコザ市について「アメリカ軍の基地の街というのは、アメリカ兵とその女の街ということ」、「三百人のホステスたちが米兵相手に商売する『キチガイ（基地街）』ができ、コザ市のシンボルにまでなってしまった」と述べている。実際、基地周辺は米兵相手の売春が公然と行われていた。コザが基地の歓楽街となってしまったことについて、大山は、1949年ごろに胡坐村の八重島地区の弾薬庫が返還された際に、行政側で米兵の一般婦女子への性暴力を減らすため、特飲街の建設構想が持ち上がった際に反対したとを述べている。しかし、1950年、八重島に特飲街ができあがった。一方で、住民の方も街で稼げるだけ稼いだら、他の地に安住を求めて移ろうというものが多く、そのため家も粗末なバラックで、荒んだ状態であった。
大山の暮らしていたバラックの隣人の家庭では、夫婦に三歳の子供がいたが、夫に仕事がなく、夫人が米兵相手の売春で生計をたてていた。小学校を卒業したばかりの少年が、いわゆる「ポン引き」をして米兵と交渉し元締めへ連れて行くところも目撃した。また同年代の少女たちは米兵のガールフレンドになることに憧れていたとしている。病弱な夫を抱えた女性教師がコザ十字路で米兵相手の売春をしていたことが発覚し、退職してもらった例もあった。
敗戦直後の教育環境について大山は「学校は校舎や教科書は無く、テントの下に米軍の野戦病院用ベッドに板を貼り付けた机で授業を行った」と回顧している。また教員への俸給はなく、米二合の配給が月給代わりという状況であった。
1977年に沖縄社会大衆党から衆議院への出馬要請があったが固辞した。1978年、参議院へ沖縄の革新政党の統一候補として沖縄社会大衆党から再度出馬要請があり、遅々として進まない中城湾の港湾設備の整備計画の実現のため、一度は要請を受け入れた。しかし、他の革新政党から「大山は保守的体質がある」との理由で革新統一候補に相応しくないと批判され、また革新派の沖縄県知事であった屋良朝苗からの同意が得られなかったため、立候補を見送ることになった。失望した大山は沖縄社会大衆党を離党した。その後、沖縄県社会民主連合を旗揚げし、代表の座についた。
1949年（昭和24年）、宝石社刊行探偵小説専門雑誌『宝石』の「百万円懸賞探偵小説コンクールC級（短篇部門）」へ10年前に書いていた「かむなぎうた」を投稿し、江戸川乱歩に高く認められて二席入選となる。この「かむなぎうた」は『別冊宝石』の第2巻3号（通巻6号）に掲載された。しかしアメリカ軍のホテル接収が解除され、事業再開のための従業員の語学教育に駆り出され、『宝石』に短篇を年に1、2作だけ書く時期が続く。1954年に『探偵倶楽部』誌などから依頼が来るようになって、作家活動が本格的になる。『探偵倶楽部』ではハイカラ右京シリーズ、『宝石』では「月はバンジョオ」など杉警部ものを執筆。1955年（昭和30年）に『宝石』に発表した「狐の鶏（きつねのとり）」が、翌1956年（昭和31年）に第9回日本探偵作家クラブ賞（現日本推理作家協会賞）を受賞。1955年に日本探偵作家クラブの書記長、57年に幹事長、60年に副会長を務め、63年に日本推理作家協会となった後も70年まで理事を務めた。1965年以後は小説の執筆は減り、1972年からは『ミステリマガジン』にエッセイ「ミステリ食事学」などを連載。1974年の『暗黒回帰』で第3回泉鏡花賞にノミネートされるが、これは旧作集であったため受賞は見送られた。連作小説として、明治時代を舞台に探偵右京慎策の活躍する作品がある。右京は元国際スパイとの噂もある外務省嘱託の紳士で、山高帽子に口髭をたくわえ、細身のステッキを手に登場し、一連の作品はハイカラ右京シリーズと呼ばれる。他に探偵シリーズとして春日検事の事件簿もある。また翻訳として、ボアロー&ナルスジャックの『ちゃっかり女』を始め、ジョルジュ・シムノンのメグレ警視シリーズ『メグレと老婦人』、ガストン・ルルーのルウルタビイユシリーズ『黄色い部屋の秘密』『黒衣夫人の香り』や『オペラ座の怪人』などがある。晩年の1989年（平成元年）に白水社から出版した短篇小説集『泥汽車』が、翌1990年（平成2年）に第18回泉鏡花文学賞を受賞。1991年（平成3年）9月22日に東京都町田市原町田の自宅で心不全のため死去。ペンネームの由来は、『宝石』投稿の頃に家に来ていた富山の薬売りの名を1字変えたもの。俳句は少年時代からの趣味で、中学生の時に『日本少年』誌に入選したこともある。また『童話』誌で短篇小説が入選した。町田市民文学館ことばらんどで、町田ゆかりの作家として資料が展示されている。