甲府盆地の西南側、富士川の西側に位置する。南北に長く丸い頂稜部をもつ山容は和櫛の形に似ており、山名もそれに由来するものと考えられる。富士川から2,000mの頂上まで伸びあがる山容は大きく、甲府盆地からは容易にその姿が望まれる。頂稜には、北から唐松岳(1,856.4m)、裸山(2,002.8m)、奥仙重(2,051.7m)などの峰が3-4kmにもわたって連なっており、比較的平坦な地形が広がっている。国土地理院の地形図で確認できる最高点は頂稜の南端に近い奥仙重だが、その北500mほどにあるピーク(地形図では2,050m以上2,060m未満）が一般に最高点とされており、そこに櫛形山の最高点を示す標柱(2053.5mと記されている)が立っている。また、池ノ茶屋林道終点にある登山案内図には、櫛形山山頂の標高が2053mと記されている。裸山の北にはアヤメ平という湿地があり、櫛形山はこのアヤメ平を中心に群生するアヤメの山として知られてきた。しかし、近年ではシカの食害のため、アヤメの数はかつてに比べて減ったといわれる。なお、シカの食害だけでなく、それ以外の要因も重なっているとする説もある。
小地主兼自作農兼呉服屋の長男として兵庫県飾磨市下野田221番地（現・姫路市飾磨区下野田3-221）に生まれる。1947年、農地改革により実家が土地のほとんどを失い、地主ではなくなる。姫路市立飾磨小学校から姫路市立飾磨中部中学校、姫路市立飾磨高等学校に進む。地元の進学校である兵庫県立姫路西高等学校の受験に失敗したことで強烈な上昇志向を育む。先天性蓄膿症のため鼻だけで呼吸できないことに悩み、1962年に60日間以上入院して5時間以上の手術を二度受けたが治癒せず、悩んでいた時期に森鴎外や夏目漱石の作品を読んで救われ小説家志望になった。1964年、慶應義塾大学法学部と文学部に合格し、両親からは前者への進学を希望されたが、「鴎外、漱石さんにおすがりしたいという気持ち」から後者に入学し、在学中、1966年に高校時代の友人と同人誌『風船』創刊。1968年に独文科卒業（卒論はフランツ・カフカ論）。卒業後は東京日本橋の広告代理店・中央宣興を経て1971年2月から1973年9月30日まで現代評論社の『現代の眼』編集部に勤務。会社員生活の傍ら、三島由紀夫の自殺に触発されて私小説を書き始め、処女作『なんまんだあ絵』（1972年、『鹽壺の匙』所収）で新潮新人賞の候補となる。しかし次第に小説を書くことに行き詰まり（後年になってそれまでの自作には迷いがあったと語る）、朝日新聞社の中途採用試験に合格したが石油危機の影響で内定を取り消されたことから、1976年1月30日、夜行列車に飛び乗って故郷へ戻ると母親に激怒され「一生旅館の下足番でもやれ」と言われた。職業安定所に行くと本当に旅館の下足番の募集があったため、そこに雇われた。下足番として働きつつ、姫路忍町のみかしほ調理師専門学校で学び、1977年3月に同校を卒業。以後、30歳からの8年間は、旅館の下足番や料理人として、神戸、西宮、曽根崎、尼崎、三宮などのたこ部屋を転々と漂流する、住所不定の生活を送っていた。当時は朝6時から夜11時まで働き、月給は2万円から5万円であった。宮澤喜一や竹中正久の靴を揃えたこともあり、特に竹中からは「あんたのようなええ若い者（もん）が、なんでこんなところで下足番しとんや」と言われ、1万円のチップを貰ったという。しかし、担当編集者の前田速夫からの強い呼びかけもあり、1983年6月、再び東京へ行き作家として再デビューを果たす（ただし正確にはこの雌伏期間、『新潮』1976年5月号に「魔道」改題「白桃」を、同誌1981年8月号に「萬蔵の場合」を、『文學界』1982年5月号に「雨過ぎ」改題「ある平凡」を発表している）。白洲正子、江藤淳らに高く評価された。作家生活の傍ら、1983年から西武流通グループ広報室に嘱託社員として勤務。1985年から西武セゾングループ五十年史編纂委員会事務局に転勤。1995年からキネマ旬報社嘱託社員。1996年、西武セゾングループ資料室に復職、2000年10月31日まで勤務。この間、1993年に『鹽壺の匙』で第43回芸術選奨文部大臣新人賞（平成4年度）と第6回三島由紀夫賞を合わせて受賞。1997年に『漂流物』で第25回平林たい子文学賞受賞、表題作は第113回芥川賞候補にもなった。『赤目四十八瀧心中未遂』で第119回（1998年上半期）直木賞を受賞。同作は2003年に映画化され、特に評価が高い。一方で、伊藤整との文学観の違いから、同作による1998年の伊藤整文学賞の小説部門の受賞を拒否している。2001年に「武蔵丸」（『白痴群』所収）で第27回川端康成文学賞受賞。俳人として句集も出している。2004年4月、『新潮』（2004年1月号）掲載の私小説「刑務所の裏」で事実と異なることを描かれ名誉を傷つけられたとして俳人の齋藤愼爾に提訴され、同年12月に齋藤の申し立てをのみ和解、これにより「私小説作家」としての廃業を宣言した。以降、史伝小説や掌編小説、聞き書き小説などに創作の軸を移した。2010年、新書館より『車谷長吉全集』全三巻が刊行された。2015年5月17日、妻の留守中に、解凍済みの生のイカを丸呑みしたことによる窒息のため死去。69歳没。