天文6年（1537年）に尾張国侵攻のため斎藤道三の命令で近辺の14諸将の協力を得て猶子の斎藤正義が築城し、烏峰城と名付けられた。しかし正義は天文17年（1548年）に近隣の久々利城主土岐悪五郎に久々利城へ招待された際に討たれ、城主が一時不在となった。その後織田信長が美濃国を領地としたことにともない、永禄8年（1565年）に家臣の森可成が城主となり兼山城と改称した。 元亀元年（1570年）に近江宇佐山城の戦いで可成が戦死し、その直前に長男の可隆も天筒山城で討ち死にしたため、次男の長可が跡を継ぎ城主となった。天正10年（1582年）長可が信濃国川中島に転封されると弟の森成利が入るが成利は同年中に本能寺の変により討死し、また長可も情勢不安の川中島を捨てて戻って来たため、再び長可の領地となる。天正12年（1584年）に長可が小牧・長久手の戦いで戦死すると、可成の六男の忠政が城主となる。慶長5年（1600年）に森氏が川中島藩に転封されると城は石川貞清の所有となり、建物は解体され石川氏の居城である犬山城の改修に使われたという。兼山城の天守が犬山城の天守として移築されたという伝承があったが、昭和36年（1961年）の犬山城天守の解体修理の際の調査の結果、移築の痕跡がまったく発見されなかったため、移築説は現在は否定されている。平成18年（2006年）可児市が約5年かけて兼山城の発掘調査を行った。当時の茶碗や瓦等の多くの遺物が出土した。平成29年（2017年）4月6日、続日本100名城（143番）に選定された。
城郭の形式は梯郭式山城。「兼山城」と表記されることが多い。1967年に岐阜県指定史跡に指定され、2013年に国の史跡に指定された。標高約277mの古城山の山頂に築かれ、天守台を山頂に配置し、本丸を中心に二の丸、三の丸、南腰曲輪、西腰曲輪が連郭式に配され、天守台北東側に東腰曲輪と称する一郭がある。
釜無川と御勅使川との合流地点すぐの場所にある橋であり、現在の橋は長さ359.5m、幅員15.3m、6径間の連続鋼製箱桁橋として2004年（平成16年）3月31日に開通した。旧橋は山梨県道118号線に指定されていたが、新橋開通後は一般国道に移管され、国道52号甲西道路に指定されている。新橋開通からわずか3年後の2007年にひび割れが見つかり、現在対応と対策が行われている。
出生地は江戸赤坂の刈谷藩藩邸。刈谷藩士である田部井清蔵の二男である。出身地は三河碧海郡逢妻村（現・愛知県刈谷市）であるとされる。兄の田部井鉚太郎は教育者となり、愛知県内の学校の訓導や校長、富山県視学などを務めている。兄と同じように愛知県師範学校を卒業し、1891年（明治24年）に愛知県師範学校の訓導となった。その後愛知県師範学校の助教諭となり、1898年（明治31年）4月には額田郡視学となった。1901年（明治34年）には幡豆郡の西尾尋常高等小学校（現・西尾市立西尾小学校）の校長となり、1906年（明治39年）には幡豆郡立農商補習学校の初代校長も兼任している。田部井は単級教授法の研究・実践・指導で知られている。1908年（明治41年）には豊橋市長の大口喜六に請われ、豊橋市立八町高等小学校（現・豊橋市立八町小学校）の校長となった。豊橋市では豊橋市学務委員、豊橋市小学校長会長、豊橋市教育協会長などを歴任しており、さらに三河全国小学校長会長、愛知県教育会役員なども歴任している。八町高等小学校長時代には公共図書館の設置を訴え、1912年（明治45年）には校長との兼任で豊橋市立図書館初代館長となった。1919年（大正8年）には八町高等小学校長の座を辞し、株式会社東海ペニーの総支配人となった。東海ペニーはやがて東洋紡織株式会社に吸収されたため、東洋紡織の津工場（三重県）や伏見工場（京都府）で労務管理を担当している。1925年（大正14年）10月には吉川一太郎市長の下で豊橋市助役に就任した。とはいえ、助役就任時には市会で「市長も面識なき様」と突っ込まれるほどであり、吉川市長の意思に反する助役就任であるとささやかれた。同年12月に吉川市長が病気を理由に辞任すると、後任市長が決定しないままダラダラと数カ月が過ぎる間は田部井が市長代行を務めている。その後、豊橋市会の最大派閥であり大口が率いる同志派に推されて豊橋市長選挙に出馬し、1926年（大正15年）8月5日には吉川の後任の豊橋市長に就任した。当時の市長選挙は豊橋市会での多数決であり、田部井は33票中22票を集めている。豊橋市長時代には水道事業で大きな成果を残しており、1927年（昭和2年）に起工した豊橋市上水道は1929年（昭和4年）に通水している。1927年（昭和2年）には豊橋市立女子商業専修学校（現・愛知県立豊橋商業高等学校）を開校させ、1929年（昭和4年）には夜間商業専修学校を開校させている。1928年（昭和3年）には渥美郡役所跡に豊橋市役所を移転させ、1929年には豊橋駅西口を開設させた。田部井の在任中は昭和恐慌の不況下だったが、1930年（昭和5年）には豊橋市産業博覧会を開催した。1930年（昭和5年）8月4日に市長の座を退任し、官僚として岩手県知事や台湾総督府文通局総長などを歴任した丸茂藤平にバタントッチした。1935年（昭和10年）3月30日に死去した。1937年（昭和12年）には向山緑地（向山町一本松）に「田部井勝蔵先生頌徳碑」が建立された。