伊予国生まれ。松山藩士・高山文兵衛の長男。上京して慶應義塾に入り一時東京英語学校に遊学し、明治23年（1890年）に慶應義塾大学部を卒業。はじめ、三井銀行に入り、大阪支店を経て函館・長崎などの要所の支店長を歴任し、三井銀行本店副支配人に就任する。また、明治石油、大日本製糖、朝鮮産業鉄道、蓬莱相互生命保険、東邦炭鉱、三井物産、雨龍炭鉱、第一火災海上保険、名古屋製糖などで重役を歴任。帝国商業銀行取締役会長に就任する。その後、帝国自動車を創立した。1908年（明治41年）の第10回衆議院議員総選挙に立憲政友会から衆議院議員に当選（以後当選6回）。一時は実業との掛け持ち等の多忙と病後を理由に衆議院議員を辞していたが、原敬の懇望で、再び政友会から第14回衆議院議員総選挙に再出馬して当選。当選立憲政友会では院内総務、総務委員、陸海軍問題委員会委員長などを歴任し、独自の派閥を形成。特に、三井財閥との関係が強かった山本条太郎、日本工業倶楽部の理事に加わっていた山本悌二郎らの有力議員と親しかった。1932年3月9日に朝鮮及び満蒙の拓殖開発を目的とする国策会社・東洋拓殖総裁に就任。その後、二万戸の入植計画を想定し、その助成のため満州拓殖株式会社が設立されるとこの構想に参加。高山を含む政財界の有力者30余名の発起により満州移住協会（会長・児玉秀雄）が設立された。東洋拓殖では、現地における豊富な雑広葉樹材のパルプ化に着目し、初の南洋林業を開始するなど手腕を発揮したが、病のためやむなく職を辞すことになった。詩歌、俳句を愛好し、書をよくした。茶人としても益田孝や高橋義雄と共に度々茶会に参加。また子爵・小笠原長生や和田垣謙三などとともに川村清雄の支援者で、作品のコレクターでもあった。
1857年（安政4年）5月8日（旧暦4月15日）に尾張国中島郡（現：愛知県一宮市）で生まれる。1876年1月場所で二段目（現在の幕下）から初土俵を踏むと、1880年1月場所で新十両に昇進、1881年1月場所では西十両9枚目の地位で8勝1敗1分の優勝相当成績を挙げた。1883年1月場所で新入幕を果たすと、同年5月場所で6勝3敗1休の優勝次点の好成績を挙げるが、これが生涯唯一の勝ち越しとなってしまった。これ以降は不振に陥り、1885年1月場所後に一度現役を引退、タニマチの勧めもあって米の仲買を始めたが、長続きはしなかった。1887年1月場所終了後、十両格番付外で再入門したが、再入幕どころかすぐに陥落となり、1889年5月場所終了後の同年9月15日に死去、32歳没。
カッシウス・ウェケッリヌスが最初に執政官になったのは、紀元前502年、共和政ローマ建国から8年目であった。同僚執政官はオピテル・ウェルギニウス・トリコストゥスであった。ハリカルナッソスのディオニュシオス（紀元前60年 - 紀元前7年以降）によると、カッシウス・ウェケッリヌスはサビニ族とキュレス（en、現在のファーラ・イン・サビーナ）近くで戦い、これに大損害を与えて勝利している。この敗北でサビニは講和を求め、かなりの土地をローマに割譲した。この勝利によってカッシウス・ウェケッリヌスは凱旋式を実施する栄誉を得たが、これは凱旋式のファスティでも確認できる。他方でティトゥス・リウィウス（紀元前59年頃 - 17年）の『ローマ建国史』では、両執政官が戦ったのはラティウムのアウルンキ人（en）であり、スエッサ・ポメティア（en）を占領したとする。リウィウスは同じことを紀元前495年にも述べており、これはディオニュシオスと一致する。したがって、ディオニュシオス（およびファスティ）が言う紀元前502年の勝利はサビニ相手と考えて良いと思われる。翌紀元前501年、ティトゥス・ラルキウス・フラウスがローマ史上最初の独裁官に就任したが、ラルキウス・フラウスはカッシウス・ウェケッリヌスをマギステル・エクィトゥムに指名した。独裁官がおかれたのは、サビニとラティウムの両面戦争の恐れがあったためである。交渉決裂の後、ローマはサビニに宣戦布告をしたが、実際には両者共に積極的には動かず、戦闘には至らなかった。ラティウムとの戦争は紀元前498年に勃発し、レギッルス湖畔の戦いでローマが勝利した。この勝利の後、カッシウス・ウェケッリヌスはローマ元老院に、ラティウム都市を破壊するように命じられたと言われる。カッシウス・ウェケッリヌスは紀元前493年に二度目の執政官に選出された。同僚執政官はポストゥムス・コミニウス・アウルンクスであった。ちょうどこのとき、プレブスが離反してモンテ・サクロに立てこもっていた。共和政ローマ初期の歴史の中で、パトリキとプレブスの反目は何度も繰り返されるが、これが最初のものであった。以前の立場とは異なり、カッシウス・ウェケッリヌスはラティウムとの条約に批准し、ローマの繁栄に脅威を与える要因の一つを取り除いた。この条約は彼の名前をとってフォエドゥス・カッシアヌム（ラテン語: Foedus Cassianum、カッシウス条約）と呼ばれた。キケロ（紀元前106年 - 紀元前43年）は、彼の時代にも条約の写しは存在していたと述べており、またディオニュシオスはその内容を要約している。この年の後半に、カッシウス・ウェケッリヌスはケレース、バックスおよびプロセルピナの神殿を奉献している。紀元前486年、カッシウス・ウェケッリヌスは三度目の執政官に選出された。同僚執政官はプロクルス・ウェルギニウス・トリコストゥス・ルティルスであった。今回はウォルスキとヘルニキに軍を進めたが、和平を追求し、再び外交能力を見せた。カッシウス・ウェケッリヌスはヘルニキと同盟関係を結んだ。この同盟により、カッシウス・ウェケッリヌスが結んだラティウムとヘルニキとの同盟は、共和政ローマを王政ローマと同じ立場におくこととなった。リウィウスによると、ヘルニキはその領土の2/3を割譲することに合意したが、よりありそうな説明はローマ、ラティウム、ヘルニキは彼らが獲得した土地を等分し、相互の戦争で得た領土の1/3を受け取るというものであった。この条約は100年以上継続した。その見返りとして、カッシウス・ウェケッリヌスは二度目の凱旋式を実施した。