マカスカーは1973年5月15日にグラスゴー近郊のベルズヒル（en:Bellshill）に生まれ、7歳の時アイルランド人の母にフィドルを弾くよう勧められた。彼は地元のユース・オーケストラやケーリー(en:ceilidh)・バンドに参加していき、そして14歳の時に同級生たちと共にバンド パーセル・オローグ(Parcel O'Rogues、ロバート・バーンズの この国にはなんと多数の悪者がいることか（Sic a Parcel o' Rogues in a Nation）にちなむ) を結成した。 数年後に彼はグラスゴーの王立スコットランド音楽演劇アカデミー（en:RSAMD)を中退し、バトルフィールド・バンドへの道を進んだ。マカスカーはバトルフィールド・バンドのメンバーとして11年間を過ごした。脱退のときには彼は多数の作曲を行っており、伝統音楽のミュージシャンとしての地位を確立していた。マカスカーはオーシャン・カラー・シーン、ポール・ウェラー、ティーンエイジ・ファンクラブ、ダニー・トンプソン、エディ・リーダー（en:Eddi Reader）、ティム・オブライアン（Tim O'Brien）、リンダ・トンプソン（Linda Thompson）といった多くのミュージシャンのアルバムにもゲストとして参加した。それまでに彼は既に歌手ケイト・ラズビーに関わっており、彼女のバンドに参加して、彼女のプロデューサーとなり、2001年8月に結婚した。(2006年離婚。)マカスカーは音楽の境界を超える技術の持ち主として認知されている。 ライヴやスタジオ録音でのゲストとして、彼はボニー・レイット、パッティ・スミス(en:Patti Smith)、スティーヴ・アール(en:Steve Earle)、ロザンヌ・キャッシュ(en:Rosanne Cash)、パオロ・ヌティーニ、ジュールズ・ホーランド (en:Jools Holland)とステージで共演し、また、マーク・ノップラー、ポール・ウェラー、ティーンエイジ・ファンクラブ、オーシャン・カラー・シーン、他多くの録音にゲスト参加している。映画やTV番組では映画 ハートランド (Heartlands、2002年)、en:Billy Connolly's World Tour of New Zealand、en:Jennifer Saundersのシットコム en:Jam & Jerusalemのサウンドトラックが含まれる。プロデューサーとしても広がるマカスカーの実績は、オークニーの歌手クリス・ドレヴァー（en:Kris Drever）やアイドルワイルドのフロントマン ロディ・ウーンブル (en:Roddy Woomble)のデビューアルバムを含む。マーク・ノップラーの半年間のワールドツアーの後、マカスカーはクリス・ドレヴァーおよびロディ・ウーンブルとの新しい録音を2008年9月にリリースした。 このアルバム en:Before the Ruin は、ティーンエイジ・ファンクラブやレディオヘッドのメンバー、マイケル・マクゴールドリック（en:Michael McGoldrick）、ハイディ・タルボット（en:Heidi Talbot）をゲストとして迎えている。2007年に、マカスカーはケルティック・コネクション（Celtic Connections festival）とケンブリッジ・フォーク・フェスティヴァル（en:Cambridge Folk Festival）というスコットランドとイングランドそれぞれを代表するフォークフェスティヴァルより、スコティッシュ・ガーリックの歌手ジュリー・フォーリス(en:Julie Fowlis)からイングランドのバンド ブラーのギタリスト グレアム・コクソンまでスコットランドおよびイングランドの異なるジャンルミュージシャンの集まった企画 en:Under One Sky への作曲の共同委託を受けた。彼は2008年の 11月と12月にイギリスでの Under One Sky ツアーをサポートした。ベーシストのマイク・マクナマラ（Mike McNamara）からオーシャン・カラー・シーンのサイモン・ファウラー（en:Simon Fowler）を紹介された直後の2003年、ジョンはファウラーからBBC Radio 2 フォーク賞(Folk Awards) ミュージシャン・オヴ・ジ・イヤー(musician of the year)を受賞された。マカスカーはファウラーのバーミンガムでのバンド活動のライヴに多数出演し、2012年にマカスカーはファウラーのアルバム 'Merrymouth'に登場し、イギリスツアーにもバンドメンバーとして参加した。2014年にマカスカーは再び、ファウラーのメリーマウス（en:Merrymouth）という名のソロプロジェクトの新しいアルバム 'Wenlock Hillに参加した。このアルバムにはチャス・アンド・デイヴ(en:Chas and Dave)のチャス・ホッッジズ(en:Chas Hodges)もゲスト参加している。マカスカーは現在、妻であるアイルランド出身の歌手ハイディ・タルボットと共にエディンバラに住んでいる。
横浜商工高等学校（横浜創学館高等学校）に入学。ところが入学してみると半数以上をツッパリが占め、ほとんどがリーゼントという高校だった。もともとまじめだった遠藤は野球部に所属したが、周りに影響されて徐々に遊びに染まっていってしまう。常に机の中に教科書を入れっぱなしにしていた遠藤は、長期休暇中に「机の中に教科書を入れっぱなしにしている者は見つけ次第教科書を焼却処分にする」と言う校則により、担任に教科書を焼却処分にされてしまう。だが遠藤は教科書を焼かれても新たに教科書を買うこともせず、「教科書を忘れた者は教室の後ろに立って授業を受ける」という規則があったために、ほとんどの授業を毎日立たされた状態で受けなければならなくなった。そのために授業内容も頭に入らず、徐々に嫌気がさして高校1年時の2学期で中退してしまう。嫌なことがあるとすぐにやめる癖がつき、その後アルバイトを転々としていたが、ある日広告で劇団員募集の広告を見て軽い気持ちで入団する。その後、役者業に興味を持ち難関として知られる劇団無名塾の選抜試験に合格して舞台俳優としてのキャリアをスタートするが、空気の重圧感や規律の厳しさと辞め癖が抜けていなかったことから10日後に劇団を離脱、その後は劇団フジ・東京宝映（現宝映テレビプロダクション）に移籍して役者活動を再開した。22歳でドラマデビュー（1983年の『壬生の恋歌』、公式サイトによる）し、以降は、刑事ドラマ・サスペンス作品・時代劇などで下積み的な出演を続けた。いわゆる「ビデオシネマ」時代が到来すると、眼力のある強面の風貌を生かして極道物で数多くの悪役を演じた。またその一方でカルト的な内容の作品でエキセントリックな演技を見せた。崔洋一、原田眞人、三池崇史などの作品には数多く出演している。40代までは悪役としての認知度が非常に高く、2009年に『湯けむりスナイパー』で連ドラ初主演を果たした時、「Vシネマ悪役の遠藤憲一が連ドラ初主演」と記事に書かれたほどで、本人も「こんないかつい顔の自分を主演にするなんて」と照れ隠しのジョークを口にしていた。連続ドラマ「白い春」への出演と血の繋がらない娘（演：大橋のぞみ）を愛する父親役の演技が高く評価され、仕事が増加。「強面の割に小心」というギャップを表に出したコミカルで人間味溢れる役柄を演じる機会も増えた。2015年4月期は『Dr.倫太郎』、『ヤメゴク〜ヤクザやめて頂きます〜』、『不便な便利屋』の3作でレギュラー出演している。2016年開始の大河ドラマ『真田丸』では主人公・真田信繁（演：堺雅人）と数奇な運命で結ばれた上杉景勝役としてレギュラー出演。2017年にはタレントCM起用社数ランキングで男性部門の1位になるなど、好感度の高い人気俳優の仲間入りを果たした。2019年オトナの土ドラ『それぞれの断崖』主演の記事では「妖精から総理大臣まで幅広くこなし、近年驚くほど多くのドラマや映画で見かける」と評された。大作映画やドラマへの出演が増えた今日でもVシネマやカルト映画への出演は続けており、前者に関しては「素晴らしく血塗れた世界」「演技の基礎体力を鍛えてくれる場所。出演するたびに何かが磨かれる」と愛着を表現している。深夜ドラマや特撮作品への出演も多く、『バトルフィーバーJ』、『特捜エクシードラフト』、『特捜ロボ ジャンパーソン』、『忍者戦隊カクレンジャー』、『ライオン丸G』などに出演している。