1971年に京都レコード（2002年に日音に版権を売却し音楽事業から撤退）から『娼婦和子』でレコードデビューするが、刺激的且つ退廃的、「現在の日本国において、娼婦などという職業は存在しない」との理由で程なく発売禁止、廃盤となる。1973年5月15日には、京都文化芸術会館で初のコンサートを開催。1974年に東京・二子玉川に移住して地下鉄工事のアルバイトなどをしながら生活するが1年ほどで再び京都に戻る。その後の1976年に、キング・ベルウッドからシングル『ゆめいらんかね』、アルバム『TAKAJIN』で再デビュー。同年、FM東京が選ぶ最優秀新人賞のベスト5に入る。1977年に宝塚歌劇団史上初のリサイタル『私の肖像画』を鳳蘭がやるということで、同歌劇団が行った際の「作曲部門担当」の選考で、当時同歌劇団の演出家であった草野旦が、たかじんのデビュー曲『ゆめいらんかね』を聴きその歌唱力と作曲センスを評価。白羽の矢が立ち、宝塚大劇場でも共演。この時、宝塚に楽曲5曲（『うわさ』『ゴロ寝』『ゆめいらんかね』『ひょっとしたらのお話』『ラスト・ショー』）を提供、その内の1曲『ラスト・ショー』は自身が歌ってレコード（アルバム:『プロフィール』の10曲目）も出している。なお、1993年には宝塚歌劇・星組公演『パパラギ』で『心はいつも』を提供し、これもたかじん本人が歌っている（アルバム『MOOD-夢見る男のために-』の3曲目）。さらに同年、中村敦夫の推薦で『新・木枯し紋次郎』の主題歌『焼けた道』（作詞：中村敦夫 作曲：猪俣公章）を歌う。この時、旅人役でゲスト出演するも、散々な内容でノイローゼとなり自殺寸前にまで追い込まれたという。後に本人は「ガンダムの『砂の十字架』（後述）と同等で「生涯最大の汚点」と語っている。また、この時の経験がトラウマとなり、その後テレビドラマ出演や芝居の依頼は一切拒否するようになる（自身が出演の番組（冠番組・ゲスト問わず）でこれを流すことはタブーであり、冠番組で流せば番組をその日を以って終了させると公言していた。ただし『新・木枯し紋次郎』単独での地方局等での再放送は拒んでいない）。これを機に猪俣とは親しくなり、コマーシャルソング「サントリーレッド」「桃屋の塩辛」などを歌うようになる。1978年、一度は歌手を辞めようと決意するが、周囲の勧めで渋々フェスティバルホールで行われた「第2回大阪大衆音楽祭」に出場し、『ながばなし』というタイトル通り10分程ある長い歌でグランプリを獲得（本人曰く、1分1秒でも長くフェスティバルホールの舞台に立っていたくて長い曲を作ったという）。これがその後の歌手活動を続けていくきっかけとなる。1980年にファンクラブ「CONCORDE」を設立（2004年度末に本人の意向により解散）。作詞家来生えつこと出会い、シングル・アルバム『明日になれば』をリリース。活動拠点を京都祇園から東京下北沢に移す。当時、レギュラー番組であった文化放送ラジオ『セイ!ヤング』の構成作家で作詞家デビュー前の秋元康と出会い親密な関係になる。当初は相談も兼ねて歌詞を持ってきた秋元に対し「全然アカン、話にならん。持って帰れ」と散々こき下ろしたが、その後に秋元作詞の曲は多数ヒットすることになった（この時の歌詞について、たかじんは「詩じゃなくて作文、文章であって歌詞とは呼べない」と評していた。一方、秋元は「たかじんさんは独特のこだわりがあるから、たかじんさんを納得させる歌詞を書くのは至難の業」と言っている）。後に、たかじんは「あの時、なんぼかもろとったらよかったわ」と、ネタとして度々話している。この当時、大阪のほかに東京・仙台・名古屋などにもレギュラー番組を持っており、雑誌『明星』に日本一移動距離の長い芸能人として取り上げられていた。2009年12月には、その秋元康が作詞、小室哲哉が作曲という形で新曲を発表する予定があることを明かし、翌2010年11月に件の新曲『その時の空』（OSAKAあかるクラブテーマ曲）が発売された。前述の秋元のコメントの通り、たかじんの歌詞へのこだわりが強く、かつて多くたかじんの曲の作詞・作曲を手がけた鹿紋太郎が新曲作りに取り組む際には、鹿がたかじんの自宅に泊り込んで半月程度の合宿をおこなったという。1981年には、谷村新司が作詞・作曲し、たかじんが歌ったアニメ映画『機動戦士ガンダム』（劇場版3部作の第1作目）の主題歌『砂の十字架』が13万枚 のヒットとなるが、本人にとっては生涯最大の汚点だという。これには数々の事情があり、当時たかじんを担当していたディレクターがキングレコードの部長に涙ながらに土下座をして、長い間鳴かず飛ばずだったたかじんにレコードを出させて下さいと直訴。その結果キングレコードは条件として、たかじんにガンダムの主題歌を歌うように指示、たかじんも歌詞に「ガンダム」という固有名詞がないことを条件に、（土下座したディレクターのこともあり）渋々承諾する。しかし、歌詞が気に入らなかったことと、ジャケットに自分の写真でなく、（同作品の主人公の）「アムロ・レイ」のイラストが描かれていた事にたかじんがクレームをつけて発売は延期となるが、結局そのまま発売されてしまう。このように自分の意向が蔑ろにされ、全てが事後承諾で制作された経緯がある作品である上に、無理矢理歌わされた曲が結果的に大ヒットしたため、「これまた人生の汚点だ」として番組などで嘆いた。またその後長い間、機動戦士ガンダムを観る事すら拒んだ。しかし後年になり岡田斗司夫から「今、歌えば逆に新鮮かも」との提案に、少し色気を出していた。1982年、大阪駅前第二ビルの一角にマネージャーであった野田幸嗣とともに個人事務所「P.I.S（パブリック・インフォメーション・スタイル）」を設立。その後、1983年にビクターに移籍して『ラヴ・イズ・オーヴァー』をリリース、1984年にリリースされた『あんた』が上昇気流のきっかけとなる。1986年には『やっぱ好きやねん』が関西で注目を集めヒット。さらにこれが「大阪の歌手」として人気を得るきっかけとなり、1987年には『ICHIZU』が関西で大ヒットした。その後も、1989年には『大阪恋物語』、翌年には『なめとんか』がヒット、大阪色を前面に出したバラードシンガーとして根付いていくことになる（『やっぱ好きやねん』をきっかけに若き作家鹿紋太郎と出会って以降、ビクター在籍中二人三脚で楽曲を製作し現在の歌い手たかじんのスタイルを築くこととなった）。本人曰く「歌手一本で食えるようになるまで20年はかかった」という。この頃には、関西でのたかじんのコンサート・ディナーショーなどのチケットは入手困難となり、常に前売り即完売のプラチナチケットとなっていた。1992年にポリスターに移籍して『泣いてもいいか』をリリース、1993年には『東京』が約60万枚 の自己最高のヒットとなり、翌1994年に全日本有線放送大賞「特別賞」「読売テレビ最優秀賞」を受賞する。なおポリスター移籍後、多くの楽曲の作詞を及川眠子（和歌山出身）が担当している。1999年10月5日にフェスティバルホールで行われた50歳記念のバースディコンサート「YASHIKI TAKAJIN 50YEARS OLD ANNIVERSARY SPECIAL CONCERT」で一度休業している。2001年12月12日岡山国際ホテルで行われたディナーショーで歌手活動を再開。2002年8月31日にフェスティバルホールで行われた復活スペシャルコンサート「YASHIKI TAKAJIN SPECIAL CONCERT 2002」を行った際、歌い終わったあとに「やっぱ山口百恵のようにはいかんな、またマイク握っとる」と発言し、ファンは活動再開を喜んだ。なお、2002年12月30日に行われた帝国ホテル大阪のディナーショーを最後に、2003年以降一切のコンサート活動をしなかった。2003年、「やっぱ好きやねん」がバックに流れ川藤幸三がCM出演した『大阪ソウルバラード』（全15曲のうち5曲がたかじんの歌が収録されている「やっぱ好きやねん」「生まれる前から好きやった」「なめとんか」「大阪恋物語」「あんた」）が阪神タイガースの18年ぶりの優勝に猛進していることも相まって15万枚の売り上げを記録した。2007年6月9日に行なわれた、当時毎日放送アナウンサーの八木早希の結婚式で「My Memory」「My Way」を披露した（この結婚披露宴はたかじんがプロデュースしている）。2007年11月16日にやしきたかじん携帯公式サイト「発禁!?たかじん新聞」の「熱唱!!やしきたかじん」というコーナーで、本格的な歌手活動に向けてのハワイでのトレーニングの模様を収めた映像を公開するという形で歌手活動を再開した（歌唱した曲目は「見えない糸」「東京」「ICHIZU」「もしも夢が叶うならば」「Fly me to the moon」「やっぱ好きやねん」。またダイジェストで「エゴイズム」「なめとんか」も歌っている）。2008年5月に公式サイトをリニューアルし、プラチナムメンバーを対象に「熱唱!!やしきたかじん」をはじめとするたかじんのプライベートやたかじんのオススメ通販情報などを動画で提供するサービスやチケットの優先予約などのサービスを開始する（「熱唱!!やしきたかじん」で歌唱した曲目は「見えない糸」「東京」「ICHIZU」「もしも夢が叶うならば」「Fly me to the moon」「やっぱ好きやねん」「大阪恋物語」「生まれる前から好きやった」「サン・トワ・マミー」「雪が降る」「恋」「ついてくよ」）。2008年8月29日に読売テレビの開局50周年記念として大阪城ホールで行なわれた、やしきたかじん自らプロデュースする音楽イベントkoi-conにてステージで6年ぶりに歌った。「惚れた弱み」「未練〜STILL〜」「My memory」「大阪恋物語」「東京」「夢見る男のために」「やっぱ好きやねん」「明日になれば」を歌った。（「東京」「やっぱ好きやねん」は松山千春とのデュエット）このイベントの中で「もしかしたらこれ（koi-con）が最後（の舞台）かもしれない」という発言をしているが、同時に歌うかもしれないということをほのめかした。2009年に7年ぶりのコンサートツアー（8/30岸和田 - 12/14京都、全国10箇所・12公演）ディナーショー（12月20日帝国ホテル大阪）を行った。