中学時代は柔道部に在籍し、団体戦で県大会優勝を経験。その一方で喧嘩にも明け暮れ、暴走族にも入る不良時代を過ごし、あまりの素行不良から地元では「広島の粗大ゴミ」と呼ばれていた。中学卒業後、高校に進学せず（地元の高校入試を複数校受験したがいずれも不合格）、就職するも仕事は長続きせず、様々な職業を転々とした。1988年9月9日にプロボクサーを目指して上京。当時、協栄ボクシングジムに間借りしていた沖ボクシングジムに入門する。上京後は内装の会社に就職。ボクシングで生計が立つまで同社で働いた。同社社長には非常に感謝しており、世界チャンピオン獲得時には社長をリング内に上げている。
2000年にスペイン、テルセーラ・ディビシオン（4部）のCDカラオラにてキャリアをスタートさせる。翌2001年にはセグンダ・ディビシオン（2部）のCDヌマンシアに移籍、キャリアアップを果たすと2シーズンでリーグ戦62試合に出場とチームの守りの要として活躍する。2003-2004シーズンにはプリメーラ・ディビシオン（1部）のCAオサスナへと移籍する。ここで当時の監督であったハビエル・アギーレに気に入られると、ヌマンシア時代と同じくポジションを確保、UEFAチャンピオンズリーグのグループリーグ進出は逃すも2005-2006シーズンのリーグ戦4位獲得に貢献する。そして2007年にはスペインを飛び出しスコットランドの強豪レンジャーズFCへと加入、ここでもレギュラーとしてプレーする。日本では2008年4月17日のセルティックFCとのオールドファームにおいて中村俊輔のシュートを手で止めて退場処分を受けたことで知られているが、チーム内では1シーズンの所属ながらも絶対的な存在となり、2008年のスコットランド・サッカー記者協会年間最優秀選手賞を受賞している。2008年からはイングランドへとプレーの場を移し、アストン・ヴィラFCに所属。古豪チームとあって、レギュラーに固定されない状況ではあるが各リーグで高評価を得たストッパーとしての能力を生かしている。2012年にヴィラ時代の恩師マーティン・オニールが率いるサンダーランドAFCに移籍。2014年8月20日、ノリッジ・シティFCに加入した。ノリッジ退団後の2015年8月10日、UDアルメリアに1年契約で移籍した。2016年8月12日、イスラエル・プレミアリーグのマッカビ・ペタク・チクヴァFCに加入。翌シーズンは同リーグのハポエル・イロニ・キリヤット・シュモナFCでプレーすることが発表された。2018年5月15日、ベイタル・エルサレムFCに移籍した。
その後は二軍守備コーチ（1969年 - 1973年）を経て、1974年に一軍守備コーチとなったが、長嶋茂雄監督が就任した1975年には球団創設以来、初の最下位に転落した責任を取らされる形で、同年退団。その後、埼玉県川口市の鉄建用の丸棒メーカー「向山工場」でサラリーマン生活を4年間経験しながら、勤務先の休日にはニッポン放送の解説者としても活動した。横浜大洋ホエールズでフロント入りしていた別当薫の誘いを受けて1979年11月7日に同球団の二軍監督に就任し、1981年退任。1982年には日本テレビ野球解説者に。以後は若手選手育成の手腕を買われ、セ・パ両リーグの監督・コーチとして活躍。藤田元司監督の要請を受けて1982年12月2日に巨人へ復帰することが発表され、二軍守備・走塁コーチ（1983年 - 1984年）、一軍守備コーチ（1985年）を経て、王貞治監督時代の1986年、ヘッドコーチに就任した国松彰の後任として二軍監督に就任。熱血漢と呼ばれ、「チームの勝利と育成の両立」に力を注ぎ、その熱い指導の下でイースタン・リーグ4連覇、ジュニア日本選手権3連覇も達成した。1989年退団。1990年には大洋の監督に就任し、チームを7年ぶりのAクラスに導く（大洋ホエールズとしてのAクラスはこの年が最後）。また同年の秋季キャンプでは特に新人･若手選手を鍛え上げ、後のチーム強化の下地を作る。翌1991年は前年と同じ勝ち星（64勝66敗）ながら5位に終わる（ただし、阪神が圧倒的最下位だったため、首位から5位までのゲーム差は10だった）が、佐々木主浩投手を抑えに抜擢する。12月、高校の後輩として重用していた中山裕章投手が不祥事を起こし退団してしまい、その影響もあって翌1992年は開幕から低迷したため、その責任をとる形でシーズン途中で辞任した（後任には江尻亮ヘッドコーチが就任）。1992年10月26日、巨人の監督に復帰したばかりの長嶋茂雄の要請で巨人のヘッドコーチとして2度目の復帰。1994年には参謀役としてチームのリーグ優勝・日本一に貢献した。1995年退団。その後は1996年には日本放送協会（NHK）野球解説者を経て、1997年に西武のヘッドコーチに就任。同年7月10日の近鉄戦で東尾修監督が審判へ暴力行為を振るい3試合出場停止処分となり、3試合監督代行を務めた。1999年退任。2003年10月10日にヘッドコーチとして再び巨人に復帰。堀内恒夫新監督の参謀役を期待されるもチームは思うように機能せず、2004年9月13日退団が発表された。監督・コーチ時代には、プロ野球名鑑の趣味の項目に「しょうちゅうでの語らい」と記述していた。同じく監督・コーチ時代には、抗議の際帽子を叩き付け顔を紅潮させるという一種のパフォーマンスを行っており、この事が平光清の著書でも触れられている。また、選手に対する鉄拳でも有名で、二軍時代の斎藤雅樹も須藤に殴られた事があるという。フジテレビの「さらば、愛しきプロ野球…。」では、現役・指導者時代の長かった巨人時代を振り返り、「長嶋・王は、ともに選手を悪く言わなかったが、他人の言うことに耳を貸さない頑固な指導者だった」と語っている。