シェレンベルクは、IVE部長には1941年まで在職していた。その後、VI局（SD国外諜報／SD-Ausland）へ異動となり、ここで局長ハインツ・ヨストの代理となる。1942年にはアインザッツグルッペン（東部戦線で国防軍の後方にいてユダヤ人などの虐殺を行っていた部隊）の任務のために東部戦線へ送られたヨストに代わって国家保安本部第VI局局長に任じられる。彼は駐ストックホルム日本公使館付武官の小野寺信陸軍少将とも接触していた。シェレンベルクはハインリヒ・ミュラーと並んで数少ないアインザッツグルッペンの指揮官に任じられなかった国家保安本部の幹部である。シェレンベルクの回顧録によるとハイドリヒはシェレンベルクもアインザッツグルッペン指揮官に任じようと考えていたが、親衛隊全国指導者ハインリヒ・ヒムラーが「シェレンベルクをドイツの外へやるときには私の許可を得るように」とハイドリヒに指示していたため、任命できなかったという。またハイドリヒが暗殺された後、空席となった国家保安本部長官にヒムラーはシェレンベルクを考えていたというが、ヒトラーが若すぎるとして反対したという。1944年2月には中立国の国防軍情報部情報協力者の寝返りが原因でヴィルヘルム・カナリスと国防軍情報部はヒトラーの信任を失った。ヒトラーは以降国防軍情報部はシェレンベルクのSDの傘下に入れるものとするという異例の決断を下した。こうしてシェレンベルクは国防軍情報部をも掌握することとなり、ドイツの情報機関はすべてシェレンベルクによって統括されるところとなった。大戦末期シェレンベルクは、ヒムラーの補佐官としてフォルケ・ベルナドット伯爵を通じて連合軍と和平交渉をするようにヒムラーを説得し、秘密裏に会合を持つが失敗する。シェレンベルクは1945年6月にデンマークで連合軍に逮捕された。
1933年4月1日、その年の1月30日に政権を掌握していた国家社会主義ドイツ労働者党（ナチ党）に入党した。党員番号は3,504,508。同日、親衛隊に入隊した。隊員番号は124,817。シェレンベルク本人によると彼がナチ党に入党したのは家からの仕送りが不足していたため、給付を受けやすくするためだったという。当時のシェレンベルクは司法修習生として法律の研修中だった。親衛隊員としての活動ははじめフルタイムではなく、パートタイムだった。親衛隊少年兵の歴史教育を行う職に就いていたが、講義の中で反カトリックの講演をしたことでカトリック嫌いのSD長官ラインハルト・ハイドリヒ親衛隊中将に注目されたという。1934年にSDに参加した。1936年12月に司法試験に合格した後にデュッセルドルフからベルリンのSD本部へ異動となり、SDのI局（人事・財政部）に勤務した。1937年にはドイツ内務省にも入省し、1938年に参事官 (Regierungsrat) となった。1938年には最初の妻ケーテ・コルテカンプ (Käthe Kortekamp) と結婚した。しかしまもなく離婚して、1940年10月にはイレーネ・グロッセ＝シェーネパウク (Irene Grosse-Schönepauck) と再婚している。1939年9月にハイドリヒを長官とする国家保安本部が創設されると、シェレンベルクはその第IV局（ゲシュタポ局）E部（防諜部）部長に任命された。国防軍防諜部のヴィルヘルム・カナリスとも知己となる。カナリスはシェレンベルクの上官ハイドリヒとは犬猿の仲であったが、シェレンベルクには大変好感を寄せていたという。ポーランド戦開戦直後の1939年9月にドイツ国境に近いオランダの町フェンローで活動中の英国人情報将校を誘拐する（フェンロー事件）。後に、オランダが中立国であるにもかかわらず、英国軍人にスパイ活動の便宜を供したとしてこの事件をオランダ侵攻の口実とした。ヒトラーはシェレンベルク以下、フェンロー作戦参加者を総統官邸に招き、自らの手で彼らに一級鉄十字章を授与した。
1945年、高崎市民オーケストラとして創設した。翌1946年に群馬フィルハーモニーオーケストラと改称、1947年にプロ化した後、1949年に財団法人が設立され、1963年に現在の名称に改められた。1955年、群馬交響楽団をモデルに制作された映画『ここに泉あり』が公開されて全国的に注目を集め、翌年には文部省により群馬県が全国初の「音楽モデル県」に指定された。さらに1961年、高崎市民の全面的な支援を受けて同市に群馬音楽センターが建設され、これを拠点としてさらに幅広い活動が展開された。また、1947年5月に始めた移動音楽教室では、2004年度までに延べ570万人以上の児童・生徒が鑑賞しているのをはじめ、県内各地での演奏活動の展開により､群馬県の文化の象徴として県民から幅広く支持されている。1963年、楽団の運営をめぐり一部の理事と楽団員達の間に軋轢が生じ、7月13日には楽団員32名のうち21名が退職届を提出する事態に発展した。これに対して会長（高崎市市長）は「去るものは追わない」として、提出された退職届をそのまま受理するなどした。1968年に、群馬県の依頼で制作された「群馬県の歌」を演奏し、現在でも群馬テレビの毎日放送開始時と放送終了時に放送されている。1994年には「プラハの春国際音楽祭」「ウィーン芸術週間」から同時に招待を受け、音楽監督高関健指揮のもと、4か国を巡る海外公演を実現した。翌1995年の創立50周年には、東京および群馬県内各地でベートーヴェン交響曲連続演奏会を行った他、50周年記念委嘱作品『オーケストラのための遠景Ⅱ』（細川俊夫作曲）を東京・群馬で初演し、高い評価を得た。2001年からは、日本の音楽界を牽引している楽団として、文化庁の「芸術創造推進事業（アーツプラン21）」支援団体に指定されている。2003年には、5月に定期演奏会が400回を数えるとともに、同年10月のNHKテレビ番組『プロジェクトX〜挑戦者たち〜』で団の草創期が紹介され、改めて全国的に注目された。群馬県を舞台として2005年に放送されたNHK連続テレビ小説『ファイト』では、テーマ曲を演奏している。最近では、定期演奏会、移動音楽教室など地域に根ざした活動や、レコーディング、文化庁の本物の舞台芸術体験事業をはじめとして全国各地での演奏活動も積極的に行っている。創立70周年にあたる2015-2016年度の定期演奏会（全9回/会場:群馬音楽センター）での総入場者数は1万3200人を超え、過去最多記録（2010年度/1万3057人）を更新した。創立70周年の最後を飾る第516回定期演奏会（2016年3月19日/会場:群馬音楽センター）では、ドビュッシーの『牧神の午後への前奏曲』と、群馬交響楽団初演となるメシアンの大作『トゥーランガリラ交響曲』を演奏、満員の聴衆を魅了し、大きな拍手を得た。