司法長官として真っ先に取り組んだ仕事は、父親や兄ジョンと関係の深いマフィアをはじめとする組織犯罪の撲滅であった。マフィアとの関係を持つことを躊躇しなかった父や兄と違い、ロバートはマフィアを「アメリカの内なる敵」と見ていた。そのために司法省内に組織犯罪対策の特別班を結成し、徹底的な取締りを行った。まず1961年4月4日に、当時全米闇社会でナンバーワンの実力を誇っていたと見られるカルロス・マルセロを強制逮捕し、国外追放とした。また、マフィアとの癒着を疑われていたチームスター組合のジミー・ホッファを背任横領罪の罪で起訴した。このとき陪審員の意見が分かれてホッファは放免となったが、この裏にホッファによる猛烈な陪審員買収工作や脅迫があったことを突き止め、陪審員工作の罪で再び起訴し、ホッファを刑務所送りにすることに成功した。この頃、マフィアとの関係が深かった父親のジョセフが主席法律顧問の職を降りる様に忠告するが、耳をかさず精力的に活動し、結果数多くの敵を作った。ジョセフが忠告した理由は、禁酒法時代に築いた自分とマフィアの酒の密売をめぐる親密な関係だった。ジョセフにとってそのことは弱みでもあったからである。さらに、マフィアは上記のようにケネディの選挙の恩人であり、CIAのカストロ暗殺計画の協力者でもあった。ロバート自身がカストロ暗殺計画を知っていたかどうかについては意見が分かれる。また、妹パトリシアと結婚したイギリス人俳優のピーター・ローフォードを通じて知り合い、大統領選挙の際に様々な貢献を行い、その後もジョンと親しい関係を持っていたフランク・シナトラと、シナトラの後見人的存在で、ジョンの選挙の際に選挙不正を手伝ってくれたシカゴのドンであるサム・ジアンカーナをジョンとケネディ政権から遠ざけた。ジアンカーナはシナトラや、ジョンと愛人関係にあったジュディス・キャンベル・エグズナーらを使って、選挙不正への関与をネタにケネディ政権と取引しようとしたが、ロバートは選挙不正が表ざたになることを恐れてジアンカーナへの締め付けを一層強め、1963年6月には完全張り込みの対象としていた。その後、司法省・商務省・国税庁を総動員して組織犯罪の本拠地ラスベガスを直撃する構想を1963年10月には完成させていたが、ケネディ大統領暗殺事件により中止となった。ロバートが国外追放にしたマルセロは1962年、極秘裏にアメリカに戻り、司法省の強引な手法を違法であるとして裁判を起こし、勝訴した。FBIの報告によれば、1962年9月にマルセロは自身の本拠地であるニューオーリンズに全米のマフィアを集めてケネディ政権の組織犯罪潰しを罵り、彼らの暗殺を示唆している。また、ロバートの手により刑務所送りとなったジミー・ホッファは1971年に大統領特赦により釈放された。
ロバート・ケネディは当時アメリカで大きな問題となりつつあった人種問題にも積極的に関与した。1950年代から1960年代にかけては公民権運動が最高潮に達していたが、それに対抗する勢力も拡大しつつあった。そのひとつにジョージ・リンカーン・ロックウェルの率いるアメリカ・ナチ党があった。ロバートはロックウェルを陰謀罪で逮捕・起訴したが有罪判決には至らず失敗した。1962年9月、黒人学生ジェームズ・メレディスがミシシッピ大学に人種を理由に入学拒否される、いわゆるメレディス事件（英語: Ole Miss riot of 1962、「ミシシッピ大学（Ole Miss）暴動（1962年）」）が起きたとき、ロバートはミシシッピ州知事ロス・バーネットや大学当局者の説得に当たった。また、1963年にアラバマ大学への二人の黒人学生の入学をめぐる問題では、アラバマ州知事ジョージ・ウォレスに対し、二人の入学を妨害しないよう電話で説得した。このときのやり取りはテレビでも放送されたが、あくまでも黒人学生の入学を阻止しようとするウォレスに対し、「それでもあなたはアメリカの市民か!」と怒鳴りつけた。
日本共産党が戦後から再開した「武装闘争」路線を信奉する急進的な学生党員は、1955年の日本共産党第6回全国協議会では武装闘争路線を転換した指導部への不信・不満を募らせ、日本社会党に続いて日本共産党という既成左翼政党が武装闘争路線を事実上放棄したとして反発した者達を中心に、当初の日本共産党の武装路線を継続する新左翼と呼ばれる過激派が誕生した。しかし、日本の学生運動が下火になっていた1971年当時も残存する新左翼組織であった赤軍派と革命左派は大菩薩峠事件やよど号ハイジャック事件などで最高幹部クラスが逮捕、国外逃亡、死亡したりして弱体化していた。赤軍派はM作戦（金融機関強盗）によって資金力はあったが、武器がないのが弱点であった。一方の革命左派は真岡銃砲店襲撃事件などで猟銃を手に入れていたため武器はあったが、資金力がなかった。互いの活動を評価していた両組織は以前から接近していたが、それぞれの利害が一致したことから、赤軍派の軍事組織である中央軍と革命左派の軍事組織である人民革命軍が統合し、統一された「赤軍」（統一赤軍）として7月15日付で生まれた。赤軍派幹部の一人である森恒夫は当初から党の統一を志向していたが、獄中の革命左派議長である川島豪らの強い反対で連合赤軍に改称された。1971年12月上旬、両派は南アルプスで初の合同軍事訓練を行う。しかし、その場で両派の間に対立が生じる。背後には両派の間での主導権争いがあったとされる。結局両派はお互いの批判を受け入れ、この合同軍事訓練は表面上は友好ムードの中で終わった。その後、両派の非合法部は1971年12月20日ごろに榛名山の革命左派山岳ベースで指導部会議を開催するが、それとほぼ同じ頃に非合法部と合法部の対立が発生した。山岳ベースの非合法部指導部は赤軍派・革命左派両派による「新党」の結成を確認するとともに、合法部を分派と決め付け、「銃を向ける」ことも含めた暴力的党派闘争が検討された。更に合法部寄りと見做したメンバーに対し、初めて暴力による「総括」(後述)が行われた。「新党」では、翌1972年1月3日、独自の中央委員会（CCと略される）が結成される。中央委員会は委員長が森恒夫、副委員長が永田洋子、書記長が坂口弘、その他中央委員は序列順に寺岡恒一、坂東國男、山田孝、吉野雅邦の4人であり、中央委員会のメンバーは計7人であった。しかし、組織の実態は森が独裁的権限を持ち、永田と坂東がそれを強く支える体制であった。