摇身变成日本最大跨越区域性的企业化黑道组织。1964年日本警方发动全国性暴力团的「顶上作战」取缔行动，山口组在这次行动中，被列为首要集中取缔对象；1966年6月，更有「山口组坏灭作战」的一连串取缔行动正式开始。1978年7月11日、第三代田冈一雄组长在京都市被松田组大日本正义团的组员「鸣海清」枪杀受伤，事后在山口组的各方施压下，鸣海清最后遭自家人处死。1981年7月、第三代「田冈一雄」组长病逝。同年10月、兵库县警方设置了「山口组解体作战本部」，10月25日、神户市滩区篠原本町的田冈邸，山口组举行组葬。