I sin første periode i Kongressen, ble Cohen dypt involvert i etterforskningen av Watergate-skandalen. Som et medlem av , ble han en av de første republikanerne som brøt med partiet og stemte for å stille president Richard Nixon for riksrett. På denne tiden utnevnte ham til en av «Amerikas 200 fremtidige ledere».