Alguno de sus poemas posteriores se centran en su relación con Peter Orlovsky, su amante de toda la vida a quien dedicó "Kaddish and Other Poems" ("Kaddish y otros poemas").