Fosse ble i 1998 beskrevet som en den mest rendyrkede senmodernisten i Norge. På 1980-tallet ville han etablere en poetikk basert på Jacques Derridas ideer. Fosse har uttrykt stor respekt for Olav H. Hauge og skrev en liten «pamflett» (Samlaget, 1993).