Stiftelsen Teaterhuset Avant Garden (TAG) ble etablert i 1984 av de tre frie, profesjonelle teatergruppene Magna Vox, Petrusjka Teater og Studio Teater. De tre gruppene drev selv teatret i mange år med både egne produksjoner og gjestespill på programmet. TAG holdt da til i Kjøpmannsgata 42 vis á vis hotellet Royal Garden, som var under bygging. Da Olavshallen skulle bygges der det gamle mellageret lå, måtte teatret flytte ut av lokalene. I 1993 flyttet Teaterhuset Avant Garden til Folkets hus i Olav Tryggvasons gate 5. Teatersalen ble etablert i kjelleren, i lokalene til Arbeideravisas gamle trylkkeri. Publikumskapasiteten var inntil 2019 på kun 66 sitteplasser. Våren 2019 flyttet teatret til Rosendal Teater, og samtidig byttet TAG navn til Rosendal Teater.