W 1881 na wydzierżawionym przez Gracjana Ungra dziedzińcu pałacu wzniesiono pawilon wystawienniczy zaprojektowany przez Leandra Marconiego. Był on wykorzystywany na wystawy malarskie, m.in. tam po raz pierwszy wystawiono "Hołd pruski" oraz (po raz drugi w Warszawie) "Bitwę pod Grunwaldem" Jana Matejki. Zasłaniającą główny korpus budynku budowlę rozebrano w 1896.