Utredarna tror att branden i Nauen, väster om Berlin, startades avsiktligt. Ingen skadades.
Högra demonstranter har demonstrerat mot asylsökande i området.
Tysklands förbundskansler Angela Merkel fördömde tidigare våldsamma protester på ett asylhem i den östra staden Heidenau, nära Dresden, under helgen.
Dussintals poliser skadades i sammandrabbningarna.
Angela Merkel har beskrivit de högerextrema aktivisternas beteende i Heidenau som "ohyggligt" och "skamfullt" och sade att hon skulle besöka staden på onsdag.
Korrespondenterna säger att de flesta tyskar har välkomnat asylsökande, men en liten minoritet har varit högljudd i sitt motstånd.
Även på tisdagen evakuerades det socialdemokratiska partiets (SPD) högkvarter i Berlin efter ett bombhot.
Det är inte klart vem som låg bakom hotet och genomsökningen av byggnaden fann inget misstänkt.
Tjänstemän i partiet säger att det har fått många hot från högerextremister efter partiordförande och vicekansler Sigmar Gabriel besökte Heidenau på måndagen.
Tyskland förväntar sig att upp till 800 000 personer ska söka asyl i slutet av 2015.
Regeringen bekräftade i tisdags att den hade beslutat att behandla asylärenden från de flesta syriska sökande, oavsett hur de kom in i Europa.
Den meddelade på Twitter (på tyska) att den skulle upphäva EU:s Dublinförordning, enligt vilken asylsökande måste lämna in sina ansökningar i den första medlemsstat de når.
I Nauen revs gymnastiksalen - en del av en yrkesskola - tidigt på tisdagen.
Byggnaden, omkring 15 kilometer väster om Berlin, berodde på att omkring 130 personer sökte asyl i Tyskland, sägs det.
Dietmar Woidke, statspremiär för Brandenburg där Nauen ligger, sade åtgärder mot asylsökande var "skakiga och ovärdiga Tyskland".
Ett annat planerat skyddsrum brändes ner i den sydvästra staden Weisach im Tal på måndag. Polisen undersöker igen möjligheten att det kunde ha startats avsiktligt.
"Flyktingar välkomna!" utropar tidningen Bilds förstasida i morse.
Det talar för de flesta tyskar som är förskräckta över ännu ett angrepp på bostäder avsedda för asylsökande.
Antalet sådana attacker har ökat kraftigt i år, även om de fortfarande är relativt låga på omkring 200.
Efter våldsamma demonstrationer utanför ett härbärge i den östra staden Heidenau under helgen har många här svårt att betona att en liten minoritet är ansvarig.
I hela det politiska spektrumet har parlamentsledamöter och ministrar fördömt främlingsfientlighet.
Men i ett land som fortfarande är smärtsamt medvetet om sitt andra världskrigs historia finns det också skam. Enligt Norbert Lammert, förbundsdagens president, är våldet "en skam för vårt land".
Säkerheten höjdes vid det nyöppnade centret i Heidenau under helgen efter två nätter av protester.
Polisen fick använda tårgas och pepparsprej tidigt på lördagsmorgonen för att häva en blockad av skyddsrummet. Hundratals människor slungade flaskor och stenar på polisen och skadade 31 officerare.
Vänsteraktivister som iscensatte motdemonstrationer råkade också i konflikt med högerdemonstranterna.
Polisen i Tyskland säger att en idrottshall avsedd som tillfälligt skydd för asylsökande har brunnit ner i en misstänkt mordbrandsattack.