Plebania bazyliki św. Kastora została zbudowana w stylu łączącym gotyckie i reńsko-romańskie formy architektoniczne według projektu Johanna Claudiusa von Lassaulxa. Została oddana do użytku w 1829 roku. Zgodnie z treścią ksiąg rachunkowych Lassaulxa, koszt budowy budynku wyniósł 7378 talarów. Fasada budynku jest symetryczna. Centralnie umieszczone wejście poprzedzone jest schodami. Okna drugiej kondygnacji umieszczone są w płytkich wnękach zamkniętych łukami pełnymi opartych na wspólnym gzymsie podokiennym.