Die einstige Kapelle auf dem Waldsteingipfel wurde zusammen mit der Ostburg errichtet. Sie war mit kleineren Wandmalereien und Buntglasfenstern ausgestattet und beherbergte neben einer Heiligsten-Kammer einen Altar. Sie wurde nicht mit der Ostburg nach dem Bau der Westburg aufgegeben, sondern noch gut 200 Jahre weiter von Weißenstadt aus gepflegt. Sogar eine Art von Kirchweihfesten wurde dort abgehalten. Die Kapelle wurde wahrscheinlich erst beim Hussitensturm 1430 zerstört. Bei seinen Ausgrabungen in den 1960er Jahren fand Karl Dietel neben vielen steinzeitlichen Gerätschaften auch ein sogenanntes Votivrind. Man geht davon aus, dass dieses Rind Gott geopfert wurde, um die Kühe zu beschützen. Diese Vermutung wird dadurch gestützt, dass das Gotteshaus dem Heiligen Wolfgang, dem Beschützer des Viehs, geweiht war. Interessant war auch der Fund von vier Gräbern, von denen eines leer war, in den anderen fand man die Skelette eines Mannes, einer Frau und eines Kindes. Ein Skelett, dessen Beine fehlten, wies oberhalb des Beckenknochens Spuren eines spitzen Gegenstandes auf. Dietel äußerte den Verdacht, dass man bei einer Erweiterung der Kapelle das Skelett ausgegraben und Teile beiseitegeschafft hat.