Hans tidlige fratreden - i en alder av 59 år - ble ifølge pressen utløst av noen skandaler ikke lang tid i forveien. Etter at en prest tok sitt eget liv i januar 2017 ville ikke biskop Kaszak kommentere saken, og bispedømmet pekte på sinnsforstyrrelser, noe andre imidlertid bestred. En annen sak var i mars 2023 da en annen prest begikk selvmord etter at en diakon var blitt brutalt myrdet. Så var det en orgie mellom prester og en mannlig prostituert i august 2023 som ble alment kjent etter at medisinsk hjelpepersonell ble hindret av presten som var vertskap fra å komme vedkommende til hjelp da han hadde fått en negativ reaksjon mot medikamenter han hadde inntatt - det dreide seg om potensmidler. I et brev til bispedømmets troende den 23. september, lovet biskop Kaszak at den presten som hadde innbudt til orgien ville bli straffet av kirken, hva enn de sivile myndigheter kom til å foreta seg.