26 июля 1948 года во время блокады Берлина бургомистр Фердинанд Фриденсбург отстранил Маркграфа от должности за «продолжительные антиконституционные незаконные действия, невыполнение своих установленных законом задач и за отказ от исполнения указаний Берлинского магистрата». В советском секторе Берлина Маркграф уволил всех «некоммунистических» сотрудников полиции и был ответственным за бездействие полиции во время разгрома здания Городского собрания Берлина в районе Митте. Как следствие, депутаты городского собрания переехали в британский сектор, что послужило началом раздела Берлина. Маркграф отказался выйти в отставку и с согласия советских оккупационных властей продолжал работать в советском секторе Берлина. Начальником управления полиции в западных секторах Берлина стал Иоганнес Штумм.