Ved Melchior Klings formidling ble han året etter den gamle kansler Wolfgang von Utenhofs etterfølger etter å ha tilsagt . Det er imidlertid usikkert om Barby noensinne offisielt fikk selve tittelen som tysk kansler, selv om det ikke kan utelukkes at så skjedde sent i 1550-årene. I dommen over Peder Oxe til Nielstrup juni 1558 kalles han tysk kansler, og på samme måte betegnes han av Jacob Bording i likprekenen over Christian III.