Etter studier Italia og i Sveits og ved Akademiet i Kraków ble Budny en varm tilhenger av reformasjonen og fikk en prestestilling hos den protestantiske fyrst Mikołaj Czarny Radziwiłł, vojvod av Vilna. På denne tid oversatte han hele Bibelen tll polsk (trykket i 1570 og i 1572), og utgav den og andre skrifter på et trykkeri han opprettet i Nieśwież (Njasvizh). Han forlot snart kalvinismen og begynte å preke socinianske læresetninger. Under vern fra Jan Kiszka, starost i Samogitia og Litauen, stiftet Budny en sekt, som ble kalt den «halvjødiske» eller ebionittiske.