Yosef sirvió en una variedad de cargos ministeriales durante los dos primeros Knésets, y fue el segundo Ministro de Justicia, ocupando ese puesto en dos ocasiones (1951-52 y 1961-66).