А как можно поступить? Либо не выходить замуж за мужчину с таким прошлым, либо оставить ему право быть отцом тем детям. При чем тут она? Б-ть она или нет - это был выбор вашего мужа, кстати. И ему нормально было спать с замужней женщиной и заиметь от ней двоих (!) детей. И он заботится не о ней, а о детях. Что вы предлагаете? Запретить ему участвовать в их жизни? Как? Если не можете изменить ситуацию, измените своё отношение к ней, что остается.