完全な別居生活ではなく、夫は自宅と愛人と住む家とを、行ったり来たりしているようですね。まず、夫の接し方は、お子さんたちに良い影響を及ぼさないと思います。なぜなら目の前のパパは、「自分たちの本当のパパ」なのかどうか、分からなくなるからです。仮に、夫の祖国では珍しくない行動だとしても、少なくともこの国では非常識だと思います。
また、あなたが離婚に躊躇し、夫に頼らざるを得ないことを夫はよく分かっていると思います。だからこそ、愛人との生活も愛人との間に子どもを持つことも許し、認めてくれると思っているのでしょう。
去った夫が戻ってくるとしても、年齢を重ねてからではないでしょうか？　それまで、あなた自身は我慢して待てるかもしれませんが、お子さんたちは、その間に大人に対する不信感を募らせ、真の愛情を学べずに育つことになるでしょう。
あなた自身がどう行動し、どう決断するかだと思います。1人で解決するのは大変だと思いますので、一度、地域にある公的な無料法律相談窓口などを利用して、相談してみてください。親御さんや親戚などへの相談も必要になるかもしれませんが、まずは、今の状況や今後のことを法的に見てどうなのかを知った上で、今後の方向性を考えていかれるといいでしょう。