この「side」は強調のために使われていますが、「stayed by her」と「stayed by her side」では多少意味も違います。「stay by someone's side」とは、誰かについていくこと、誰かが行く場所に行くことを指します。また、この「side」はその場所を具体的にする目的で使われています。何かがあなたの「side」にある場合、これは通常、あなたの真横にあるということになります。一方で「stayed by her」は、このように場所を具体的にするわけではなく、ただ何かが別の何かの近くにあるということを表しています。