到司马炎厚待。不过羊琇为人崇尚奢华，放恣犯法，多次被人检劾。其后司隶校尉刘毅弹劾羊琇，按律应受重刑，司马炎因其旧恩而仅免去其官职。不久羊琇又以侯爵不当为白衣的原因而得领护军，没多久尽复其职。及至齐王司马攸出镇，羊琇犯颜强谏，忤逆了司马炎的旨意，被贬为太仆。羊琇便因失宠而感到愤怨，后来发病求退。朝廷体恤其情，加羊琇为散骑常侍，但当羊琇回到府中的时候就逝世了。朝廷追赠他为辅国大将军、开府仪同三司，赐东园秘器，朝服一袭，钱三十万，布百匹。谥号为威。