在他要出任司州刺史，外镇洛阳（今河南洛阳）时就特地举荐沈劲参其府事，并得朝廷允许。可是，王胡之一直因患病，至病死也没上任。隆和元年（362年），前燕宁南将军吕护进攻洛阳，冠军将军陈祐时为洛阳守将，但麾下兵力不足二千人，于是向朝廷告急，桓温就派了庾希及邓遐共率三千兵增援。沈劲闻讯后自行上表请求协助陈祐，朝廷于是让他任陈祐的长史、扬武将军，命他自行招募将士。沈劲最终招得千多人，就出发往洛阳。而沈劲到洛阳后亦屡次以少胜多，击退燕军。兴宁二年（364年），前燕太宰慕容恪亲自率军进攻洛阳，燕军亦将攻取了附近地