Tidlig i 1970 søkte Rymkus på en stilling som offensive line coach for Browns, men fikk ikke jobben. Senere samme år var han tilbake i NFL, da som offensive line coach for Baltimore Colts under Don McCafferty. Etter tre seriekamper ble han derimot erstattet av George Young, og ble flyttet til lagets speideravdeling. Rymkus fikk en mesterskapsring det året etter at Colts slo Dallas Cowboys i Super Bowl V.