Browns vant NFL Championship Game i 1950, som var lagets første sesong i ligaen. Cleveland nådde igjen tittelkampen året etter, men tapte da 24–17 mot Los Angeles Rams. Med kne- og albueskader valgte den da 32 år gamle Rymkus å pensjonere seg etter 1951-sesongen, etter å ikke ha gått glipp av en eneste kamp eller treningsøkt i løpet av sine seks år med laget. Brown beskrev ham som «the best pass protector I've ever seen»; tidligere lagkamerater beskrev hans spillestil ble brukt som en modell for trening av nykommere til laget i Cleveland.