Joab spilte en vesentlig rolle som kommandant av Davids styrker under opprøret til Absalom. Denne var en av Davids sønner og som samlet store deler av Israel bak seg mot David. Kongen ble tvunget til å flykte med kun sine mest trofaste menn, men David var ikke i stand til å skade den sønnen han holdt mest av og ga ordre om at ingen av hans menn fikk lov til å drepe Absalom i det påfølgende slaget. Da en mann kunne rapportere at Absalom var blitt funnet i live, hengende fast i et tre, hadde Joab ingen betenkeligheter med å drepe ham.