I en första halv av få chanser, hade Oldhams Ryan Flynn en 20-yard skott vände över baren av Simon Moore medan hemmasidans bästa insats kom från Mark Duffy vars frispark räddades av Connor Ripley.
Sharp såg huvudet avböjt och Kieron Freeman hade ett skott blockerat.
Strax efter omstart, Duffy hade också en insats blockerad medan Sharp försökte en första-gång skott inifrån området som gick över.
Josh Law flöt en frispark precis över för Latics innan värdarna tog kontroll över spelet.
Sharp gav en eftertrycklig finish på 72 minuter efter att ha tagit emot bollen från Duffy på höger sida av området.
Bort substitut Freddie Ladapo gick nära att utjämna när hans 25-yard volley tvingade Moore att tippa bollen bred.
Men Sharp lade till en andra två minuter från tiden för att slå in punkterna för Blades, svepa hem den lösa bollen efter Leon Clarke sätta Ripley under tryck från Duffys kors.
Rapport från pressorganisationen
Matchen slutar, Sheffield United 2, Oldham Athletic 0.
Andra halvlek, Sheffield United 2, Oldham Athletic 0.
Chris Basham (Sheffield United) vinner en frispark i anfallshalvan.
Foul av Josh Law (Oldham Athletic).
Billy Sharp (Sheffield United) vinner en frispark i den defensiva halvan.
Foul av Peter Clarke (Oldham Athletic).
Substitution, Sheffield United. Stefan Scougall ersätter Mark Duffy.
Försök missade. Leon Clarke (Sheffield United) höger fotade skott från mitten av lådan är för hög.
Hörnet, Sheffield United. Förföljd av Cameron Dummigan.
Substitution, Sheffield United. Jake Wright ersätter Paul Coutts.
Mål!  Sheffield United 2, Oldham Athletic 0. Billy Sharp (Sheffield United) höger fotade skott från mitten av lådan till nedre vänstra hörnet. Hjälpt av Leon Clarke.
Substitution, Oldham Athletic. Carl Winchester ersätter Paul Green.
Hörnet, Sheffield United. Förföljd av Brian Wilson.
Försöket räddades. Mark Duffy (Sheffield United) höger fotade skott från utsidan rutan sparas i nedre högra hörnet.
Hörnet, Sheffield United. Förföljd av Brian Wilson.
Substitution, Oldham Athletic. Lee Croft ersätter Charles Dunne.
Hörnet, Oldham Athletic. Förföljd av Simon Moore.
Försöket räddades. Freddie Ladapo (Oldham Athletic) höger fotade skott från mitten av lådan sparas i nedre vänstra hörnet.
Foul av Billy Sharp (Sheffield United).
Peter Clarke (Oldham Athletic) vinner en frispark i anfallshalvan.
Substitution, Oldham Athletic. Freddie Ladapo ersätter Darius Osei.
Mål!  Sheffield United 1, Oldham Athletic 0. Billy Sharp (Sheffield United) höger fotade skott från höger sida av lådan till nedre vänstra hörnet. Hjälpt av Mark Duffy.
Hörnet, Sheffield United. Förföljd av Cameron Dummigan.
Ethan Ebanks-Landell (Sheffield United) visas det gula kortet för en dålig foul.
Foul av Ethan Ebanks-Landell (Sheffield United).
Paul Green (Oldham Athletic) vinner en frispark i defensiva halvan.
Försök missade. Billy Sharp (Sheffield United) höger fotade skott från mitten av lådan är för hög.
Försök missade. Jack O'Connell (Sheffield United) höger fotade skott från mitten av lådan är nära, men missar till vänster efter en set bit situation.
Cameron Dummigan (Oldham Athletic) visas det gula kortet för en dålig foul.
Daniel Lafferty (Sheffield United) vinner en frispark i den defensiva halvan.
Foul av Cameron Dummigan (Oldham Athletic).
Hörnet, Sheffield United. Sammankallad av Peter Clarke.
Darius Osei (Oldham Athletic) visas det gula kortet för en dålig foul.
Chris Basham (Sheffield United) vinner en frispark i anfallshalvan.
Foul av Darius Osei (Oldham Athletic).
Hörnet, Oldham Athletic. Förföljd av Simon Moore.
Substitution, Sheffield United. Leon Clarke ersätter Matt Done.
Försening över. De är redo att fortsätta.
Försök blockerat. John Fleck (Sheffield United) höger fotade skott utanför lådan är blockerad.
Andra halvan börjar Sheffield United 0, Oldham Athletic 0.
Två andra hälften mål från Billy Sharp gav högt flygande Sheffield United seger över kämpande Oldham Athletic.