St Johnstone tog ledningen strax före halvtid genom Steven MacLean, som utnyttjade Craig Gordons misstag.
Besökarna försvarade ståtligt och orolig Celtic på disken, och MacLean skickade en fri rubrik bred.
Substitute McGregor räddade mästarna, dock, borra lågt och hårt in i hörnet av nätet.
Utjämnaren var en belöning för Celtics obevekliga tryck i andra halvan, med Scott Sinclair och Mikael Lustig båda träffar träarbetet.
St Johnstone kan också ha reducerats till 10 män, med MacLean verkar fånga Kieran Tierney i ansiktet med sin arm, men St Johnstone strejkaren var endast bokad av domare Willie Collum.
Besökarna höll fast vid sin poäng med försvararen Steven Anderson och målvakten Alan Mannus som ledare för deras motstånd.
En dag av drama hade den mest olyckliga början när Murray Davidson drabbades av en fasansfull huvudskada i en flygutmaning och kollapsade till golvet. St Johnstone mittfältaren blev knockad. Detta var oroande stunder som läkare från båda sidor tenderade till Davidson, tar fem minuter att få honom på en bår och bort till sjukhuset, Celtic Park applåderar som en när han lämnade.
Tack och lov, innan matchen avslutades, Davidson sades återhämta sig.
Liam Craig kom till planen och hans team pressade hårt och förnekade mästarna lätt utrymme. Till och med när Tom Rogic - märkt av Paul Paton - bröt sig loss, förvrängde besökarna effektivt. Leigh Griffiths hade ett skott in i sidonätet, James Forrest hade ett svagt skott lätt hanteras.
Helgonen var bekväma i början. Michael O'Halloran hade tidigare skapat Celtic några besvär ner till vänster när lura fri och kivas för David Wotherspoon, som sköt oövertygligt på Gordon.
Den keltiska målvakten kom snart in i berättelsen om spelet på ett mycket viktigt sätt. MacLeans mål var ett självförvållat sår av Gordon, som var helt obemärkt när det gällde att rensa hans linje. I gåva St Johnstone bollen, gav han dem en present av ett mål, MacLean lämna in den.
Det rådde förvirring och tystnad inne i stadion. Var MacLean offside när han gjorde mål? Nej, sa Willie Collum och hans assistent. Var Gordon galen i att göra det han gjorde? Otvivelaktigt, ja. MacLean tvekade och firade sedan. Tystet från de keltiska fansen fortsatte ett tag.
Celtic, platt enligt sina egna normer tills de körde senare, mönstrade något innan pausen när Sinclair kom slalomering från vänster innan sätta in en tam ansträngning på Mannus mål. Brendan Rodgers gjorde förändringar vid pausen, tog bort den ineffektiva Olivier Ntcham och Forrest och fallskärmshoppning i Jonny Hayes och Stuart Armstrong.
Armstrong fick ett skott tipsat av Mannus när Celtic knuffades för att bevara sin oslagbara hemmakörning. De hade ett berg av egendom, men inte i närheten av sin vanliga nivå av noggrannhet. De pressade framåt men saknade kirurgisk förmåga att öppna ett försvar.
På timmen, deras chanser att rädda något från spelet borde ha gjorts desto svårare. Saints hade en härlig chans att göra det två. Brian Eastons kors från vänster möttes av MacLean, bara fem meter från målet. Vilken sida som helst av Gordon och den var i. I stället riktade han huvudet rakt mot den keltiska målvakten och fluffade de mest inbjudande av chanser.
Celtic var en grinig röra när de sattes på bakfoten. Hur Rodgers måste räkna minuterna innan hela hans utbud av center-halvor är tillgängliga igen. Jozo Simunovic var tillräckligt bra för att åtminstone sitta på bänken.
Spelet blev snabbt en tävling av keltiska angripare kontra St Johnstone försvarare. Sinclair var en bra ledare för hemmalaget, att få på bollen och dra dem framåt. Celtic fick ett straffrop avböjt, sen fick de Kieran Tierney dumpad på hans rygg av MacLean. Strejken hade tur att han inte skickades iväg.
Med 10 minuter kvar, St Johnstone spänns och bröt, McGregor, en andra hälften substitut, försökte spela en en-två med Sinclair i Saints straff box. Bollen bröt istället av Anderson och in i McGregors väg. Mittfältaren slog i equalizern.
Saints höll fast vid klippkanten vid det här laget. Sinclair träffade träslöjd. Det gjorde Lustig också. Mannus nekade sedan Hayes från närområdet. Saints överlevde, bara. En svårförtjänt punkt för Tommy Wrights team, en som håller farten uppe. För Celtic, en kampande reaktion på en svår dag i slutet av en fin vecka.
Matchen slutar, Celtic 1, St Johnstone 1.
Andra halvlek, Celtic 1, St Johnstone 1.
Hörnet, St Johnstone. Förföljd av Stuart Armstrong.
Försöket räddades. Jonny Hayes (Celtic) header från höger sida av sex yard box sparas i nedre högra hörnet.
Försöket räddades. Jonny Hayes (Celtic) vänster fotade skott från utsidan rutan sparas i nedre vänstra hörnet.
Mikael Lustig (Celtic) träffar stången med en rubrik från mitten av lådan.
Hörnet, Celtic. Sammankallad av Aaron Comrie.
Hörnet, Celtic. Sammankallad av Aaron Comrie.
Nir Bitton (Celtic) vinner en frispark i anfallshalvan.
Foul av Steven MacLean (St. Johnstone).
Foul av Callum McGregor (Celtic).
Joe Shaughnessy (St Johnstone) vinner en frispark i defensiva halvan.
Försök missade. Scott Sinclair (Celtic) vänster fotade skott från mycket nära håll är nära, men missar till vänster.
Scott Sinclair (Celtic) träffar baren med ett högerfotat skott från vänster sida av sex yard box.
Handboll av Aaron Comrie (St. Johnstone).
Försöket räddades. Tomas Rogic (Celtic) höger fotade skott från utsidan rutan sparas i nedre vänstra hörnet.
Försök blockerat. Scott Sinclair (Celtic) höger fotade skott från mitten av lådan är blockerad.
Ersättning, St. Johnstone. Denny Johnstone ersätter Michael O'Halloran.
Liam Craig (St Johnstone) visas det gula kortet.
Mål!  Celtic 1, St Johnstone 1. Callum McGregor (Celtic) höger fotade skott från mitten av lådan till nedre högra hörnet. Hjälpt av Scott Sinclair.
Ersättning, St. Johnstone. Scott Tanser ersätter David Wotherspoon.
Försöket räddades. Stuart Armstrong (Celtic) vänster fotade skott från utsidan boxen sparas i mitten av målet.
Försöket räddades. Leigh Griffiths (Celtic) vänster fotade skott från utsidan boxen sparas i mitten av målet.
Försök blockerat. Callum McGregor (Celtic) vänster fotade skott utanför lådan är blockerad.
Försöket räddades. Leigh Griffiths (Celtic) vänster fotade skott från utsidan boxen sparas i mitten av målet.
Försök blockerat. Michael O'Halloran (St Johnstone) höger fotade skott från mitten av lådan är blockerad.
Jonny Hayes (Celtic) visas det gula kortet för en dålig foul.
Foul av Jonny Hayes (Keltisk).
Brian Easton (St Johnstone) vinner en frispark på högerkanten.
Steven MacLean (St Johnstone) visas det gula kortet för en dålig foul.
Kieran Tierney (Celtic) vinner en frispark i den defensiva halvan.
Foul av Steven MacLean (St. Johnstone).
Försök missade. Jonny Hayes (Celtic) vänster fotade skott från höger sida av lådan är nära, men missar till höger.
Försök missade. Nir Bitton (Celtic) header från mitten av lådan är bara lite för hög.
Hörnet, Celtic. Sammankallad av Steven Anderson.
Försök missade. Tomas Rogic (Celtic) vänster fotade skott från höger sida av lådan är nära, men missar till höger.
Hörnet, Celtic. Sammankallad av Steven Anderson.
Försök missade. Stuart Armstrong (Celtic) höger fotade skott från höger sida av lådan är bara lite för hög.
Försök missade. Tomas Rogic (Celtic) vänster fotade skott från utsidan lådan är nära, men missar till vänster.
Hörnet, Celtic. Sammankallad av Steven Anderson.
Callum McGregors sena strejk räddade en punkt för Celtic när de kom bakifrån för att förlänga sin oslagbara körning i inhemsk fotboll till 53 matcher.