Mediauppspelning stöds inte på den här enheten
Mål från Ali Crawford och Jesus Garcia Tena knuffade de Mörka Blå till sjunde som Hamilton Academical triumferade 2-1.
"Det är en riktig besvikelse," Hartley berättade BBC Skottland.
"Jag tror bara inte att de uppträdde idag - speciellt inte de första 45 minuterna. De var utanför det jämfört med de standarder som de har satt. "
Hartley män var 2-0 ner på halvtid efter Crawfords femte mål för säsongen och Garcia Tenas straff.
Gary Harkins kom på och drog en tillbaka för besökarna men totalt sett var det en off-colour display vid Dens Park sidan.
"Det är ett massivt slag för oss, vi kom hit med höga förväntningar," sade Hartley, som guidade Dundee till en topp sex finish förra säsongen.
"Jag visste Hamilton skulle starta spelet väl. Vi var tvungna att hantera det och matcha dem och det gjorde vi inte. Vi stoppade inte korsen som kom in i lådan och vi hanterade inte den fysiska sidan av den.
"Vi måste nu omgruppera och avsluta så högt som möjligt."
Hartley stannade i omklädningsrummet och pratade med sina spelare i över 20 minuter efter matchen.
"Det var bara tyst", tillade han. "Vi pratade med dem. Inga arga ord utbyttes. Vi behövde bara få fram våra poäng.
"Det var inte bara detta spel, det är mängden dragningar vi har haft den här säsongen när vi har varit i bra vinnande positioner."
Accies spelare-manager Martin Canning var glad att vinna en första hemmamatch på över sex månader.
"Första halvan var vi utmärkta och kunde ha varit längre framåt," sade han BBC Skottland.
"Andra halvan Dundee kom tillbaka i spelet som de alltid skulle göra. Vi hade beslutsamhet och anda att hålla fast vid - vilket är något vi förmodligen har saknat lite av sent - men vi är tillbaka till att vinna igen hemma vilket är viktigt.
"Vi försvarade väl efter att vi förlorat målet, vi omgrupperade."
Tjugoårig strejkare Eamonn Brophy hade en hand i båda målen för värdarna och Canning berömde ungen för ett effektivt skifte i fronten med Carlton Morris.
"Han är en talang", tillade Canning, som kände Julen Extabeguren borde ha visats ett andra gult kort för fouling Brophy i rutan för att bevilja straffet.
"Om han fortsätter att utvecklas som han är nu då kommer han att ha en riktigt bra karriär inom fotboll."
Dundee manager Paul Hartley har beskrivit att missa på en top-sex finish som ett "massivt slag".