Hon valde ut fyra styrkor för att ha inga svarta poliser - men två av de där poliserna slog tillbaka, säger att de hade minst en svart officer.
Fru May sade att andelen svarta och asiatiska officerare var "helt enkelt inte tillräckligt bra".
Kritiker sa att nedskärningarna begränsade rekryteringen av officerare.
Home sekreterare sade också att stanna och söka reformer "måste fortsätta".
Och hon utmanade polisen över antalet kvinnliga officerare, som för närvarande utgör 28 procent av polisstyrkan - trots att de representerar 51 procent av befolkningen.
Under ett tal till den nationella konferensen för svarta polisens förening sade May "diversitetsprofiler" visade ingen kraft hade en svart och minoritet etnisk representation som återspeglar dess lokalbefolkning.
May hoppades att siffrorna skulle fungera som en "uppvakning".
Hon citerade data som tyder på att fyra styrkor - Cheshire, Durham, Dyfed-Powys och North Yorkshire - inte hade en enda svart officer.
De fyra styrkorna har officerare från andra etniska minoriteter, enligt de senaste inrikesministeriet siffror, som bygger på information officerare volontärer själva.
Men både Durham Constabulary och Dyfed-Powys polisen sa att de hade svarta officerare.
Det Con Waheed Mughal, ordförande för Durham Black och Asian Police Association, sade: "Jag kan bekräfta att styrkan har en brittisk svart karibisk officer som tjänstgör i norra länet samt minst 19 andra svarta och minoriteter etniska officerare."
Julia Mulligan, polis- och brottskommissarie för North Yorkshire, sade att polisen hade behövt rekrytera BME-officerare från andra områden i Storbritannien på grund av små antal inom styrkans område.
En talesman för Cheshirepolisen sade: "Trots våra nuvarande ansträngningar måste mer göras särskilt för att rekrytera officerare av afro-karibisk härkomst."
Även Helen King, biträdande polismästare, ifrågasatte att man citerade siffror och sade att fyra chefsofficerare i London var svarta eller etniska minoriteter. Hon tillade att fem av Londons 32 stadsdelar leddes av BME:s chefsintendent.
Från Danny Shaw, korrespondent för inrikesfrågor i BBC
Även om en dispyt om de exakta siffrorna om etnisk mångfald kan ha avtrubbat Theresa Mays budskap, återstår den breda punkt hon framhåller: för att polisen ska ha allmänhetens förtroende måste de vara mer rasligt representativa för de samhällen de tjänar.
Sedan Macpherson-rapporten om mordet på Stephen Lawrence 1999 har det skett förbättringar som betecknat Metropolitan Police som "institutionellt rasistisk".
Mål för BME-tjänstemän som fastställts efter det att rapporten inte har uppfyllts.
Även om andelen nya BME-tjänstemän verkar öka är rekryteringen inte tillräckligt hög - på grund av budgetnedskärningar - för att göra en betydande skillnad.
Sir Bernard Hogan-Howe vill ha en lagändring som i själva verket skulle tillåta krafter att införa BME-rekryteringskvoter.
Hemsekreteraren är emot detta och det finns inte mycket större aptit för en sådan grundläggande reform.
Se barn ge sin syn på svarta och etniska minoriteter poliser
Chefskonstapel Giles York, från National Police Chiefs Council, sade att rekryteringen av officerare från svarta och minoritets etniska grupper ökade.
Men han tillade: "Det finns mycket mer att göra och med minskade budgetar som begränsar rekryteringen är det svårt att gå i den takt vi behöver."
Steve White, ordförande för polisförbundet i England och Wales, påpekade också att det var svårt för styrkor att rekrytera officerare från etniska minoriteter medan chefskonstapeler var tvungna att göra besparingar.
Jack Dromey, labours skuggpolisminister, sade att vissa styrkor inte skulle kunna rekrytera förrän 2019 "på tidigaste" på grund av budgetnedskärningar.
Han sade: "Polisen måste agera, men det är oerhört svårt för krafterna att förbättra mångfalden och fortsätta att skydda samhällena medan Tories fortsätter på sitt uppdrag att skära ner polisfinansieringen och urholka polisväsendet."
Franstine Jones, från National Black Police Association, sade: "Jag tror att polisen behöver känna igen sin svarta talang, eftersom du har officerare som har fått de färdigheter, som har fått kunskap, det är bara det att i polisen de inte får möjlighet att utvecklas."
Detta 1975 BBC stycke rapporterar om en Metropolitan Police Service kampanj för att locka mer etniska minoriteter officerare. Den innehåller språk som somliga kan tycka är stötande.
Mays tal i Birmingham ifrågasatte också påståenden om att en ökning av knivbrott hade orsakats av en minskning av polisens stopp-och-sökningar och kallade det en "knä-tjerk reaktion på baksidan av en falsk länk".
Förändringar gjordes efter det att siffrorna visade att endast omkring 10 procent av sökningarna hade lett till ett gripande, med svarta som var sex gånger mer benägna att stoppas än vita.
Detta fick senare Metropolitan Polischef Sir Bernard Hogan-Howe att säga att han trodde att en ökning av knivbrott i London kunde kopplas till stora minskningar av stopp-och-sökningar av sina officerare.
Men May sade att "det är helt enkelt inte sant att knivbrottet ökar eftersom polisen inte längre stannar och söker igenom dem som bär knivar".
Allmänheten kommer inte att ha förtroende för polisen om det inte finns fler svarta och etniska minoriteter officerare, Home Secretary Theresa May har sagt.