Den drog slutsatsen att felaktiga blodprover skulle ge alltför många människor en felaktig diagnos, medan livsstilsförändringar hade en låg framgång.
Men chefen för NHS-programmet sade att dess strategi var baserad på "robust bevis".
Programmet startade förra året och kommer att omfatta hela England till 2020.
Typ 2-diabetes leder till 22.000 tidiga dödsfall varje år i England och kostar NHS 8 miljarder.
I Storbritannien har omkring 3,2 miljoner människor typ 2-diabetes och detta förväntas öka till 5 miljoner år 2025.
Storbritanniens program för förebyggande av diabetes, som syftar till att identifiera tusentals människor som löper hög risk att utveckla sjukdomen varje år, följer en strategi för "screen and treat".
Detta innebär ett screeningtest för pre-diabetes, sedan skräddarsydd behandling eller råd om kost och livsstil för att förhindra att sjukdomen utvecklas.
Men efter att ha analyserat resultaten av 49 studier av screening tester och 50 interventionsförsök, University of Oxford forskare sade politiken skulle gynna vissa, men inte alla som löper hög risk.
De sade också att en populationsomfattande strategi för att förebygga diabetes skulle vara ett användbart tillägg.
I BMJ-studien fann de att två blodprover - HbA1c och fasteglukos i plasma - var felaktiga när det gällde att upptäcka prediabetes, även om de är de enda som är tillgängliga för läkare och patienter.
De fann också att livsstilsinterventioner som varar i tre till sex år visade en 37 procentig minskning av den relativa risken för typ 2-diabetes, vilket motsvarar 90 färre personer av 1 000 som utvecklar sjukdomen.
Vid behandling med ett läkemedel som hjälper till att sänka blodsockernivåerna utvecklade 80 färre deltagare av 1 000 diabetes jämfört med dem som inte tog läkemedlet.
Författarna drog följande slutsats: " Eftersom screeningen är felaktig, kommer många människor att få en felaktig diagnos och bli hänvisade till för interventioner medan andra kommer att bli felaktigt lugnade och inte erbjudas interventionen.
"Dessa resultat tyder på att enbart "screen and treat"-politiken sannolikt inte kommer att ha någon större inverkan på den förvärrade epidemin av typ 2-diabetes."
Matt Fagg, programchef för NHS Diabetes Prevention Programme, sade dock att det var "en viktig del av lösningen" och att det var "baserat på en omfattande sammanställning av robusta bevis".
Han tillade: "Diabetesförebyggande måste också börja redan tidigare - vi är fast beslutna att minska fetma och skapa en mer aktiv kultur så att vi ser färre människor i riskzonen i första hand."
Och Jonathan Valabhji, nationell klinisk chef för fetma och diabetes för NHS England, sade NHS-programmet var inte ett screeningprogram - "det ger människor som redan har identifierats genom rutinmässig klinisk praxis för att minska sin risk".
– Som detta BMJ-dokument belyser har sådana livsstilsinterventioner tydligt visat sig fungera.
"NHS är inte villig att sitta sysslolös medan dessa individer utvecklas till typ 2 diabetes," sade han.
Prof Norman Waugh från Warwick Medical School sade att det fanns en balans mellan screening och behandling av individer, och folkhälsomodellen för att förändra beteende i hela befolkningen i riskzonen.
Folkhälsoåtgärder skulle kunna inbegripa att hjälpa människor att kontrollera sin vikt, införa skatter på mat och dryck och göra fysisk aktivitet mer tillgänglig.
Han sade: "Förhindra eller fördröja typ 2-diabetes kräver effektiva åtgärder för att motivera den allmänna befolkningen att skydda sin egen hälsa."
NHS-programmet för screening av personer med hög risk för typ 2-diabetes kommer sannolikt inte att få någon större effekt, föreslår en Oxford University-studie i BMJ.