Deras studie, som publicerades i tidskriften JAMA Internal Medicine, hävdade att äldre människor hade minst att vinna.
Gruppen vid University College London (UCL) har uppmanat läkare att diskutera riskerna tydligare med patienterna.
Den välgörenhet Diabetes UK sade läkare behövde för att hitta en noggrann balans när förskriva behandling.
Typ 2-diabetes är en oförmåga att kontrollera blodsockernivåerna och är kopplat till livsstilsfaktorer inklusive kost och fetma.
På lång sikt är det kopplat till hjärtsjukdomar, njurskador, nervskador och även blindhet.
Läkemedel som metformin kan användas för att sänka blodsockernivåerna för att förhindra biverkningar.
Rapporten, som genomfördes av University of Michigan samt UCL, sade en genomsnittlig 45-åring som sjönk sina blodsockernivåer med en procentenhet skulle få 10 månader av hälsosamt liv, jämfört med tre veckor för en 75-årig startbehandling.
Det tillade detta behövde balanseras mot nackdelarna till en livstid av medicinering inklusive: Att behöva ha flera injektioner och blodsockertester varje dag, läkemedel som orsakar matsmältningsbesvär eller sjukdom, eller insulinbehandlingar riskerar att blodsockernivåerna sjunker farligt lågt (hypoglykemi).
En av författarna till rapporten, professor John Yudkin, sade till BBC: "Vad det betyder är om du är någon med typ 2, det är din rätt att veta vilka fördelarna med behandlingen är i form av vinst i förväntad livslängd eller minskning av hjärtinfarkt eller bli blind.
"Och då har du rätt att bestämma, men inte många läkare har fått dessa siffror till hands."
Han sade GPs var för "målinriktad" och var ofta tittar bara på blodsockernivån.
Resultaten gäller inte personer med typ 1-diabetes.
I en kommentar till rapporten sade Simon O'Neill, chef för hälsounderrättelsetjänsten vid Diabetes i Storbritannien: " Ibland finns det en balans att hitta där vissa läkemedel kan bidra till att ge någon ett längre liv, men också orsaka biverkningar som kan påverka livskvaliteten negativt.
"Denna studie belyser vikten av att titta på de individuella behoven hos den person med typ 2-diabetes, snarare än att anta en övergripande strategi."
Patienter uppmanas att inte fatta några beslut utan att rådfråga sin GP.
National Institute for Health and Care Excellence, som ger råd NHS om medicinering, sade: " Den nuvarande NICE vägledning om hantering av typ 2-diabetes erkänner att glykemiska [socker] mål kontroll inte bör försämra en persons livskvalitet som ett resultat av biverkningarna av behandlingen.
"Om medicinering inte bidrar till att uppnå denna målnivå, livsstil terapier såsom kostråd bör erbjudas."
Uppfriskade riktlinjer kommer att publiceras nästa sommar.
Nackdelarna av att ta läkemedel för typ 2-diabetes kan överstiga fördelarna för vissa patienter, forskare har rekommenderat.