Imperial College London-teamet hoppas kunna övervinna det farliga och vanliga problemet med att lämna delar av tumören i en patient, som sedan kan återhämta sig.
Tidiga resultat, i tidskriften Science Translational Medicine, visade "iKnife" kunde exakt identifiera cancervävnad på plats.
Den testas nu i kliniska prövningar för att se om den räddar liv.
För att undvika att lämna kvar cancervävnaden tar kirurgerna också bort omgivande vävnad.
De kan även skicka iväg prover för testning medan patienten fortfarande är i teater, men detta tar tid.
Men en av fem patienter som har en bröstklump borttagen behöver fortfarande en andra operation för att rensa sin tumör. För lungcancer är siffran ungefär en av tio.
Teamet på Imperial College London modifierade en kirurgisk kniv som använder värme för att skära igenom vävnad.
Det används redan på sjukhus runt om i världen, men kirurgerna kan nu analysera den rök som avges när det heta bladet brinner genom vävnad.
Röken sugs in i en högteknologisk "nos" som kallas masspektrometer. Den upptäcker de subtila skillnaderna mellan röken från cancerframkallande och friska vävnader.
Denna information är tillgänglig för kirurgen inom några sekunder.
Tester på 91 patienter visade att kniven exakt kunde avgöra vilken typ av vävnad den skar av och om den var cancerös.
Doktor Zolltan Takats, som uppfann systemet på Imperial, sade: " Dessa resultat ger övertygande bevis för att iKnife kan tillämpas vid en lång rad olika canceroperationer.
"Det ger ett resultat nästan omedelbart, så att kirurger kan utföra förfaranden med en nivå av noggrannhet som inte har varit möjligt tidigare.
"Vi tror att det har potential att minska förekomsten av tumöråterfall och göra det möjligt för fler patienter att överleva."
Rättegångar äger nu rum på tre sjukhus i London - St Mary's, Hammersmith och Charing Cross.
Prof Jeremy Nicholson, chef för avdelningen för kirurgi och cancer vid Imperial College London, sade: "Detta är en del av vad vi kallar precisionsmedicin, vi försöker förändra världen genom att mycket aggressivt översätta vetenskapliga upptäckter till NHS."
Kirurgen dr Emma King, vid Cancer Research UK, sade: " IKnife är en spännande utveckling för att vägleda cancerkirurger under operationer.
"Om dess användbarhet stöds i ytterligare kliniska prövningar, skulle det kunna minska den tid som spenderas i teater för många patienter."
En "intelligent" kniv som kan sniffa ut tumörer för att förbättra cancerkirurgi har utvecklats av forskare.