Han berättade för BBC: s politiska redaktör Laura Kuenssberg att det var den "mycket värsta tiden" för Storbritannien att ta en sådan "enorm ekonomisk chans".
Men före detta konservative ledaren Michael Howard sade att Storbritannien borde ha "självförtroendet" att gå sin egen väg.
Han sade att EU var "förlegat, bristfälligt och bristfälligt" och att en utröstning skulle tvinga dess ledare att tänka om.
Premiärministerns officiella talesman sa att Cameron "hungrig respekt för Michael Howard men i denna fråga de är oense".
Förenade kungariket kommer att hålla en folkomröstning den 23 juni om huruvida landet ska behålla sitt EU-medlemskap eller lämna landet.
Lord Howard, som ledde Tories mellan 2003 och 2005, när han var en nära politisk allierad och mentor till Osborne och Cameron, sade att det inte var statsministerns fel att han inte hade kunnat säkra en "grundläggande och långtgående reform" av EU.
Han anklagade EU:s ledare för att ha infört en "rigid tvångströja av enhetlighet" över hela kontinenten.
Han berättade för Radio 4's Today-programmet att Storbritannien, som världens femte största ekonomi, skulle blomstra utanför Europeiska unionen och hävdade att "tyskarna fortfarande skulle vilja fortsätta att sälja sina BMW:er till oss och fransmännen fortfarande skulle vilja fortsätta att sälja sitt vin".
"Så det ligger i allas intresse att vilja ha ett avtal som ger var och en av oss tillgång till varandras marknader."
Michael Howard var aldrig den mest populära politikern hos allmänheten, men många av hans partis gräsrötter tyckte att han delade deras åsikter när han var hemsekreterare. Hans catchfras var "fångeverk".
Och kanske ännu viktigare, de känner fortfarande en tacksamhetsskuld för hans vilja att ta över sitt partis ledarskap precis efter att de konservativa hade fallit till en ny nadir i opinionsundersökningarna under Iain Duncan Smith.
Så de kommer att ge honom ett förhör.
Om en lokal konservativ föreningsmedlem vacklar över om man ska rösta för att lämna EU, kommer det utan tvekan att vara lugnande för dem att de inte behöver "länka vapen med Nigel Farage" - enligt David Camerons ord.
I stället kan de nu ta tag i den utsträckta handen av vänskap från sin tidigare ledare.
Läs mer från Iain
Lord Howard avvisade förslag om att förhandlingar om ett handelsbaserat förhållande med EU, liknande det som Norge och Schweiz har, skulle lämna Storbritannien med "sämsta av alla världar" - med minskat tillträde till den inre marknaden men fortfarande bunden av många EU-regler.
"Norge är ett land med fem miljoner människor. Vi är ett land med 65 miljoner människor. Vi kommer inte att ha ett norskt avtal med EU, vi kommer att ha ett brittiskt avtal.
"Vi behöver lite självtro och nationellt självförtroende. Vi är ett bra land - alla vill ha tillgång till vår marknad. Vi kommer inte att vara sympatisörer."
Om Storbritannien röstade för att gå, föreslog han att det skulle kunna tvinga EU:s ledare att förhandla fram en "annorlunda" typ av avtal med Storbritannien, som sedan skulle kunna läggas fram för väljarna i en andra folkomröstning - en rad händelser som har förkastats av David Cameron som "för fåglarna".
I Shanghai, där han deltar i ett möte med G20:s finansministrar, berättade Osborne för BBC:s politiska redaktör Laura Kuenssberg att ekonomin löper större risk att bli osäker än vid någon tidpunkt sedan finanskrisen 2008.
Osborne sade att det var "inte någon politisk salongsmatch" att tala om att lämna EU, och framhöll att det brittiska pundets värde nyligen sjönk för att illustrera hans poäng.
"Detta handlar om människors jobb och deras levebröd och levnadsstandard, och enligt min mening skulle det som kansler som lämnar EU innebära en djup ekonomisk chock för vårt land, för oss alla och jag kommer att göra allt jag kan för att förhindra att det händer."
Cameron kommer att lyfta fram det ekonomiska argumentet för medlemskap vid ett besök i Wales när han fortsätter att turnera i Storbritanniens kampanj för att stanna kvar i 28-medlemsblocket.
Han kommer att tala om för väljarna att nästan hälften av den walesiska handeln är med EU och att nationen kommer att bli "bättre" om Storbritannien stannar kvar.
Kansler George Osborne har sagt att om Storbritannien röstade för att lämna EU skulle det orsaka en djup ekonomisk chock.