Storbritannien kommer att rösta om huruvida man ska stanna kvar i EU torsdagen den 23 juni, sade premiärminister David Cameron.
Goldsmiths oppositionskandidater, Labours Sadiq Khan och Lib Dems Caroline Pidgeon, har båda sagt att de kommer att kämpa för att stanna i EU.
Nuvarande London borgmästare Boris Johnson har också sagt att han kommer att kampanja för att lämna.
London Labour har svarat Zac Goldsmith genom att twittra: "Ingen seriös kandidat till borgmästare i London skulle äventyra vår stads välstånd genom att rösta för att lämna EU".
Goldsmith, parlamentsledamot för Richmond Park och North Kingston, har ännu inte lämnat ett uttalande om varför han har fattat detta beslut.
Den konservativa kandidaten till London Mayor, Zac Goldsmith, kommer att rösta för att lämna EU, hans team har bekräftat.