På vei til en konferanse høsten 1989 sammen med Morten Harket ble Hauge arrestert i Osaka i Japan, etter at tollere fant seks gram hasj i sigarettpakken hans. Saken ble senere henlagt. I 2006 ble Hauge nok en gang arrestert, denne gangen etter at en politihund ble oppmerksom på ti gram hasj i lommene hans under Stavernfestivalen utenfor Larvik. Denne gang vedtok Hauge en bot på 10 000 kroner for oppbevaring.