Siden 2004 har Semi Norvège holdt en relativt lav profil. Forsøk på å fortsette innspillingen av bandets andre CD kom omsider i gang igjen 2005/2006, med Arne Lund som både tekniker og stand-in på slagverk, men ble nok en gang lagt på is. Hans-Peter Johnsen og Jon Erling Solheim startet i 2007 side-prosjektet Lustiga Huset sammen med Helge Normann Jakobsen på trommer. I 2008 ble både Erik Lunde og ex-keyboardist Klaus Henning Oelmann også involvert i dette prosjektet, og Lustiga Huset gikk dermed i praksis over til å bli den nye utgaven av Semi Norvège. Dette til tross, var det fremdeles Johnsen, Solheim og Jakobsen som nå utgjorde kjernen i bandet, og Lunde og Oelmanns deltakelse var mer sporadisk. Bandet har av ulike årsaker også "ligget nede" i lengre perioder. I 2011 gikk Klaus Henning Oelmann uventet bort, og Semi Norvège's videre skjebne gikk mer er mindre inn i enn en tilstand av uavklarthet. Jon Erling Solheim var i denne tiden aktiv i ulike musikalske sammenhenger som spente fra rockeband til korps og storband, mens Hans-Peter Johnsen bl.a. var å se/høre under en Claus Hüberdh reunion i Tromsø Kulturhus 7. januar 2012. Utover dette fortsatte bandet å arbeide med nytt materiale, og på vårparten 2012 ble det klart at en ville satse på en ny plateutgivelse i løpet av høsten 2012 eller tidlig 2013, bestående av en blanding av tidligere innspillinger, remixet materiale og nye ting.