Faits: A. Par jugement du 4 octobre 2011, le Juge I du district de Monthey a acquitté A.Y._ des chefs de violation du secret commercial (art. 162 CP) et de délit contre la concurrence déloyale (art. 23 LCD), acquitté X._ du chef d'utilisation abusive d'une installation de télécommunication (art. 179septies CP) et rejeté la demande d'indemnité pour tort moral de A.Y._ et B.Y._. Cette décision a été notifiée sous forme de dispositif à l'avocat de X._ le 6 octobre 2011. Par courrier du 17 octobre 2011, l'avocat a sollicité la motivation du jugement. Le jugement motivé lui a été notifié le 27 octobre 2011. Par courrier du 7 novembre 2011, l'avocat a "confirm[é] la volonté de [s]on mandant d'annoncer appel à l'encontre dudit jugement". Il a déposé une déclaration d'appel le 16 novembre 2011. B. Par jugement du 3 février 2012, la Juge de la Cour pénale II du Tribunal cantonal valaisan a déclaré ne pas entrer en matière sur l'appel de X._. C. Celui-ci forme un recours en matière pénale au Tribunal fédéral contre ce jugement et conclut, sous suite de frais et dépens, à son annulation et au renvoi de la cause en instance cantonale afin qu'il soit statué sur son appel. Des déterminations n'ont pas été requises.