Faits : A. Le 6 mars 2015, l'office central du ministère public valaisan a rendu une ordonnance de classement dans la procédure pénale dirigée contre X._ pour infractions à la LAVS ainsi qu'à la loi fiscale, gestion fautive et éventuellement faux dans les titres prétendument commis dans le cadre de la gestion du club de football " B._ ". Les frais de la procédure, arrêtés à 146'000 fr., ont été mis à la charge de X._, à qui aucune indemnité n'a été allouée. B. Par ordonnance du 26 février 2016, la Chambre pénale du Tribunal cantonal valaisan a partiellement admis le recours formé par X._ contre l'ordonnance du ministère public, qu'il a modifiée en ce sens que le montant des frais de procédure mis à la charge de X._ a été réduit à 141'000 fr., une indemnité de 5'000 fr. étant par ailleurs allouée à ce dernier. C. X._ forme un recours en matière pénale au Tribunal fédéral contre l'ordonnance de la Chambre pénale. Il conclut, avec suite de frais et dépens, à l'annulation de l'ordonnance attaquée et, principalement, à ce qu'aucun frais de procédure ne soit mis à sa charge tant pour la procédure devant le ministère public que celle en instance de recours, une indemnité de 101'440 fr. 30 lui étant allouée pour les dépenses occasionnées par l'exercice de ses droits de procédure, à laquelle s'ajoutent 1'600 fr. pour ses dépens en instance de recours. A titre subsidiaire, il conclut à ce que le montant mis à sa charge pour les frais de la procédure devant le ministère public n'excède pas 28'631 fr., une indemnité réduite de 80'000 fr. lui étant allouée pour les dépenses occasionnées par l'exercice de ses droits de procédure; s'agissant de l'instance de recours, il conclut à ce qu'aucun frais de procédure ne soit mis à sa charge et sollicite une indemnité de partie réduite à 1'200 francs.