Faits : A. Le 10 janvier 2013, le Service cantonal des contributions du canton du Valais a rendu une décision sur réclamation par rapport aux impôts cantonaux et communaux (ci-après: ICC), ainsi qu'à l'impôt fédéral direct (ci-après: IFD) pour la période fiscale 2004 concernant A._. B. Le 13 février 2013, Me B._, avocat à Sion, déclarant agir pour A._, a formé un recours contre cette décision auprès de la Commission cantonale de recours en matière fiscale du canton du Valais (ci-après: la Commission de recours). Le 14 février 2013, la Commission de recours a accusé réception de l'écriture et demandé à l'avocat qu'il dépose la procuration justifiant de ses pouvoirs de représentation. L'avocat n'a pas donné suite à cette requête. Le 21 août 2013, la Commission de recours a réitéré sa demande, en impartissant à Me B._ un délai au 11 septembre 2013 pour fournir la procuration requise, sous peine d'irrecevabilité du recours. Ce délai a été prolongé à deux reprises, jusqu'au 7 octobre 2013. Aucune procuration n'a été fournie. Le 20 novembre 2013, la Commission de recours a déclaré le recours irrecevable et mis les frais de procédure à la charge de l'avocat. C. Agissant en personne, A._ interjette un recours en matière de droit public auprès du Tribunal fédéral à l'encontre de la décision du 20 novembre 2013. Elle conclut à l'admission du recours, à l'annulation de la décision attaquée et, à titre subsidiaire, à ce qu'il lui soit imparti un délai pour valider le recours du 13 février 2013, sous suite de frais à la charge du fisc. Les autorités ont été priées de fournir leur dossier sans échange d'écritures.