Faits : A. A._ SA est une société inscrite au registre du commerce de la République et canton de Genève. Le 10 janvier 2014, elle a interjeté recours contre huit décisions sur réclamation de l'Administration fiscale cantonale de la République et canton de Genève (ci-après: l'Administration fiscale) auprès du Tribunal administratif de première instance de la République et canton de Genève (ci-après: le Tribunal administratif de première instance). B. Dans le cadre de la procédure pendante devant lui, le Tribunal administratif de première instance, par courrier du 16 janvier 2014, a notamment invité la société à verser une avance de frais de 700 fr., lui indiquant en substance que si le versement n'était pas effectué " d'ici au samedi 15 février 2014", le recours serait déclaré irrecevable. L'intéressée a émis l'ordre de paiement de l'avance de frais le 24 février 2014. Le 5 mars 2014, le Tribunal administratif de première instance a déclaré le recours irrecevable. Par arrêt du 28 octobre 2014, la Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice) a rejeté le recours déposé par la société contre la décision précitée. Elle a jugé qu'aucune des attestations produites par l'intéressée n'exposait à suffisance la nature et l'origine du problème technique invoqué par cette dernière, et survenu dans le rapport de "télébanking" avec sa banque, pour expliquer le retard dans le paiement de l'avance de frais. C. Agissant par la voie du recours en matière de droit public, A._ SA demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt de la Cour de justice du 28 octobre 2014 et de " juger que l'avance de frais effectuée (...) l'a été dans le respect du délai légal ". Elle se plaint d'établissement incomplet des faits, d'arbitraire et de violation de l'interdiction du formalisme excessif. La Cour de justice persiste dans les considérants et le dispositif de son arrêt. L'Administration fiscale cantonale et l'Administration fédérale des contributions renoncent à déposer des observations.