Faits: A. La société X._ SA est affiliée depuis 1958 à la Caisse AVS de la Fédération patronale Vaudoise, à Y._. Pour le régime des allocations familiales en faveur de ses salariés occupés en Valais, X._ SA était affiliée depuis le 1er janvier 1997 à la Caisse interprofessionnelle valaisanne d'allocations familiales (ci-après: CIVAF). Par écriture du 26 juin 2008, elle a annoncé à la CIVAF qu'elle désirait mettre fin à cette affiliation pour le 31 décembre suivant. Elle précisait qu'elle serait dès le 1er janvier 2009 affiliée à la Caisse interprofessionnelle régionale d'allocations familiales (ci-après: CIRAF), à Y._, laquelle est gérée par la Caisse AVS de la Fédération patronale Vaudoise. X._ SA faisait valoir qu'avec l'entrée en vigueur de la loi fédérale sur les allocations familiales (au 1er janvier 2009) les caisses d'allocations familiales gérées par une caisse AVS seraient désormais reconnues dans toute la Suisse. La CIVAF a refusé ce transfert par lettre du 2 décembre 2008. A la demande de X._ SA, le Service cantonal valaisan des allocations familiales a rendu une décision du 30 janvier 2009, par laquelle il a affilié d'office X._ SA à la CIVAF pour la période courant du 1er janvier 2009 au 31 décembre 2010, pour tous ses employés exerçant une activité en Valais. Selon cette décision, un changement de caisse ne pouvait en effet intervenir qu'après un délai transitoire de deux ans à partir de l'entrée en vigueur (le 1er janvier 2009) de la législation cantonale d'exécution de la loi fédérale. Par décision sur opposition du 4 mars 2009, ledit service a maintenu cette obligation d'affiliation. B. X._ SA a recouru contre cette décision sur opposition devant le Tribunal cantonal valaisan, qui a rejeté son recours par jugement du 28 septembre 2009. C. X._ SA interjette un recours en matière de droit public. Elle conclut à l'annulation du jugement cantonal et de la décision sur opposition du 4 mars 2009, ainsi qu'à la constatation de son droit de changer de caisse d'allocations familiales pour tous ses salariés exerçant une activité en Valais, dès le 1er janvier 2009. Elle a demandé l'effet suspensif au recours. Le Service cantonal des allocations familiales a conclu au rejet du recours. La CIVAF s'est déterminée sur la demande d'effet suspensif et s'est pour le reste référée à la détermination du service cantonal. Dans ses déterminations, l'Office fédéral des assurances sociales (OFAS) exprime l'avis que le délai imposé à la recourante est contraire au droit fédéral. D. Sur demande du juge instructeur, X._ SA a déposé une attestation de la CIRAF dont il résulte que cet employeur est affilié auprès d'elle pour l'ensemble de ses salariés en Suisse (y compris le Valais) depuis le 1er janvier 2009 et que les allocations familiales sont versées aux employés conformément à la législation en vigueur dans le canton où s'exerce leur activité. E. Par ordonnance du 17 mars 2010, le juge instructeur a attribué l'effet suspensif au recours.