Faits: Faits: A. La société S._ SA est affiliée en qualité d'employeur à la Caisse AVS de la Fédération patronale vaudoise (ci-après: la caisse). Par décision du 31 janvier 2002, la caisse lui a notifié un décompte final des cotisations paritaires dues au 31 décembre 2001. Effectué le 1er mars 2002, le paiement des redevances a été crédité à la caisse le 5 mars suivant. Par décision du 8 mars 2002, la caisse a réclamé à la société le paiement d'intérêts moratoires de 114 fr. 60, calculés au taux de 5 % l'an sur un montant de 23'573 fr. 70, pour la période du 1er février 2002 au 5 mars 2002, soit pour 35 jours de retard. A. La société S._ SA est affiliée en qualité d'employeur à la Caisse AVS de la Fédération patronale vaudoise (ci-après: la caisse). Par décision du 31 janvier 2002, la caisse lui a notifié un décompte final des cotisations paritaires dues au 31 décembre 2001. Effectué le 1er mars 2002, le paiement des redevances a été crédité à la caisse le 5 mars suivant. Par décision du 8 mars 2002, la caisse a réclamé à la société le paiement d'intérêts moratoires de 114 fr. 60, calculés au taux de 5 % l'an sur un montant de 23'573 fr. 70, pour la période du 1er février 2002 au 5 mars 2002, soit pour 35 jours de retard. B. Saisi d'un recours contre cette décision, le Tribunal des assurances du canton de Vaud l'a admis, annulant la décision attaquée (jugement du 27 août 2002). Il a considéré que la brièveté du retard, la modicité de la somme en jeu et le fait que le débit avait été effectué par la banque avant l'échéance, justifiaient que l'on renonçât à la perception de ces intérêts. B. Saisi d'un recours contre cette décision, le Tribunal des assurances du canton de Vaud l'a admis, annulant la décision attaquée (jugement du 27 août 2002). Il a considéré que la brièveté du retard, la modicité de la somme en jeu et le fait que le débit avait été effectué par la banque avant l'échéance, justifiaient que l'on renonçât à la perception de ces intérêts. C. L'Office fédéral des assurances sociales (OFAS) interjette recours de droit administratif contre ce jugement dont il demande l'annulation. La société S._ SA conclut au rejet du recours. Elle fait valoir que le décompte du 31 janvier 2002 n'indiquait pas clairement que le versement des cotisations devait être en possession de la caisse avant la fin du délai de 30 jours, qu'il appartenait à l'intéressée de rendre les débiteurs attentifs à ce point, qu'elle a suivi toutes les indications dont elle disposait et qu'elle aurait respecté strictement le délai si elle avait été informée en conséquence. La caisse s'en remet à dire de justice.