Bustos var del av Baliuag som en barrio i den spanske kolonitiden. Den ble atskilt fra Baliuag etter en tragisk ulykke i omkring 1860. Det var en regnfull søndag, og en gruppe troende fra Bustos la på vei med spedbarn i armene til kirken San Augustin i Baliuag for å la dem døpe der. De omkom da deres (en båt) kantret mens de krysset den strie elven Angat som var ekstra stor og strid på grunn av været. Folk i Bustos bad om å få bygge sin egen sognekirke for å slippe å krysse den tidvis farlige elven på kirkevei. Dedikasjonen av kirken til Jesusbarnet var motivert av de druknede barna.