Tåget Long Island Railroad gick av spåren när det anlände på onsdag till Brooklyns livliga Atlantic Terminal.
Enligt brandkåren i New York hade 103 personer drabbats av "icke-livshotande" skador.
Passagerare på tåget sade att det hade varit en hög smäll följt av en stöt som fick vissa människor på tåget att falla ner.
New York guvernören, Andrew Cuomo, sade att tåget var på väg i en "rätt långsam hastighet" när det misslyckades med att stanna i tid och slog en buffert på stationen.
Det var dock svårt nog att slå sönder några av tågets fönster och veckla upp dörrarna.
Några av de skadade fördes bort på bårar, medan andra sågs sitta nära tåget och hålla ispackar mot huvudet.
Orsaken till olyckan, som inträffade omkring 08:20 lokal tid (13:20 GMT), har inte fastställts.
US Federal Railroad Administration sa att dess utredare var på väg till platsen.
I september förra året dog en kvinna och mer än 100 andra skadades när ett tåg spårade ur under rusningstid när det kom in på stationen i Hoboken i New Jersey. En utredning av denna incident har ännu inte avslutats.
Mer än 100 personer skadades när ett pendeltåg spårade ur under rusningstid i New York, säger myndigheterna.