Als Nachfolger der veralteten M101 – die noch aus dem Zweiten Weltkrieg stammte – entwickelt, wurde die neue Haubitze ab März 1966 von den US-Streitkräften eingeführt. Bis 1970 wurde das Vorgängermodell dann nahezu vollständig ersetzt. Eingesetzt wurde die M102 im Vietnamkrieg, wo sie als leichte Unterstützungswaffe für luftmobile Einheiten diente, aber auch Einheiten der sogenannten Brown-water Navy setzten die Waffe auf verschiedenen Pontons als schwimmende Artillerieunterstützung ein. Während der US-Invasion in Grenada wurde die M102 ebenfalls als Unterstützungswaffe für die Luftlandeverbände eingesetzt, gleiches geschah während der Operationen Desert Shield und Desert Storm. Anfang der 1990er-Jahre begann die US Army mit der Ausmusterung der Waffe, heute wird die Haubitze nur noch von einigen Einheiten der Nationalgarde eingesetzt.