Faits :
A.
A.a. Le 23 février 2019, alors que le véhicule Opel Astra détenu par A._ était stationné à U._ (NE), rue xxx, sans vitesse engagée, ni frein à main tiré, celui-là s'est mis en mouvement sur une distance d'environ 5 mètres, se retrouvant au milieu de la chaussée. Aucun dégât n'a été occasionné par ces faits.
A._ ayant admis avoir stationné le véhicule sans avoir pris les précautions nécessaires, la Police neuchâteloise l'a sanctionné, par rapport simplifié du même jour, d'une amende de 200 francs.
A.b. Le fichier ADMAS concernant A._ fait état d'un retrait de son permis de conduire ordonné le 7 mai 2018 par le Service cantonal des automobiles et de la navigation (ci-après: le SCAN) pour une durée de 1 mois, en raison d'une infraction moyennement grave (<ref-law>). Le retrait a été effectif du 6 novembre au 5 décembre 2018.
B.
B.a. Le 11 mars 2019, le SCAN a informé A._ que l'infraction paraissait à première vue entraîner le retrait de son permis de conduire ou, à tout le moins, motiver l'envoi d'un avertissement, ajoutant que, s'il contestait l'infraction, il devait s'opposer à sa condamnation pénale. A._ a été invité à se déterminer.
Par courrier du 25 mars 2019, A._ a indiqué au SCAN s'être souvenu que la dernière personne à avoir utilisé sa voiture, environ une semaine avant les faits, était en réalité B._. A ce courrier était joint un autre courrier, également daté du 25 mars 2019 et signé par B._, aux termes duquel cette dernière reconnaissait être l'auteure de l'infraction, admettant que c'était elle qui avait stationné le véhicule après l'avoir utilisé pour transporter l'épouse de A._.
B.b. Le 10 avril 2019, A._ s'est acquitté de l'amende de 200 fr. qui lui avait été infligée.
B.c. Invité le 20 mai 2019 par le SCAN à éclaircir la situation, A._ a confirmé, par courrier du 28 mai 2019, la version des faits présentée dans son précédent courrier du 29 mars 2019.
B.d. Par décision du 5 juillet 2019, la Commission administrative du SCAN a ordonné le retrait du permis de conduire de A._ pour une durée de 4 mois, considérant que ce dernier avait commis une infraction moyennement grave en situation de récidive, dès lors qu'en raison d'une autre infraction moyennement grave, le permis lui avait déjà été retiré à une occurrence au cours des deux années précédentes (cf. <ref-law>).
C.
Saisi d'un recours A._ contre la décision du 5 juillet 2019, le Département du développement territorial et de l'environnement (ci-après: le Département) l'a rejeté par décision du 12 mai 2020.
Par arrêt du 7 janvier 2021, la Cour de droit public du Tribunal cantonal neuchâtelois a rejeté le recours formé par A._ contre la décision du 12 mai 2020.
D.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral, avec suite de frais et dépens, l'annulation de l'arrêt du 7 janvier 2021 ainsi que, principalement, l'annulation de la mesure administrative de retrait de permis de conduire prononcée à son égard ou, subsidiairement, le renvoi de la cause à l'autorité précédente pour nouvelle décision. Il requiert également l'octroi de l'effet suspensif.
Invités à se déterminer, le SCAN, le Département, le Tribunal cantonal ainsi que l'Office fédéral des routes concluent au rejet du recours.
E.
Par ordonnance du 2 mars 2021, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif.

Considérant en droit :
1.
Dirigé contre une décision finale (<ref-law>) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) au sujet de mesures administratives de retrait du permis de conduire (<ref-law>), le recours est en principe recevable comme recours en matière de droit public selon les art. 82 et ss LTF, aucune des exceptions prévues à l'<ref-law> n'étant réalisée. Déposé en temps utile (<ref-law>) et en la forme prévue (<ref-law>) par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à l'annulation ou à la modification de celui-ci (<ref-law>), le présent recours est recevable.
2.
Se prévalant de l'<ref-law>, qu'il conviendrait en l'occurrence d'appliquer a contrario, le recourant fait valoir que toute mesure administrative était exclue dès lors que l'infraction qui lui était reprochée avait été réprimée d'une simple amende d'ordre.
2.1. Aux termes de l'<ref-law>, lorsque la procédure prévue par la loi fédérale du 24 juin 1970 sur les amendes d'ordre (depuis le 1er janvier 2020: loi fédérale du 18 mars 2016 sur les amendes d'ordre [LAO; RS 314.1]) n'est pas applicable, une infraction aux prescriptions sur la circulation routière entraîne le retrait du permis d'élève-conducteur ou du permis de conduire ou un avertissement.
2.2. Il est en l'espèce observé que, contrairement à ce que les termes utilisés par la cour cantonale dans l'arrêt attaqué peuvent laisser supposer - et notamment la référence faite à l'<ref-law> (cf. arrêt attaqué, consid. 3 p. 4) -, l'infraction en cause n'a pas été poursuivie en application de la procédure simplifiée prévue par le droit fédéral pour les amendes d'ordre. Ainsi en particulier, le comportement pour lequel le recourant a été condamné (" Mise en mouvement fortuite d'un véhicule - sans accident "), et pour lequel il s'est vu infliger une amende de 200 fr., ne paraît pas figurer parmi les contraventions et sanctions énumérées à l'annexe 1 de l'ordonnance sur les amendes d'ordre (OAO), que ce soit dans sa version du 16 janvier 2019, actuellement en vigueur (RS 314.11), ou dans celle applicable jusqu'au 31 décembre 2019 (ordonnance sur les amendes d'ordre du 4 mars 1996). Le rapport de police du 23 février 2019 ne fait du reste aucune référence à la LAO ou à l'OAO.
Il semble bien plutôt que les faits incriminés ont été poursuivis par la police en vertu d'une délégation du Ministère public en sa faveur (cf. <ref-law>) prévue par le droit cantonal en vigueur au moment des faits et concrétisée par l'arrêté du Procureur général concernant les infractions pouvant être sanctionnées selon un tarif, du 30 décembre 2011 (en vigueur jusqu'au 1er janvier 2020 et remplacé à cette date par la directive du Procureur général sur les dénonciations simplifiées au service de la justice, du 17 décembre 2019; RS/NE 322.00; cf. art. 8). L'annexe 1 de l'arrêté précité prévoyait ainsi, à son chiffre 103.7 (repris tel quel dans la directive du 17 décembre 2019), une amende de 200 fr. pour la mise en mouvement fortuite, sans accident, d'un véhicule de moins de 3,5 tonnes, alors qu'il peut être déduit de son annexe 2 que la Police neuchâteloise était chargée de la poursuite de cette contravention (à l'instar d'ailleurs de ce que prévoit la directive du 17 décembre 2019).
Cela étant, le recourant ne prétend pas que le droit cantonal a été appliqué de manière arbitraire à cet égard, ni qu'il serait d'une quelconque façon contraire au droit fédéral en matière de procédure pénale, notamment quant aux possibilités qui lui étaient offertes de contester l'infraction. Il ne tente par ailleurs pas de démontrer que le comportement en cause était susceptible de tomber sous le coup de la LAO, dès lors qu'il consacrerait une contravention figurant dans la liste de l'annexe 1 de l'OAO.
Il suffit ainsi de constater, au regard de l'<ref-law>, que, dans la mesure où le recourant ne rend pas vraisemblable que l'infraction commise a été poursuivie en vertu de la procédure prévue par la LAO, cette infraction pouvait ouvrir la voie à un retrait du permis de conduire. Le grief est dès lors infondé.
3.
Le recourant conteste avoir été l'auteur de l'infraction. Il reproche à la cour cantonale de ne pas avoir tenu compte de ses explications ainsi que de celles de B._, selon lesquelles c'était cette dernière qui, une semaine avant les faits, avait stationné sa voiture. Il invoque une constatation arbitraire des faits (art. 9 Cst.).
3.1. L'autorité administrative statuant sur un retrait du permis de conduire ne peut en principe pas s'écarter des constatations de fait d'un jugement pénal entré en force. La sécurité du droit commande en effet d'éviter que l'indépendance du juge pénal et du juge administratif ne conduise à des jugements opposés, rendus sur la base des mêmes faits. L'autorité administrative ne peut s'écarter du jugement pénal que si elle est en mesure de fonder sa décision sur des constatations de fait inconnues du juge pénal ou qui n'ont pas été prises en considération par celui-ci, s'il existe des preuves nouvelles dont l'appréciation conduit à un autre résultat, si l'appréciation à laquelle s'est livré le juge pénal se heurte clairement aux faits constatés ou si le juge pénal n'a pas élucidé toutes les questions de droit, en particulier celles qui touchent à la violation des règles de la circulation (<ref-ruling> consid. 3.2 p. 101).
Cela vaut non seulement lorsque le jugement pénal a été rendu au terme d'une procédure publique ordinaire au cours de laquelle les parties ont été entendues et des témoins interrogés, mais également à certaines conditions, lorsque la décision a été rendue à l'issue d'une procédure sommaire, même si la décision pénale se fonde uniquement sur le rapport de police. Il en va notamment ainsi lorsque la personne impliquée savait ou aurait dû prévoir, en raison de la gravité des faits qui lui sont reprochés, qu'il y aurait également une procédure de retrait de permis. Dans cette situation, la personne impliquée est tenue, en vertu des règles de la bonne foi, de faire valoir ses moyens dans le cadre de la procédure pénale, le cas échéant en épuisant les voies de recours à sa disposition. Elle ne peut pas attendre la procédure administrative pour exposer ses arguments (<ref-ruling> consid. 3c/aa p. 104; voir aussi arrêts 1C_474/2020 du 19 avril 2021 consid. 2.1 et 1C_403/2020 du 20 juillet 2020 consid. 3).
3.2. Il est constant que, par courrier du 11 mars 2019, le SCAN a contacté le recourant, lui résumant les faits objets du rapport de police du 23 février 2019 et lui indiquant que ceux-ci paraissaient à première vue entraîner le retrait du permis de conduire. Il est tout aussi constant que ce courrier, impartissant au recourant un délai de 20 jours pour se déterminer, précisait qu'il avait le devoir de s'opposer à une condamnation pénale sous peine pour le SCAN d'être lié par l'appréciation retenue par l'autorité pénale.
Pour autant, si le recourant s'est effectivement déterminé le 25 mars 2019 auprès du SCAN, il ne prétend pas avoir contesté, sur le plan pénal, l'amende qui lui avait été infligée, celle-ci ayant au contraire été dûment acquittée le 11 avril 2019. Il ne fait à cet égard pas état de difficultés de compréhension quant à la nécessité ou à la manière de s'opposer à sa condamnation pénale, ni ne prétend d'ailleurs non plus qu'une opposition aurait été tardive, alors qu'à la date de la réception du courrier du SCAN, l'amende n'avait pas été payée et que le recourant disposait, aux termes du rapport du 23 février 2019, d'un délai de 30 jours pour ce faire, faute de quoi une ordonnance pénale aurait été rendue.
Dans ce contexte, il ne saurait être reproché à l'autorité administrative de ne pas avoir tenu compte des explications fournies par le recourant dans ses déterminations du 25 mars 2019 quant au fait que son amie B._ était l'auteure de l'infraction constatée le 23 février 2019. Contrairement à ce que le recourant prétend, cette circonstance n'était pas susceptible d'être établie de manière indubitable par l'appréciation de preuves nouvelles qu'il aurait été impossible de faire valoir sur le plan pénal. En particulier, les explications de B._ quant à la présence d'un siège d'enfant à l'arrière du véhicule au moment des faits, correspondant à l'âge de son enfant, ne dénotent pas encore de manière manifeste une implication dans les faits pour lesquels le recourant a été condamné. Bien au contraire, celui-ci ayant admis les faits lors du constat de l'infraction par la police, ses explications ultérieures au SCAN, ainsi que celles de son amie, pourraient également traduire une démarche complaisante de cette dernière à l'égard du recourant pour tenter de lui éviter un retrait de son permis de conduire.
Il est en outre indifférent que B._ aurait versé le montant de l'amende au recourant pour qu'il procède à son paiement, celui-ci ne démontrant pas en quoi, par hypothèse en application du droit cantonal, il pouvait se prévaloir du caractère anonyme de l'amende, la LAO n'étant à tout le moins pas directement applicable en l'espèce (cf. consid. 2.2 supra). Aucun élément au dossier ne fait du reste état que le recourant avait lui-même entrepris, à un moment ou à un autre, une quelconque démarche auprès de la police en vue de contester son implication et de démontrer celle de B._, alors qu'il ne prétend pas pouvoir se prévaloir d'un droit de refuser de témoigner à l'égard de cette dernière (cf. <ref-law>).
3.3. Par ailleurs, en tant que le recourant invoque une violation de son droit d'être entendu (art. 29 al. 2 Cst.) ainsi que de la maxime inquisitoire prévalant en procédure administrative neuchâteloise (cf. art. 14 al. 2 de la loi cantonale du 27 juin 1979 sur la procédure et la juridiction administratives [LPJA; RS/NE 152.130]), ses explications ne permettent pas de remettre en cause la jurisprudence constante selon laquelle l'autorité administrative doit fonder son appréciation sur la base des faits retenus par le juge pénal. A tout le moins, le recourant ne présente sur ces points aucune motivation répondant aux exigences des art. 42 al. 2 et 106 al. 2 LTF (cf. <ref-ruling> consid. 3).
Cela étant, la cour cantonale n'a en l'espèce pas versé dans l'arbitraire, ni violé le droit fédéral, en se fiant aux constatations du rapport de police du 23 février 2019, alors que le recourant avait été valablement informé de la nécessité de s'opposer à sa condamnation pénale s'il entendait contester les faits constatés par la police.
4.
Le recourant ne revient par ailleurs pas sur la qualification de l'infraction, laquelle, selon la cour cantonale, devait être considérée comme moyennement grave et justifiait dès lors, en application de l'<ref-law>, un retrait du permis de conduire de 4 mois, compte tenu d'un précédent retrait en 2018 en raison d'une autre infraction moyennement grave.
L'appréciation de l'autorité cantonale quant à la gravité moyenne de l'infraction n'apparaît au demeurant pas critiquable, dès lors qu'un véhicule, mis en mouvement à la suite d'un stationnement opéré au mépris des précautions commandées par les <ref-law> et 22 OCR, est susceptible, outre de causer des dégâts matériels, non seulement de compromettre la sécurité du trafic par une immobilisation sur les voies de circulation, mais également de mettre directement en danger les piétons et les occupants des véhicules se trouvant sur sa trajectoire.
5.
Il s'ensuit que le recours doit être rejeté dans la mesure où il est recevable, aux frais du recourant, qui succombe (art. 65 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Service cantonal des automobiles et de la navigation de la République et canton de Neuchâtel, au Département du développement territorial et de l'environnement de la République et canton de Neuchâtel, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral des routes.
Lausanne, le 14 juin 2021
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Kneubühler
Le Greffier : Tinguely