Sachverhalt:
A.
Am 5. Mai 2009 bewilligte der Gemeinderat Dörflingen das Bauprojekt von B._ und C._ zur Gartengestaltung auf dem Grundstück Nr. 971 gemäss Ideenskizze Variante 1.2 im vereinfachten Verfahren, ohne öffentliche Auflage. Der Gemeinderat versäumte es, das Bauvorhaben dem Anstösser A._ (Eigentümer der Parzelle Nr. 154) anzuzeigen.
Die Gartenanlage (mit bis zu 2 m hohen Aufschüttungen) wurde im Frühjahr 2010 fertig gestellt. Sie erstreckt sich nicht nur auf die Parzelle Nr. 971, sondern auch auf die angrenzende Parzelle Nr. 155, die ausserhalb der Bauzone, in der Zone für Rebbau, liegt.
B.
Mit Schreiben vom 5. April 2011 erhob A._ beim Gemeinderat "Einsprache" gegen die Gartenanlage auf dem Grundstück Nr. 155. Am 14. April 2011 antwortete der Gemeindepräsident, das Vorhaben sei am 5. Mai 2009 unter Auflagen bewilligt worden; die Gartenanlage sei demzufolge rechtmässig erstellt worden. Beigefügt wurde die Baubewilligung und eine Rechtsmittelbelehrung.
A._ gelangte am 25. April 2011 erneut an den Gemeindepräsidenten. Er führte aus, die Bewilligung beziehe sich ausschliesslich auf das Grundstück Nr. 971, während sich seine Einsprache auf das angrenzende Grundstück Nr. 155 beziehe, und bat um einen Termin vor Ort.
C.
Am 29. Mai 2011 gelangte A._ an das Baudepartement des Kantons Schaffhausen mit der Bitte, die Angelegenheit zu prüfen.
Mit Beschluss vom 3. April 2012 nahm der Regierungsrat des Kantons Schaffhausen die Eingabe als Aufsichtsbeschwerde entgegen. Er hielt zusammenfassend fest, dass der Gemeinderat bezüglich Parzelle Nr. 155 (Landwirtschaftszone) nicht zuständig gewesen sei. Die Baubewilligung vom 5. Mai 2009 sei aber bei Abwägung aller massgeblichen Interessen nicht derart fehlerhaft, dass sie als nichtig zu betrachten sei bzw. sich ein aufsichtsrechtliches Einschreiten rechtfertige. Die Baubewilligung sei somit in Rechtskraft erwachsen. Der Aufsichtsbeschwerde wurde daher keine Folge geleistet.
D.
Gegen den regierungsrätlichen Beschluss erhob A._ am 19. April 2012 (erstmals anwaltlich vertreten) Verwaltungsgerichtsbeschwerde beim Obergericht des Kantons Schaffhausen. Er beantragte, der angefochtene Beschluss sei aufzuheben und die Sache sei an den Regierungsrat zurückzuweisen mit der Anweisung, den Rekurs materiell zu behandeln. Eventuell sei der Regierungsrat anzuweisen, die Baubewilligung aufzuheben und die Wiederherstellung des ursprünglichen Zustands auf dem Grundstück Nr. 155 anzuordnen.
Am 8. April 2014 wies das Obergericht die Beschwerde ab, soweit es darauf eintrat. Es entschied, dass der Regierungsrat die Eingabe zurecht nur als Aufsichtsbeschwerde entgegengenommen habe; insoweit sei die Beschwerde abzuweisen. Auf die Beschwerde gegen den aufsichtsrechtlichen Entscheid trat es nicht ein, weil A._ im Sommer 2009 in einer Vereinbarung mit B._ ausdrücklich auf seine Nachbarrechte verzichtet habe; unter diesen Umständen sei die Aufsichtsbeschwerde rechtsmissbräuchlich gewesen.
E.
Dagegen hat A._ am 7. Mai 2014 Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid des Obergerichts und die Baubewilligung des Gemeinderats Dörflingen vom 5. Mai 2009 seien aufzuheben. Eventualiter sei die Sache zur Neubeurteilung an den Regierungsrat - subeventualiter an das Obergericht - zurückzuweisen.
F.
B._ (im Folgenden: der Beschwerdegegner) beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Der Regierungsrat schliesst auf Abweisung der Beschwerde.
Das Obergericht legt in seiner Vernehmlassung dar, dass es in E. 3 seines Urteils zu einer bedauerlichen Namensverwechslung gekommen sei. Es könne daher nicht mehr daran festgehalten werden, dass der Beschwerdeführer auf seine Nachbarinteressen verzichtet und rechtsmissbräuchlich Aufsichtsbeschwerde erhoben habe. Dennoch stelle sich die Frage, ob im Hinblick auf die Subsidiarität der Aufsichtsbeschwerde ein Anspruch auf Behandlung bestanden habe, da der Beschwerdeführer Rekurs hätte erheben können.
Der Gemeinderat Dörflingen hat auf eine Vernehmlassung verzichtet.
Das Bundesamt für Raumplanung kommt in seiner Vernehmlassung zum Ergebnis, dass das Verfahren an derart gravierenden Mängeln leide, dass eine Wiederholung des gesamten Verfahrens unumgänglich erscheine. Es beantragt daher die Gutheissung der Beschwerde.
G.
Im weiteren Schriftenwechsel halten die Parteien an ihren Anträgen fest.

Erwägungen:
1.
Da alle Sachurteilsvoraussetzungen vorliegen, ist auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten einzutreten.
2.
Der Beschwerdeführer rügt zunächst eine offensichtlich unrichtige Sachverhaltsfeststellung: Die am 18. August 2009 ins Grundbuch eingetragene Vereinbarung sei nicht von ihm, sondern von D._, Eigentümer der Parzelle Nr. 974, abgeschlossen worden.
Dieser Vorwurf ist berechtigt, wie bereits das Obergericht in seiner Vernehmlassung eingeräumt hat. Es kann zumindest nicht ausgeschlossen werden, dass der angefochtene Entscheid ohne diesen Irrtum anders ausgefallen wäre. Der Beschwerdegegner behauptet zwar, er habe dem Beschwerdeführer die Ideenskizze schon vor Einreichung des Baugesuchs, im Frühjahr 2009, gezeigt und dieser habe sich ausdrücklich mit der geplanten Gartengestaltung einverstanden gezeigt. Zur Einsprache sei es nur gekommen, weil der vom Beschwerdeführer gewünschte Landabtausch (Rebland gegen Ackerland) nicht zustande gekommen sei. Diese Darstellung wird jedoch vom Beschwerdeführer bestritten. Es wird Sache des Obergerichts sein (bzw. des Regierungsrats bei Rückweisung an diesen, vgl. unten E. 3), allfällig nötige ergänzende Sachverhaltsabklärungen zu treffen.
3.
Auf eine Rückweisung an das Obergericht zur Prüfung der aufsichtsrechtlichen Fragen könnte jedoch verzichtet werden, wenn die Eingabe - wie der Beschwerdeführer geltend macht - nicht als Aufsichtsbeschwerde sondern als ordentlicher Rekurs hätte behandelt werden müssen. Dies ist im Folgenden zu prüfen.
3.1. Das Obergericht ging davon aus, dass die Baubewilligung sowohl für das Grundstück Nr. 971 als auch für das Grundstück Nr. 155 erteilt worden sei, d.h. auch in Bezug auf Nr. 155 eine anfechtbare Verfügung vorliege. Auch wenn die Parzellengrenze auf der im Baubewilligungsverfahren eingereichten Ideenskizze nicht eingetragen sei, sei das Ausmass der Gartenanlage klar ersichtlich. Mit Schreiben des Gemeindepräsidenten vom 14. April 2011 sei dem Beschwerdeführer die Baubewilligung nachträglich eröffnet worden. Dieses Schreiben sei zu Recht mit einer Rechtsmittelbelehrung versehen gewesen. In seinem Schreiben an den Gemeindepräsidenten vom 25. April 2011 habe sich der Beschwerdeführer ausdrücklich auf den Standpunkt gestellt, das Grundstück Nr. 155 werde von der Baubewilligung nicht erfasst, d.h. es fehle insofern an einem Anfechtungsobjekt. Er habe deshalb mit seinem Schreiben nicht den Willen geäussert, einen Rekurs zu erheben, sondern habe nur Kritik an der Auskunft des Gemeinderats angebracht und einen Augenschein verlangt. Auch bei einer Laieneingabe müsse eine negative Rückmeldung und ein Begehren um weiteren Aufschluss nicht als Rechtsmitteleingabe entgegengenommen werden und die angerufene Behörde auch nicht zu Rückfragen veranlassen.
3.2. Der Beschwerdeführer macht dagegen geltend, ihm sei die Baubewilligung vom 5. Mai 2009 am 14. April 2011 ohne die "Ideenskizze" zugestellt worden. Aus dem Wortlaut der Bewilligung, die sich nur auf die Parzelle Nr. 971 bezogen habe, habe er nicht entnehmen können, dass sich die Bewilligung auch auf Parzelle Nr. 155 erstrecke. Er sei daher mit Schreiben vom 25. April 2011 wiederum an den Gemeindepräsidenten gelangt, um ihn auf den Widerspruch zwischen der Baubewilligung und der Auskunft hinzuweisen. Auch diese Eingabe sei jedoch als "Einsprache" gegen die Gartenanlage auf Parzelle Nr. 155 bezeichnet worden. Berücksichtige man die vorausgegangene Korrespondenz ("Einsprache" vom 5. April 2011) und den Umstand, dass er ein juristischer Laie sei, müsse die Eingabe vom 25. April 2011 als Rekurs verstanden werden, der rechtzeitig (innert 20 Tagen seit der Mitteilung vom 14. April 2011) erhoben worden sei. Die gegenteilige Auslegung der Vorinstanzen sei überspitzt formalistisch. Die Gemeinde wäre deshalb verpflichtet gewesen, die Eingabe dem Regierungsrat als Rekurs weiterzuleiten (Art. 3 des Schaffhauser Verwaltungsrechtspflegegesetzes vom 20. September 1971; im Folgenden: VRG/SH). Dieser hätte dann gemäss Art. 21 Abs. 2 VRG/SH eine Verbesserung bzw. Präzisierung der Rekursschrift verlangen können.
3.3. Der Beschwerdegegner wendet ein, aus der Rechtsmittelbelehrung habe sich ergeben, dass der Rekurs beim Regierungsrat zu erheben sei. Das Schreiben des Beschwerdeführers vom 25. April 2011 an den Gemeindepräsidenten lasse daher einzig den Schluss zu, dass er keinen Rekurs erheben wollte, hätte er sich doch sonst direkt an den Regierungsrat gewandt. Gleiches gelte für das Schreiben vom 29. Mai 2011 an das Baudepartement. Im Übrigen hätte der Beschwerdeführer sich bereits im Herbst 2010, als mit den Arbeiten begonnen wurde, spätestens aber im Januar 2011, um die Baubewilligung bemühen müssen. Im April 2011 sei die Rekursfrist längst abgelaufen gewesen.
3.4. Das Bundesamt für Raumplanung hält für entscheidend, dass die Baubewilligung dem Beschwerdeführer mit Mitteilung des Gemeindepräsidenten vom 14. April 2011 förmlich mit Rechtsmittelbelehrung eröffnet worden sei. Zwar genüge diese Mitteilung kaum den Anforderungen an eine Verfügung, da sie keine Begründung enthalte, das Bauprojekt ungenügend beschreibe und die Rechtsmittelbelehrung ohne Lupe kaum lesbar sei. Diese Mängel dürften jedoch nicht zulasten des Beschwerdeführers gehen, der vor dem Gemeinderat noch nicht anwaltlich vertreten gewesen sei. Die Antwort vom 25. April 2011 sei innert der 20-tägigen Rekursfrist erfolgt und hätte als Rekurs entgegengenommen und an den Regierungsrat weitergeleitet werden müssen. Dies gelte insbesondere in Anbetracht der erheblichen Verfahrensfehler auf Seiten der Gemeinde (Entscheid als unzuständige Behörde über ein Baugesuch ausserhalb der Bauzone; Bewilligung im vereinfachten Verfahren ohne öffentliche Auflage und ohne Anzeige an den Beschwerdeführer als betroffenen Nachbarn). Der Rekurswille gehe im Übrigen auch aus den Schreiben des Beschwerdeführers vom 5. April 2011 und vom 29. Mai 2011 hervor.
3.5. Überspitzter Formalismus als besondere Form der Rechtsverweigerung liegt unter anderem vor, wenn die Behörde an Rechtsschriften überspannte Anforderungen stellt und dem Bürger der Rechtsweg in unzulässiger Weise versperrt wird (<ref-ruling> E. 4b S. 417 mit Hinweisen). Das Verbot des überspitzten Formalismus weist einen engen Bezug zum Grundsatz von Treu und Glauben (<ref-law>) auf: Prozesserklärungen dürfen nicht buchstabengetreu ausgelegt werden, ohne zu fragen, welcher Sinn ihnen vernünftigerweise beizumessen sei (<ref-ruling> E. 2 S. 96 f.). Insbesondere auf der untersten Stufe der Rechtsmittelleiter dürfen keine hohen Anforderungen gestellt werden (Urteil 1C_519/2009 vom 22. September 2010 E. 6 zur Einsprachebegründung); dies gilt erst recht für Eingaben von juristischen Laien (Urteil 1A.80/2002 vom 18. Juni 2002 E. 4.3, in: URP 2002 S. 800). In Zweifelsfällen kann die Behörde zur Nachfrage verpflichtet sein (Urteil 1A.80/2002 E. 4.5; ALAIN GRIFFEL, Kommentar VRG Zürich, 3. Auflage, § 23 N. 7).
Wie bereits der Regierungsrat festgehalten hat und das ARE bestätigt, ist die vorliegend streitige Baubewilligung mit erheblichen Mängeln behaftet; streitig ist, ob sie "nur" anfechtbar oder sogar nichtig ist. Für einen juristischen Laien ist diese Unterscheidung mit den sich daraus ergebenden prozessualen Konsequenzen nicht leicht durchschaubar. Macht ein Betroffener sinngemäss geltend, eine Verfügung sei nichtig oder inexistent, so darf daraus nicht ohne Weiteres auf einen fehlenden Anfechtungswillen geschlossen werden. Im Gegenteil ist in der Regel davon auszugehen, dass die Aufhebung der Verfügung gewollt ist, für den Fall, dass diese (wider Erwarten) nicht nichtig, sondern nur anfechtbar ist. Dies gilt jedenfalls, wenn die Eingabe innerhalb der Rekursfrist erfolgt. In Zweifelsfällen muss die Behörde nachfragen. Ansonsten besteht die Gefahr, dass der Rechtsschutz gerade bei Verfügungen mit besonders schwerwiegenden Mängeln vereitelt wird.
Alle Vorinstanzen gingen davon aus, dass der Gemeinderat dem Beschwerdeführer mit Schreiben vom 14. April 2011 die Möglichkeit eingeräumt hatte, die Baubewilligung nachträglich mit Rekurs anzufechten. Die Eingabe vom 25. April 2011 erfolgte innerhalb der 20-tägigen Rekursfrist (Art. 20 Abs. 1 VRG/SH). Aus dem Schreiben geht hervor, dass der Beschwerdeführer an seiner "Einsprache" vom 5. April 2011 gegen die Gartenanlage auf Parzelle Nr. 155 festhält und weiterhin die Auffassung vertritt, es liege insoweit keine (wirksame) Baubewilligung vor. Wie das ARE zutreffend ausführt, hat der Gemeindevorstand die Unklarheit über Bestand und Tragweite der Baubewilligung zu verantworten: Die Bewilligung erwähnt nur die Parzelle Nr. 971; in den bewilligten Plänen sind die Parzellengrenzen nicht eingetragen; im Übrigen ist streitig, ob diese dem Beschwerdeführer überhaupt zugestellt worden sind. Diese Unsicherheiten dürfen sich nicht zu dessen Lasten auswirken. Unter diesen Umständen wäre die Gemeinde verpflichtet gewesen, die "Einsprache" als Rekurs entgegenzunehmen und sie (allenfalls nach Rückfrage beim Beschwerdeführer) dem zuständigen Regierungsrat zu überweisen. Gemäss Art. 9 Abs. 3 VRG/SH wahrt auch die Eingabe an eine unzuständige Behörde die Rekursfrist.
3.6. Der Regierungsrat hätte daher die Eingabe des Beschwerdeführers vom 25. April 2011 als Rekurs entgegennehmen und darüber entscheiden müssen. Es ist nicht Sache des Bundesgerichts, erstinstanzlich darüber zu befinden. Die Sache ist daher zur Behandlung des Rekurses an den Regierungsrat zurückzuweisen.
Es kann somit offen bleiben, ob auch die Eingabe an das Baudepartement vom 29. Mai 2011 als ordentliches Rechtsmittel (Rekurs wegen Rechtsverweigerung bzw. -verzögerung) hätte qualifiziert werden müssen, wie der Beschwerdeführer geltend macht.
4.
Nach dem Gesagten ist die Beschwerde gutzuheissen und das obergerichtliche Urteil aufzuheben. Die Sache ist an den Regierungsrat zurückzuweisen, um über den Rekurs des Beschwerdeführers gegen die Baubewilligung vom 5. Mai 2009 zu entscheiden.
Bei diesem Ausgang des Verfahrens obsiegt der Beschwerdeführer zwar nicht mit seinem Hauptantrag (Aufhebung der Baubewilligung), wohl aber mit seinem Eventualantrag (Rückweisung an den Regierungsrat). Der private Beschwerdegegner wird daher kosten- und entschädigungspflichtig (Art. 66 und 68 BGG).

Demnach erkennt das Bundesgericht:
1.
In teilweiser Gutheissung der Beschwerde wird der Entscheid des Obergerichts des Kantons Schaffhausen vom 8. April 2014 aufgehoben. Die Sache wird an den Regierungsrat des Kantons Schaffhausen zurückgewiesen, um über den Rekurs des Beschwerdeführers gegen die Baubewilligung des Gemeinderates Dörflingen vom 5. Mai 2009 zu entscheiden.
2.
Die Kosten des bundesgerichtlichen Verfahrens in Höhe von Fr. 3'000.-- werden B._ auferlegt.
3.
B._ hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 4'000.-- zu entschädigen.
4.
Die Sache wird zur Neuverlegung der Kosten des vorangegangenen Verfahrens an das Obergericht zurückgewiesen.
5.
Dieses Urteil wird den Parteien, dem Gemeinderat Dörflingen, dem Regierungsrat und dem Obergericht des Kantons Schaffhausen sowie dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
Lausanne, 4. Dezember 2014
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Gerber