Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Nach Art. 108 Abs. 2 OG hat die Verwaltungsgerichtsbeschwerde unter anderem die Begehren und deren Begründung mit Angabe der Beweismittel zu enthalten. Diese Bestimmung soll dem Gericht hinreichende Klarheit darüber verschaffen, worum es beim Rechtsstreit geht. Nach der Praxis genügt es, wenn dies der Verwaltungsgerichtsbeschwerde insgesamt entnommen werden kann. Insbesondere muss zumindest aus der Beschwerdebegründung ersichtlich sein, was die Beschwerde führende Person verlangt und auf welche Tatsachen sie sich beruft. Die Begründung braucht nicht zuzutreffen, aber sie muss sachbezogen sein. Der blosse Hinweis auf frühere Rechtsschriften oder auf den angefochtenen Entscheid genügt nicht. Fehlt der Antrag oder die Begründung überhaupt und lassen sie sich auch nicht der Beschwerdeschrift entnehmen, so liegt keine rechtsgenügliche Beschwerde vor, weshalb auf sie nicht eingetreten werden kann (<ref-ruling> Erw. 1a mit Hinweisen).
b) Es ist unbestritten, dass die Verwaltungsgerichtsbeschwerde der IV-Stelle einen den Erfordernissen genügenden Antrag enthält. Zur Begründung gibt die IV-Stelle im Wesentlichen an, die Voraussetzungen für die Annahme einer relevanten Gesundheitsverschlechterung zwischen fachärztlicher psychiatrischer Begutachtung und Verfügungserlass seien nicht erfüllt und das Gutachten des Dr. med. M._ vom 2. Dezember 1997 reiche für die Beurteilung des streitigen Rentenanspruchs aus. Deshalb habe das kantonale Gericht die Sache zu Unrecht zur weiteren Abklärung an die Verwaltung zurückgewiesen. Zufolge dieser Ausführungen ist klar, worauf die Verwaltung ihren im letztinstanzlichen Verfahren gestellten Antrag stützt. Einer materiellen Behandlung der Verwaltungsgerichtsbeschwerde steht deshalb nichts im Weg. Da sie sich entgegen der Behauptung des kantonalen Gerichts nicht in einem blossen Verweis auf einen Arztbericht erschöpft, stellt sich die Frage nicht, ob auf sie auch einzutreten wäre, wenn die Begründung nicht der Beschwerdeschrift selber entnommen werden könnte.
2.- a) Das kantonale Gericht hat die vorliegend massgebenden Bestimmungen über den Begriff der Invalidität (<ref-law>), die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG) und die Invaliditätsbemessung bei Erwerbstätigen nach der Methode des Einkommensvergleichs (<ref-law>) zutreffend dargelegt. Richtig sind auch die Ausführungen über die Aufgabe des Arztes im Rahmen der Invaliditätsbemessung (<ref-ruling> Erw. 2, 114 V 314 Erw. 3c, 105 V 158 Erw. 1). Darauf kann verwiesen werden.
b) Für das gesamte Verwaltungs- und Verwaltungsgerichtsbeschwerdeverfahren gilt der Grundsatz der freien Beweiswürdigung (<ref-law> in Verbindung mit Art. 135 OG; Art. 95 Abs. 2 OG in Verbindung mit Art. 113 und 132 OG; <ref-law> in Verbindung mit <ref-law>; Meyer-Blaser, Rechtsprechung des Bundesgerichts zum IVG, S. 229). Danach haben Versicherungsträger und Sozialversicherungsrichter die Beweise frei, d.h. ohne Bindung an förmliche Beweisregeln, sowie umfassend und pflichtgemäss zu würdigen (Gygi, Bundesverwaltungsrechtspflege, 2. Aufl., S. 278). Für das Beschwerdeverfahren bedeutet dies, dass der Sozialversicherungsrichter alle Beweismittel, unabhängig davon, von wem sie stammen, objektiv zu prüfen und danach zu entscheiden hat, ob die verfügbaren Unterlagen eine zuverlässige Beurteilung des streitigen Rechtsanspruchs gestatten. Insbesondere darf er bei einander widersprechenden medizinischen Berichten den Prozess nicht erledigen, ohne das gesamte Beweismaterial zu würdigen und die Gründe anzugeben, warum er auf die eine und nicht auf die andere medizinische These abstellt. Hinsichtlich des Beweiswertes eines Arztberichtes ist also entscheidend, ob der Bericht für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Darlegung der medizinischen Zusammenhänge und in der Beurteilung der medizinischen Situation einleuchtet und ob die Schlussfolgerungen des Experten begründet sind (<ref-ruling> Erw. 1c; RKUV 1991 Nr. U 133 S. 312; vgl. auch Meyer-Blaser, Die Rechtspflege in der Sozialversicherung, in: BJM 1989 S. 30 f.).
3.- Streitig ist der Anspruch auf eine Rente der Invalidenversicherung. Dabei stellt sich vorab die Frage, ob für die Beurteilung des psychischen Gesundheitszustandes und seiner allfälligen Auswirkungen auf die Arbeits- und Erwerbsfähigkeit auf das Gutachten des Dr. med. M._ vom 2. Dezember 1997 abgestellt werden kann, was die Vorinstanz verneint, die Beschwerdeführerin hingegen bejaht.
a) Nach der psychiatrischen Beurteilung des Dr. med. M._ vom 2. Dezember 1997 leidet der Beschwerdegegner unter einer undifferenzierten und wenig geschulten Persönlichkeit in psychosozial und finanziell schwieriger Situation. Eine krankheitswertige Störung liege jedoch nicht vor und rein theoretisch betrachtet bestehe keine Einschränkung der Arbeitsfähigkeit. Zur Frage nach einer Rentenbegehrlichkeit führt der Experte aus, es existierten durchaus finanzielle Probleme, welche der Explorand und seine Freundin wahrscheinlich am einfachsten mit einer Rente lösen könnten. In seiner von der IV-Stelle im vorliegenden Verfahren eingereichten ergänzenden Stellungnahme vom 30. Dezember 1998 gibt er an, er sehe im Auftreten des Versicherten ein regressives Verhalten eines narzisstisch gekränkten Mannes, welcher seine Rentenerwartungen erfüllt sehen wolle, obwohl kein somatisches Fachkonsilium Argumente für das präsentierte Schmerzverhalten liefere. Selbst eine leichte oder mittelschwere Depression würde keine genügende Erklärung für das über Jahre hinweg demonstrierte Schmerzverhalten geben. Den Beschwerdegegner treffe eine Unterhaltspflicht für sieben Kinder und zwei Frauen in zwei verschiedenen Ländern. Eine Berentung würde existenzielle Ängste abbauen, für welche nicht eine psychische Störung verantwortlich sei. Fehlende Sprachkenntnisse und Schulbildung, eine ökonomisch belastende Familienplanung, möglicherweise seine Charakterzüge und das Wissen um die schweizerische Sozialversicherung genügten, um den Versicherten in seinem arbeitsvermeidenden Verhalten zu belassen.
Dr. med. V._ führt in seinem Schreiben vom 5. September 1998 an, während der neunmonatigen hausärztlichen Betreuung habe er neben den somatischen Beschwerden auch wesentliche psychische Probleme festgestellt (Schlafstörung, Traurigkeit, existenzielle Ängste und Antriebsmangel). In Anbetracht dieser Symptome stelle sich die Frage, ob eine depressive Entwicklung vorliege.
b) Die Vorinstanz hat in einlässlicher Würdigung der medizinischen Akten zum psychischen Zustand des Versicherten ausführlich dargelegt, aus welchen Gründen nicht auf das Gutachten des Dr. med. M._ vom 2. Dezember 1997 abgestellt werden kann. Es wird auf die schlüssigen Erwägungen im angefochtenen Entscheid verwiesen. Nicht nachvollziehbar ist insbesondere, aus welchen Gründen der Psychiater zum Schluss kommt, es liege keine Depression mit Krankheitswert vor. Sodann lässt sich anhand seiner Beurteilung nicht schlüssig beurteilen, ob eine seelische Abwegigkeit besteht, welche neben den eigentlichen Geisteskrankheiten ebenfalls zu den geistigen Gesundheitsschäden gehört und in gleicher Weise wie die körperlichen eine Invalidität im Sinne von <ref-law> zu bewirken vermag. Soweit er auf fehlende Sprachkenntnisse und Schulbildung des Beschwerdegegners sowie dessen ökonomisch belastende Familiensituation hinweist, welche er auf Grund der Gliederung seiner ergänzenden Stellungnahme vom 30. Dezember 1998 als invaliditätsfremde Faktoren einstuft, verkennt er jedenfalls, dass diesen "psychosozialen" Gesichtspunkten hinsichtlich der Frage, ob ein Gesundheitsschaden mit Krankheitswert vorliegt, nicht von vornherein jegliche Relevanz abgesprochen werden kann (vgl. Erw. 4b des in Pra 1997 Nr. 49 S. 252 auszugsweise wiedergegebenen Urteils F. vom 2. Dezember 1996, I 192/96; zur Bedeutung der so genannten invaliditätsfremden Faktoren vgl. <ref-ruling> Erw. 2c und ZAK 1989 S. 315, je mit Hinweisen). Ferner geht Dr. med. M._ von einer "rein theoretisch" vollen Arbeitsfähigkeit aus. Dabei bleibt offen, ob er damit zum Ausdruck bringen möchte, dass der Versicherte lediglich unter solchen Beeinträchtigungen leidet, die er bei Aufbietung allen guten Willens überwinden könnte, so dass er Arbeit in ausreichendem Masse zu verrichten vermöchte oder, im Gegenteil, die Verwertung der Arbeitsfähigkeit sozialpraktisch nicht mehr zumutbar ist (<ref-ruling>; AHI 1996 S. 302 Erw. 2a, S. 305 Erw. 1a, S. 308 Erw. 2a; ZAK 1992 S. 170 Erw. 2a mit Hinweisen).
Abgesehen davon, dass die Angaben des Dr. med. M._ für die streitigen Belange nicht umfassend sind, ergeben sich zudem, wie vom kantonalen Gericht zutreffend ausgeführt, auf Grund der Angaben des Dr. med. V._ vom 5. September 1998 Zweifel darüber, ob sich der psychische Gesundheitszustand des Beschwerdegegners im Zeitraum seit der Erstellung des psychiatrischen Gutachtens vom 2. Dezember 1997 bis zum Erlass des Verwaltungsaktes vom 14. Mai 1998 nicht doch in relevantem Ausmass verschlimmert haben kann.
c) Nach dem Gesagten erweist sich die in den Erwägungen des angefochtenen Entscheids geforderte Einholung einer weiteren psychiatrischen Expertise als unumgänglich. Daran ändert nichts, dass Dr. med. M._ inzwischen eine ergänzende Stellungnahme (vom 30. Dezember 1998) abgegeben hat. Denn diese vermag die bestehenden Unklarheiten nicht zu beheben. Auch hinsichtlich der seitherigen Entwicklung bis zum Verfügungserlass (14. Mai 1998) ist sie nicht aussagekräftig, da der Experte seine Ausführungen auf die am 1. Dezember 1997 durchgeführte Untersuchung stützt und er den Versicherten danach nicht mehr gesehen hat. Auf seine Vermutung, es werde sich seither nichts geändert haben, kann nicht abgestellt werden. Der Rückweisungsentscheid der Vorinstanz zur weiteren Abklärung erweist sich somit als rechtens.
Es bleibt auf das Folgende hinzuweisen. Das kantonale Gericht hat sich mit den geklagten somatischen Beschwerden nicht auseinandergesetzt. Offenbar ist es implizit davon ausgegangen, diese erreichten kein invalidenversicherungsrechtlich relevantes Ausmass. Dr. med. M._ gelangt in seiner ergänzenden Stellungnahme vom 30. Dezember 1998 denn auch zum Schluss, der Versicherte stelle Rückenschmerzen dar, die weder objektivierbar seien noch einem Krankheitsbild zugeordnet werden könnten. Die Befunde liessen ernsthaft an Simulation denken. Sodann stellt das Kantonsspital U._ sowohl im Untersuchungsbericht vom 21. November 1994 als auch im zuhanden der Y._ Versicherungen erstellten Gutachten vom 26. Oktober 1995 als Gesundheitsstörung chronifizierte lumbosakrale Schmerzen mit einer Diskrepanz zwischen subjektiven Beschwerden und objektiv erhebbaren klinischen und radiologischen Befunden fest. Die leichtgradige mediane Protrusion auf der Höhe L5/S1 erkläre die angegebenen Beschwerden bei weitem nicht. Mittels Skelettszintigraphie habe auch eine entzündliche Wirbelsäulenerkrankung weitgehend ausgeschlossen werden können. Die von den Ärzten aufgeworfene Frage, ob der Versicherte simuliere oder eventuell bestehende physische Gesundheitsstörungen aggraviere, lässt sich allerdings nicht allein auf Grund eines psychiatrischen Untersuchungsbefundes beantworten, sondern ist nach der gesamten Aktenlage, insbesondere auch in Berücksichtigung der somatischen Diagnosen, zu beurteilen. Daher wird der Verwaltung empfohlen - anstelle einer ausschliesslich psychiatrischen Untersuchung - eine sämtliche Aspekte des vorliegenden Falles umfassende medizinische Begutachtung, vorzugsweise in der hierfür spezialisierten Abklärungsstelle der Invalidenversicherung (MEDAS), anzuordnen, welche über den Gesundheitszustand des Versicherten in der relevanten Zeit (<ref-ruling> Erw. 1b mit Hinweisen) Auskunft zu geben hat. In deren Rahmen wird auch die vom Beschwerdegegner geklagte Schmerzproblematik zu untersuchen und zur Frage der Arbeitsfähigkeit Stellung zu nehmen sein.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird im Sinne der
Erwägungen abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Verwaltungsge-
richt des Kantons Luzern, Sozialversicherungsrecht-
liche Abteilung, und dem Bundesamt für Sozialversiche-
rung zugestellt.
Luzern, 12. Januar 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Die Gerichtsschreiberin: