Sachverhalt:
A.
Der 1952 geborene A._, Betreiber einer Gärtnerei und Anbieter von Bestattungsdienstleistungen, meldete sich im September 2005 unter Hinweis auf Rückenschmerzen erstmals bei der Invalidenversicherung zum Rentenbezug an. Die IV-Stelle des Kantons St. Gallen verneinte mit rechtskräftiger Verfügung vom 12. Juni 2007 einen Rentenanspruch mangels eines genügenden Invaliditätsgrades. Im Oktober 2010 meldete sich A._ erneut für eine Invalidenrente an, wobei er eine zwischenzeitlich eingetretene gesundheitliche Verschlechterung geltend machte. Die IV-Stelle trat auf die Neuanmeldung ein und nahm wiederum Sachverhaltsabklärungen vor. Mit Verfügung vom 29. Oktober 2013 verneinte sie einen Rentenanspruch mit der Begründung, der Sachverhalt habe sich seit der Verfügung vom 12. Juni 2007 weder medizinisch noch wirtschaftlich verschlechtert.
B.
Die von A._ hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 10. Februar 2016 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._, in Aufhebung des vorinstanzlichen Entscheides sei ihm ab 1. Juni 2011 eine ganze Invalidenrente zuzusprechen; eventuell sei die Verwaltung anzuweisen, weitere Abklärungen vorzunehmen.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wird nicht durchgeführt.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280; vgl. auch <ref-ruling> E. 1 S. 236; <ref-ruling> E. 1.1 S. 137 f.).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Streitig ist, ob nach der vorgängigen rechtskräftigen Verneinung eines Rentenanspruchs ein solcher auf die erfolgte Neuanmeldung hin zu bejahen ist. Das setzt, analog zur Rentenrevision (<ref-law>), eine anspruchsrelevante Änderung der tatsächlichen Verhältnisse voraus (<ref-ruling> E. 3a; vgl. auch <ref-ruling> E. 5.3 S. 588). Dabei stellt das Sozialversicherungsgericht grundsätzlich auf den bis zum Zeitpunkt des Erlasses der streitigen Verfügung (hier: 29. Oktober 2013) eingetretenen Sachverhalt ab (<ref-ruling> E. 2.1 S. 243). Im vorinstanzlichen Entscheid sind sodann die Bestimmungen und Grundsätze zu den Begriffen Invalidität und Erwerbsunfähigkeit, zum nach dem Invaliditätsgrad abgestuften Rentenanspruch (mit den vorausgesetzten Mindestinvaliditätsgraden von 40 % für eine Viertelsrente, 50 % für eine halbe Rente, 60 % für eine Dreiviertelsrente und 70 % für eine ganze Rente), zur Invaliditätsbemessung mittels Einkommensvergleichs, zur Schadenminderungspflicht der versicherten Person, zur Aufgabe von Arzt oder Ärztin bei der Invaliditätsbemessung, zur Beweiswürdigung sowie zu den Anforderungen an beweiswertige ärztliche Berichte oder Gutachten zutreffend dargelegt. Darauf wird verwiesen.
3.
3.1. Die IV-Stelle bestimmte in der Verfügung vom 12. Juni 2007 den Invaliditätsgrad durch Einkommensvergleich. Sie schloss wegen der Rückenproblematik auf eine 50%ige Einschränkung in den Tätigkeiten als Gärtner und Leichenbestatter. Sodann erachtete sie es als für den Versicherten zumutbar, in einer leidensangepassten Tätigkeit eine Leistung von 80 % zu erbringen. Gestützt auf diese Restarbeitsfähigkeit in angepasster Tätigkeit setzte sie das trotz gesundheitsbedingter Beeinträchtigung zumutbarerweise noch erzielbare Einkommen (Invalideneinkommen), unter Verwendung von Tabellenlöhnen und Berücksichtigung eines leidensbedingten Abzuges, auf Fr. 41'990.- fest. Die Gegenüberstellung mit dem angenommenen Einkommen ohne Behinderung (Valideneinkommen) von Fr. 62'700.- führte zu einem Invaliditätsgrad von 33 %. Die Verfügung erwuchs unangefochten in Rechtskraft.
3.2. Umstritten ist, ob sich im massgeblichen Zeitraum zwischen der Verfügung vom 12. Juni 2007 und der auf die Neuanmeldung hin ergangenen Verfügung vom 29. Oktober 2013 eine anspruchsrelevante Verschlechterung ergeben hat. Verwaltung und kantonales Gericht haben dies sowohl in medizinischer als auch in wirtschaftlicher Hinsicht verneint.
3.2.1. Bezüglich Gesundheitszustand hat die Vorinstanz namentlich auf den Bericht des Neurochirurgen Dr. med. B._ vom 14. Februar 2012 abgestellt. Gemäss diesem Bericht hat Dr. med. B._ den Versicherten wegen seit Anfang 2011 exazerbierten Rückenschmerzen am 23. Mai 2011 operiert. Der Neurochirurg bestätigt, dass ab 1. September 2011 in der Tätigkeit als Bestatter sowie Gärtner wieder eine 50%ige Arbeitsfähigkeit und ab 1. Oktober 2011 in einer leidensadaptierten Tätigkeit eine 100%ige Arbeitsfähigkeit mit leichten Einschränkungen von 20 % bestanden habe. Das kantonale Gericht geht gestützt auf diese fachärztliche Einschätzung davon aus, dass - abgesehen von einer postoperativen vorübergehenden vollen Arbeitsunfähigkeit von Mai bis August 2011 - keine gesundheitliche Verschlechterung seit der Verfügung vom 12. Juni 2007 eingetreten sei. Es verneint auch eine in der Zeit vom Bericht des Dr. med. B._ bis zur Verfügung vom 29. Oktober 2013 hinzugekommene Verschlechterung des Gesundheitszustandes. Der von der Verwaltung vorgenommene Betätigungsvergleich rechtfertige kein anderes Ergebnis, zumal er allein auf den Angaben des Versicherten beruhe.
In der Beschwerde wird nichts vorgebracht, was diese Sachverhaltsfeststellungen als offensichtlich unrichtig oder in anderer Weise bundesrechtswidrig erscheinen liesse. Die Einwände des Versicherten betreffen denn auch hauptsächlich die wirtschaftlichen Auswirkungen der gesundheitlichen Beeinträchtigung.
3.2.2. Die Verwaltung ging in der Verfügung vom 12. Juni 2007 von der Restarbeitsfähigkeit in einer angepassten Tätigkeit aus und bestimmte das Invalideneinkommen entsprechend nicht nach Massgabe der Einkünfte aus dem vom Beschwerdeführer selbst geführten Betrieb, sondern gestützt auf Tabellenlöhne. Der Versicherte hat in der Folge keine derartige Tätigkeit aufgenommen, sondern seinen Betrieb weitergeführt. In der Verfügung vom 29. Oktober 2013 hat die Verwaltung dazu ausgeführt, das Betriebseinkommen habe sich inzwischen sogar erhöht. Eine wirtschaftliche Verschlechterung sei daher nicht eingetreten. In der vorinstanzlichen Beschwerde hat der Versicherte bestätigt, sein Betrieb habe durchschnittlich beinahe denselben Gewinn erzielt wie in den Jahren 2000 bis 2003. Für das Jahr 2011 hat er sogar einen höheren Gewinn angegeben. Unter diesen Umständen hat die Verwaltung eine wirtschaftliche Verschlechterung zu Recht verneint. Daran ändert nichts, wenn - wie vom Beschwerdeführer geltend gemacht - im Laufe der Zeit seine Ehefrau mehr im Betrieb mitgearbeitet hat und auch eine Mitarbeiterin angestellt wurde. Das kann nicht mit einem invaliditätsrelevanten Umstand begründet werden, zumal im massgeblichen Zeitraum der Betriebsgewinn wie erwähnt etwa gleich geblieben ist und der Gesundheitszustand des Versicherten sich, mit Ausnahme einiger Monate, nicht verschlechtert hat. In der letztinstanzlichen Beschwerde wird sodann vorgebracht, der Betrieb habe per Juni 2015 eingestellt werden müssen, da der Versicherte immer weniger darin habe arbeiten können. Dabei handelt es sich indessen um eine unzulässige neue Behauptung einer Tatsache (<ref-law>), wobei letztere überdies erst nach der die gerichtliche Überprüfung zeitlich abschliessenden Verfügung vom 29. Oktober 2013 (E. 2 hievor) eingetreten wäre.
3.2.3. Der Beschwerdeführer äussert sich ausführlich zur - von ihm ausgeschlossenen - Zumutbarkeit eines Wechsels vom eigenen Betrieb in eine angestellte Tätigkeit und zu den diesbezüglichen Erwägungen des kantonalen Gerichts. Darauf ist nicht einzugehen, da eine wirtschaftliche Verschlechterung schon nach dem zuvor Gesagten zu verneinen ist. Das gilt auch für die - ohnehin nicht stichhaltige - Rüge, die Vorinstanz sei diesbezüglich ihrer Begründungspflicht nicht nachgekommen. Festzuhalten ist immerhin, dass bereits in der rechtskräftigen Verwaltungsverfügung vom 12. Juni 2007 von der Zumutbarkeit eines solchen Berufswechsels ausgegangen wurde.
3.3. Ein Rentenanspruch auf die Neuanmeldung hin wurde somit mangels einer relevanten Veränderung im massgeblichen Zeitraum zu Recht verneint. Weiterer Abklärungen bedarf es nicht. Die Beschwerde ist abzuweisen.
4.
Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 7. Juni 2016
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Lanz