Sachverhalt:
A.
A.A._, am 1. Januar 1986 geborener Staatsangehöriger von Somalia, reiste am 4. September 2003 illegal in die Schweiz ein und stellte ein Asylgesuch. Dieses wurde am 3. Februar 2004 abgewiesen, indessen wurde die vorläufige Aufnahme angeordnet. Schliesslich wurde ihm am 23. März 2009 aus humanitären Gründen eine Aufenthaltsbewilligung erteilt. Am 17. Dezember 2010 heiratete er seine 1988 geborene Landsfrau B.A._, welche in Bulgarien als Flüchtling anerkannt ist. Das Ehepaar hat die vier gemeinsamen Kinder C.A._ (geb. 6.9.2011), D.A._ (geb. 30.12.2012), E.A._ (geb. 17.5.2015) und F.A._ (geb. 19.8.2017). Am 31. August 2011 wies das Migrationsamt des Kantons St. Gallen ein erstes Gesuch von A.A._ um Familiennachzug für seine Ehefrau ab. In der Folge, am 5. März 2013 und am 1. März 2014, ergingen gegen die Ehefrau (und die damals zwei Kinder) zwei Entscheide des Bundesamtes für Migration (5. März 2013 Nichteintreten auf ein Asylgesuch und Wegweisung; 1. März 2014 Abweisung Wiedererwägungsgesuch). Diese wurden durch die Urteile des Bundesverwaltungsgerichts vom 17. Januar 2014 bzw. vom 7. Mai 2014 rechtskräftig. Ein zweites Gesuch um Familiennachzug für die Ehefrau und die (damals zwei) Kinder wurde am 26. November 2014 abgewiesen; der dagegen erhobene Rekurs (Entscheid des Sicherheits- und Justizdepartements des Kantons St. Gallen vom 21. Januar 2016) blieb erfolglos, und am 20. Dezember 2016 wies das Verwaltungsgericht des Kantons St. Gallen die diesbezügliche Beschwerde ab; gegen diesen verwaltungsgerichtlichen Entscheid wurde kein Rechtsmittel ergriffen. Am 1. März 2017 stellte A.A._ wiederum ein Gesuch um Familiennachzug; mit weiteren Eingaben unter anderem vom 6. und vom 21. März 2017 ersuchte er um den Erlass einer erstmaligen Wegweisungsverfügung durch das Migrationsamt. Am 6. April 2017 trat das Migrationsamt auf die als Wiederwägungsgesuch betrachteten Anliegen nicht ein; dabei hielt es unter anderem fest, dass der Wegweisungsvollzug nach Bulgarien bzw. entsprechende Hindernisse im Urteil des Verwaltungsgerichts vom 20. Dezember 2016 ausführlich geprüft worden seien. Der gegen diese Nichteintretensverfügung erhobene Rekurs an das Sicherheits- und Justizdepartement des Kantons St. Gallen blieb erfolglos (Entscheid vom 15. November 2017), und mit Zirkulationsentscheid vom 17. Januar 2018 wies das Verwaltungsgericht des Kantons St. Gallen die gegen den Rekursentscheid erhobene Beschwerde ab, soweit darauf einzutreten und sie nicht infolge Gegenstandslosigkeit abzuschreiben war (Ziff. 1 des Dispositivs). Die amtlichen Kosten des Beschwerdeverfahrens wurden A.A._ auferlegt; der Betrag ging zufolge Gewährung der unentgeltlichen Rechtspflege zulasten des Staates; auf die Erhebung wurde verzichtet (Ziff. 2 des Dispositivs). Ausseramtliche Kosten wurden nicht entschädigt (Ziff. 3 des Dispositivs).
B.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiärer Verfassungsbeschwerde vom 22. Februar 2018 beantragen A.A._ und B.A._ sowie ihre Kinder dem Bundesgericht, die Erkenntnisse Ziff. 1, Ziff. 2 Satz 1 und Ziff. 3 des Entscheids des Verwaltungsgerichts seien aufzuheben; es sei festzustellen, dass Erkenntnis Ziff. 1 des verwaltungsgerichtlichen Entscheids völkerrechtswidrig und verfassungswidrig sei; es sei festzustellen, dass keine Wegweisungsverfügung vorliege und dass die kantonalen Behörden zu Unrecht den Erlass einer Wegweisungsverfügung verweigerten; eventuell sei das Verwaltungsgericht anzuweisen, darüber zu befinden, ob noch nie eine erstinstanzliche Wegweisungsverfügung ergangen sei
Die kantonalen Akten sind eingeholt, ein Schriftenwechsel ist nicht angeordnet worden.
Mit dem vorliegenden instanzabschliessenden Urteil wird das Gesuch um aufschiebende Wirkung gegenstandslos.

Erwägungen:
1.
Die Beschwerdeführer erheben sowohl Beschwerde in öffentlich-rechtlichen Angelegenheiten als auch subsidiäre Verfassungsbeschwerde.
1.1. Das Bundesgericht prüft seine Zuständigkeit bzw. die Zulässigkeit eines Rechtsmittels gemäss <ref-law> von Amtes wegen und mit freier Kognition (<ref-ruling> E. 1 S. 476; <ref-ruling> E. 1, 471 E. 1 S. 475; <ref-ruling> E. 1). Ist jedoch die Zulässigkeit eines Rechtsmittels zweifelhaft, beschlägt die der Beschwerde führenden Partei obliegende Begründungspflicht gemäss <ref-law> grundsätzlich auch die Eintretensvoraussetzungen; die für deren Vorliegen massgeblichen Aspekte müssen diesfalls aufgezeigt werden (vgl. <ref-ruling> E. 2.2.3 S. 48; <ref-ruling> E. 1.1 S. 251, 353 E. 1 S. 356, 400 E. 2 S. 404; s. auch BGE <ref-ruling> E. 1.2 S. 47). Hängt die Zulässigkeit des Rechtsmittels vom Bestehen eines Rechtsanspruchs ab, ist ein potenzieller Anspruch in vertretbarer Weise geltend zu machen (<ref-ruling> E. 1.1 S. 332; <ref-ruling> E. 1.1 S. 179).
1.2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist gemäss <ref-law> unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch Völkerrecht einen Anspruch einräumt (Ziff. 2), sowie betreffend die Wegweisung (Ziff. 4).
Die Beschwerdeführer halten ausdrücklich fest (Beschwerdeschrift Ziff. II.8) : "Gegenstand der Beschwerde ist demgemäss weder die Frage des Familiennachzuges noch die Frage nach Wiedererwägungsgründen, sondern der erstmalige Erlass einer Wegweisungsverfügung." Es geht mithin ausschliesslich um die Frage der Wegweisung. Damit ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gemäss <ref-law> grundsätzlich unzulässig, ungeachtet der Frage eines Rechtsanspruchs auf Bewilligung. Dass die Beschwerdeführer an anderer Stelle unkonsequenterweise die Frage eines Bewilligungsanspruchs stellen, ist damit unerheblich. Ohnehin reichte das dort (Beschwerdeschrift Ziff. III.1) Ausgeführte angesichts des ausländerrechtlichen Status der Beschwerdeführer und im Lichte der Erwägungen des Verwaltungsgerichts in seinem Beschwerdeentscheid vom 20. Dezember 2016 (dort E. 3) nicht aus, um einen Bewilligungsanspruch in vertretbarer Weise darzutun.
Als bundesrechtliches Rechtsmittel steht allein die subsidiäre Verfassungsbeschwerde zur Verfügung, mit welcher die Verletzung verfassungsmässiger Rechte gerügt werden kann (<ref-law>). Derartige Rügen bedürfen spezifischer Geltendmachung und Begründung (Art. 106 Abs. 2 in Verbindung mit <ref-law>).
2.
2.1. Die Beschwerdeführer machen hauptsächlich geltend, dass nie eine Wegweisungsverfügung ergangen bzw. nie (jedenfalls aber völlig unzureichend) über das Bestehen von Wegweisungshindernissen befunden worden sei; mangels eines erstinstanzlichen Wegweisungsentscheids wäre über die Wegweisungsbelange auch nicht durch die Rechtsmittelinstanzen zu befinden gewesen. Nach ihrer Auffassung stand dabei namentlich die Rechtskraft des Entscheids des Verwaltungsgerichts vom 20. Dezember 2016 einer nunmehrigen (angeblich erstmaligen) vollständigen Überprüfung der Wegweisungsbelange durch die zuständige Behörde nicht entgegen. Gerügt wird dabei die Verletzung von Art. 29 Abs. 1 und 2 BV.
2.2.
2.2.1. Gemäss Art. 64 Abs. 1 lit. c AuG erlassen die zuständigen Behörden eine ordentliche Wegweisungsverfügung, wenn einer Ausländerin oder einem Ausländer eine Bewilligung verweigert oder nach bewilligtem Aufenthalt widerrufen oder nicht verlängert wird. Gemäss Art. 26b Abs. 1 der Verordnung vom 11. August 1999 über den Vollzug der Weg- und Ausweisung sowie der Landesverweisung von ausländischen Personen (VVWAL; SR 142.281) in der Fassung vom 24. November 2010 enthält die Wegweisungsverfügung die Verpflichtung der ausländischen Person, die Schweiz zu verlassen (lit. a); den Zeitpunkt, bis zu dem sie die Schweiz verlassen haben muss (lit. b); die Androhung von Zwangsmassnahmen im Unterlassungsfall (lit. c). Die Wegweisungsverfügung muss begründet und mit einer Rechtsmittelbelehrung versehen sein (Art. 26b Abs. 2 VVWAL).
2.2.2. Das zweite Familiennachzugsgesuch des Beschwerdeführers wurde mit Verfügung des Migrationsamts des Kantons St. Gallen vom 26. November 2014 abgewiesen. Eine Wegweisung wurde dabei nicht verfügt, entsprechend auch keine Ausreisefrist angesetzt; es wurde bloss in den Erwägungen festgehalten, dass es der Ehefrau und den Kindern zuzumuten sei, in Bulgarien zu leben. Mit seinem Entscheid vom 21. Januar 2016, womit es den Rekurs gegen die Verfügung des Migrationsamtes abwies, lud das Sicherheits- und Justizdepartement des Kantons St. Gallen das Migrationsamt ein, der Ehefrau und den (damals drei) Kindern eine Ausreisefrist anzusetzen, und stellte fest, dass danach die Wegweisung zwangsweise vollzogen werden könne. In E. 6 des Rekursentscheids prüfte es, ob dem Vollzug der Wegweisung nach Bulgarien Hindernisse entgegenstehen würden, was es verneinte. Inhaltlich erfüllte dieser Rekursentscheid die Anforderungen von Art. 26b VVWAL. In der dagegen erhobenen Beschwerde an das Verwaltungsgericht stellten die Beschwerdeführer nebst dem Antrag auf Erteilung einer Aufenthaltsbewilligung an die Ehefrau/Mutter und die Kinder unter anderem das Begehren, eventuell sei der Wegweisungsvollzug als unzulässig, subeventuell als unzumutbar zu erklären, wozu in der Rechtsschrift umfangreich argumentiert wurde. Das Verwaltungsgericht wies die Beschwerde sowohl in Bezug auf die Bewilligungsverweigerung als auch betreffend die Wegweisung bzw. deren Vollzug ab. In seinem Entscheid vom 20. Dezember 2016 befasste es sich mit der Frage der Zulässigkeit und Zumutbarkeit des Wegweisungsvollzugs (E. 5). Der Entscheid wurde nicht angefochten. Damit wurde - entgegen der Behauptung der Beschwerdeführer - die Wegweisung angeordnet und deren Vollziehbarkeit bejaht bzw. im Beschwerdeverfahren vor Verwaltungsgericht bestätigt. Allerdings wurde die Wegweisung erst durch die Rekursinstanz angeordnet. Ob dies zulässig war und, wie die Beschwerdeführer geltend machen, mit der Verfügung des Migrationsamts vom 26. November 2014 bloss ein Teilentscheid über den Familiennachzug vorlag, weshalb die Wegweisungsfrage nicht zum Gegenstand des nachfolgenden Rechtsmittelverfahrens habe gemacht werden können, ist heute nicht mehr zu prüfen: Die Beschwerdeführer hatten dies in der gegen den seinerzeitigen Rekursentscheid vom 21. Januar 2016 erhobenen Beschwerde an das Verwaltungsgericht nicht geltend gemacht, vielmehr gingen sie auf die im Rekursentscheid behandelte Frage des Wegweisungsvollzugs ein. Alsdann haben sie den diesbezüglichen Beschwerdeentscheid des Verwaltungsgerichts nicht angefochten; spätestens in einer Beschwerde gegen diesen Entscheid hätte gerügt werden müssen, dass das Sicherheits- und Justizdepartement die Wegweisung bzw. den Wegweisungsvollzug nicht zum Verfahrensgegenstand hätte machen dürfen; ebenso wäre dannzumal zu rügen gewesen, die diesbezügliche Prüfung sei mangelhaft ausgefallen.
Es ist unter diesen Umständen von einem rechtskräftigen Entscheid über die Wegweisung bzw. deren Vollzug auszugehen.
Die Rüge, Art. 29 Abs. 1 und 2 BV seien verletzt, ist offensichtlich unbegründet.
2.3. Im mit dem Gesuch vom 1. März 2017 eingeleiteten Verfahren stellte sich unter diesen Umständen, und zwar auch in Bezug auf die Frage des Wegweisungsvollzugs, ausschliesslich die Frage, ob die Voraussetzungen für eine Wiedererwägung gegeben sind. Der in diesem Zusammenhang erhobene Einwand der Beschwerdeführer, das erneute Nachzugsgesuch vom 1. März 2017 und ein entsprechendes Wiedererwägungsverfahren sei mit dem kurz darauf gestellten Begehren um Erlass einer erstmaligen Wegweisungsverfügung hinfällig geworden, erscheint unbehelflich. Es ist nicht ersichtlich, inwiefern die Anhandnahme eines Wiedererwägungsverfahrens sich unter dem Aspekt verfassungmässige Rechte beanstanden liesse.
Das Verwaltungsgericht legt in E. 2 des angefochtenen Entscheids dar, unter welchen Voraussetzungen Anspruch auf eine Wiedererwägung besteht. Erforderlich wäre, dass sich die im Hinblick auf die Rechtsanwendung massgebliche Sach- oder Rechtslage gegenüber derjenigen im Zeitpunkt des rechtskräftigen früheren Entscheids des Verwaltungsgerichts (hier der 20. Dezember 2016) wesentlich geändert hat. Das Verwaltungsgericht kommt, gleich wie das Sicherheits- und Justizdepartement im Rekursentscheid vom 15. November 2017 (dort E. 3), zum Schluss, dass dies vorliegend nicht der Fall sei. Die Beschwerdeführer setzen sich mit diesen Erwägungen nicht auseinander und erheben zu diesem begrenzten Verfahrensgegenstand keine den Anforderungen von <ref-law> genügende Rügen; vielmehr argumentieren sie - fälschlicherweise (s. E. 2.2.2) - so, als fehlte es an einem rechtskräftigen Entscheid über die Wegweisung und deren Vollzug.
3.
Soweit die Beschwerdeführer rügen, die Vorinstanz habe ihnen zwar die kostenlose Prozessführung gewährt, nicht aber die unentgeltliche Verbeiständung, fehlt es an einer hinreichenden Begründung zur diesbezüglichen E. 4 des vorinstanzlichen Entscheids.
4.
Soweit überhaupt rechtsgenügende Rügen erhoben werden (E. 2.1. und 2.2), erweisen sie sich als offensichtlich unbegründet. Die als subsidiäre Verfassungsbeschwerde zulässige Beschwerde ist abzuweisen.
5.
Dem auch für das bundesgerichtliche Verfahren gestellten Gesuch um unentgeltliche Rechtspflege und Verbeiständung kann schon darum nicht entsprochen werden, weil die Beschwerde aussichtslos erschien.
Damit sind die Gerichtskosten den Beschwerdeführern nach Massgabe von Art. 65 sowie Art. 66 Abs. 1 erster Satz und Abs. 5 BGG aufzuerlegen.

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird nicht eingetreten.
2.
Die subsidiäre Verfassungsbeschwerde wird abgewiesen.
3.
Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
4.
Die Gerichtskosten von Fr. 1'000.-- werden den Beschwerdeführern unter solidarischer Haftung auferlegt.
5.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons St. Gallen und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 13. April 2018
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Feller