Sachverhalt:
A.
Die Invalidenversicherung gewährte dem 1982 geborenen A._ aufgrund eines Geburtsgebrechens (Ziff. 404 des Anhangs zur Verordnung vom 9. Dezember 1985 über Geburtsgebrechen) bis im Juli 2003 medizinische Massnahmen, Sonderschulung und Leistungen im Zusammenhang mit der erstmaligen beruflichen Ausbildung. Im Juli 2014 meldete er sich erneut bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen - insbesondere Einholung des psychiatrischen Gutachtens des Dr. med. B._ vom 11. Januar 2016 - und Durchführung des Vorbescheidverfahrens verneinte die IV-Stelle des Kantons Zürich mit Verfügung vom 27. September 2016 einen Leistungsanspruch.
B.
Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 5. Dezember 2017 ab.
C.
A._ lässt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen, unter Aufhebung des Entscheids vom 5. Dezember 2017 sei die IV-Stelle zu verpflichten, ihm die gesetzlichen Leistungen, insbesondere eine Invalidenrente, auszurichten.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1.
1.1. Gegenstand des vorinstanzlichen Verfahrens war einzig der Anspruch auf eine Invalidenrente. Soweit darüber hinaus - ohne nähere Begründung (vgl. Art. 42 Abs. 1 und 2 BGG) - "gesetzliche Leistungen" beantragt werden, ist auf die Beschwerde nicht einzutreten (vgl. Art. 86 Abs. 1 lit. d BGG; <ref-ruling> E. 1 S. 414 f.).
1.2. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 2 BGG).
2.
2.1. Bei der Beurteilung der Arbeits (un) fähigkeit stützt sich die Verwaltung und im Beschwerdefall das Gericht auf Unterlagen, die von ärztlichen und gegebenenfalls auch anderen Fachleuten zur Verfügung zu stellen sind. Ärztliche Aufgabe ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Hinsichtlich des Beweiswertes eines Arztberichtes ist entscheidend, ob dieser für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge sowie der medizinischen Situation einleuchtet und ob die Schlussfolgerungen der Experten begründet sind (<ref-ruling> E. 3.2 S. 195; <ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352 mit Hinweis).
2.2. Bei den vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit bzw. deren Veränderung in einem bestimmten Zeitraum handelt es sich grundsätzlich um Entscheidungen über Tatfragen (<ref-ruling> E. 3.2 S. 397 ff.). Die konkrete Beweiswürdigung stellt ebenfalls eine Tatfrage dar. Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln eine frei überprüfbare Rechtsfrage (für viele: <ref-ruling> E. 3.2 und 4 S. 397 ff.; SVR 2014 IV Nr. 1 S. 1, 9C_228/2013 E. 1.2; 2014 IV Nr. 20 S. 72, 9C_460/2013 E. 1.3).
3.
3.1. Das kantonale Gericht hat dem Gutachten des Dr. med. B._ Beweiskraft beigemessen und gestützt darauf festgestellt, dass der Beschwerdeführer in der angestammten Tätigkeit als Strassenbauer zu 50 % und anschliessend - nach einer Einarbeitungszeit von einigen Monaten - zu 70 % arbeitsfähig sei. Sodann ist es aufgrund eines Prozentvergleichs von einem Invaliditätsgrad von 30 % ausgegangen, weshalb es einen Rentenanspruch verneint hat.
Der Beschwerdeführer macht geltend, eine Arbeitsfähigkeit von 70 % als Strassenbauer resp. im ersten Arbeitsmarkt lasse sich nicht auf das Gutachten des Dr. med. B._ abstützen. Die vorinstanzliche Sachverhaltsfeststellung betreffend die Arbeitsfähigkeit sei willkürlich.
3.2. Dr. med. B._ berücksichtigte insbesondere, dass der Versicherte nach Abschluss der Lehre als Bauzeichner (2003) eine Zusatzlehre als Strassenbauer abgeschlossen hatte (2006) und anschliessend - zwischen August 2006 und November 2013 - in 15 Anstellungen für verschiedene Arbeitgeber tätig gewesen war. Aus diesen Arbeitsverhältnissen schloss der Experte ohne Weiteres auf eine Ressource im Sinne "einer gewissen beruflichen Flexibilität". Es fällt indessen auf, dass die Arbeitsverhältnisse immer befristet waren und keines davon länger als sechs Monate dauerte. Angesichts der aktenkundigen und versicherungsrelevanten Probleme des Versicherten in Kindheit und Jugend und des gesundheitlichen Verlaufs ab Juni 2014 stellt sich die Frage, ob die berufliche Entwicklung nicht als Ausdruck einer psychischen Problematik im Sinne einer beeinträchtigten Anpassungs- und Leistungsfähigkeit hätte gedeutet werden können resp. müssen. Dazu lässt sich dem Gutachten nichts entnehmen.
Sodann holte der Experte den Bericht vom 12. November 2015 des sozialtherapeutischen Zentrums C._ ein, wo der Versicherte seit März resp. April 2015 arbeitete und wohnte. Danach sei es "derzeit" schwer vorstellbar, dass der Versicherte im ersten Arbeitsmarkt arbeiten könne; ein raues Arbeitsklima und hoher Arbeitsdruck würden ihm sehr zusetzen. Dr. med. B._ gab diesen Bericht im Gutachten wieder, jedoch ohne sich damit näher zu befassen. Immerhin betrachtete er die im geschützten Rahmen zu 50 % ausgeübte "aktuelle" Tätigkeit als Gärtner/Gartenbauer als "sinnvoll". Weshalb er hingegen - nachdem der Versicherte bereits seit über acht Monaten beim Zentrum C._ gearbeitet hatte - von wenig Berufserfahrung und Routine in den Abläufen ausging, leuchtet nicht ein und ist mit Blick auf die unterstellte "berufliche Flexibilität" auch widersprüchlich. Vor diesem Hintergrund ist die vorinstanzliche Annahme, dass hinsichtlich der angestammten Tätigkeit als Strassenbauer im freien Arbeitsmarkt von einer höheren Arbeitsfähigkeit ausgegangen werden könne, da dem Versicherten die diesbezüglichen Arbeitsabläufe bekannt seien, nicht nachvollziehbar.
Weiter legte der Gutachter dar, dass für die Tätigkeit als Strassenbauer ein "50-prozentiger Wiedereingliederungsplan angedacht werden" könne. Im optimalen Fall handle es sich um eine angepasste Tätigkeit, wo der Arbeitgeber über die Einschränkungen informiert sei und Freiräume für Erholungsphasen ermögliche. Sodann legte er dar, dass "aktuell in einer angepassten Tätigkeit im Strassenbau initial" eine Arbeitsfähigkeit von 50 % "denkbar wäre", "steigerbar bis 70 %, im optimalen Fall angepasst". An anderer Stelle führte er aus, dass nach seiner Meinung der Explorand als Strassenbauer " (optimal mit Anpassungselementen) " zu 50 % ab dem 6. September 2014 "arbeiten konnte", was steigerbar auf 70 % "wäre". Dabei erkannte er insbesondere im Vergleich zu den Einschätzungen der Psychiatrischen Klinik D._ "keine wesentlichen Diskrepanzen". Die Ärzte der Klinik D._ attestierten keine Arbeitsfähigkeit von 50 % (oder mehr) für die Tätigkeit im freien Arbeitsmarkt als Strassenbauer; vielmehr gingen sie von einer Einschränkung von 50 % für die (geschützte) Arbeit im Zentrum C._ aus (vgl. Berichte vom 14. Januar und 10. Juli 2015). Das Gutachten des Dr. med. B._ enthält somit weder in Bezug auf die Art der zumutbaren Tätigkeit (freier Arbeitsmarkt, Eingliederungsmassnahme oder geschützter Arbeitsplatz) noch hinsichtlich des Umfangs eine klare und nachvollziehbare Einschätzung der Arbeitsfähigkeit.
3.3. Bereits nach dem Gesagten ist die Beweiskraft des Gutachtens des Dr. med. B._ erschüttert (E. 2.1). Die darauf beruhenden vorinstanzlichen Feststellungen sind nicht verbindlich (E. 1.2). Die IV-Stelle wird eine weitere medizinische Begutachtung zu veranlassen und anschliessend über den Rentenanspruch des Versicherten erneut zu entscheiden haben. Die Beschwerde ist begründet.
4.
Dem Ausgang des Verfahrens entsprechend hat die Beschwerdegegnerin die Kosten zu tragen (Art. 66 Abs. 1 BGG). Der Beschwerdeführer hat Anspruch auf eine Parteientschädigung (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 5. Dezember 2017 und die Verfügung der IV-Stelle des Kantons Zürich vom 27. September 2016 werden aufgehoben. Die Sache wird zu neuer Verfügung an die IV-Stelle des Kantons Zürich zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4.
Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 12. Oktober 2018
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Meyer
Die Gerichtsschreiberin: Dormann