Erwägungen:
1.
Mit Beschluss vom 6. Oktober 2016 ordnete die KESB für den Beschwerdeführer eine Vertretungsbeistandschaft mit Vermögensverwaltung an, nachdem dieser sich mit der Errichtung anfänglich einverstanden erklärt, seine Zustimmung in der Folge aber widerrufen hatte.
Mit Urteil vom 1. Februar 2018 wies der Bezirksrat Zürich die hiergegen erhobene Beschwerde ab, soweit sie nicht zurückgezogen worden war.
Mit Beschluss vom 26. Februar 2018 trat das Obergericht des Kantons Zürich auf die dagegen erhobene Beschwerde nicht ein.
Mit Schreiben vom 8. März 2018 (Poststempel 14. März 2018) hat sich der Beschwerdeführer an das Obergericht gewandt, welches die Eingabe im Sinne einer Beschwerde samt den Akten an das Bundesgericht weitergeleitet hat (<ref-law>). Mit zwei Eingaben vom 26. März 2018 (Postaufgabe) hat sich der Beschwerdeführer direkt an das Bundesgericht gewandt.
2.
Gegen den Beschluss vom 26. Februar 2018 ist die Beschwerde an das Bundesgericht grundsätzlich zulässig (Art. 72 Abs. 2 lit. b Ziff. 6, Art. 75, Art. 76, Art. 90 BGG).
Gemäss <ref-law> hat die Beschwerde Anträge zu enthalten und nach <ref-law> ist in der Beschwerdebegründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die Begründung muss sachbezogen sein und sich auf den Streitgegenstand beziehen und beschränken; die beschwerdeführende Partei hat in gezielter Auseinandersetzung mit den für das Ergebnis des angefochtenen Entscheides massgeblichen Erwägungen plausibel aufzuzeigen, welche Rechte bzw. Rechtsnormen die Vorinstanz verletzt haben soll (<ref-ruling> E. 2 S. 88 f.; <ref-ruling> E. 2 S. 116).
3.
Gemäss Angaben des Beschwerdeführers in der Beschwerde vom 26. März 2018 hat er den angefochtenen Beschluss erst am 15. März 2018 erhalten, da er sich stationär in der Klinik U._ aufgehalten habe. Was ihn veranlasst hat, sich mit Schreiben vom 8. März 2018 (Poststempel 14. März 2018) an das Obergericht zu wenden, bleibt demnach unklar. Die Eingabe besteht einzig aus dem Satz "Ich erhebe Konkurs auf Eine Beistandschaft von Frau B._ in Sozialdienst V._". Selbst wenn diese Eingabe als Beschwerde an das Bundesgericht (bzw. als Teil derselben) verstanden wird, enthält sie weder ein genügendes Begehren in der Sache noch eine ansatzweise Beschwerdebegründung (vgl. oben E. 2). Darauf ist nicht weiter einzugehen.
Der Beschwerdeführer wendet sich mit einer der beiden Eingaben vom 26. März 2018 gegen einen Beschluss bzw. Entscheid des Obergerichts vom 12. März 2018, während sich die andere Eingabe ausdrücklich gegen den Beschluss vom 26. Februar 2018 richtet. Ein Beschluss bzw. Entscheid des Obergerichts vom 12. März 2018 in Angelegenheiten des Beschwerdeführers existiert nicht. Die Eingabe richtet sich offensichtlich gegen den auf den 12. März 2018 datierten Empfangsschein betreffend den Beschluss vom 26. Februar 2018. Dieser Empfangsschein ist nicht anfechtbar. Die dagegen gerichtete Eingabe wird als Beschwerde gegen den Beschluss vom 26. Februar 2018 entgegengenommen.
Der Beschwerdeführer beantragt, die Beistandschaft aufzuheben. Dieser Antrag genügt den gesetzlichen Anforderungen. Allerdings erschöpft sich seine Beschwerdebegründung in der Behauptung, keine Beistandschaft zu benötigen. Er bringt vor, er sei immer noch in psychiatrischer Behandlung und könne nach seiner Entlassung seine finanziellen, administrativen und gesundheitlichen Angelegenheiten selbständig besorgen. Eine Auseinandersetzung mit den Erwägungen des Obergerichts fehlt (ungenügende Begründung der kantonalen Beschwerde; Notwendigkeit einer Beistandschaft in administrativen und finanziellen Angelegenheiten, da der Beschwerdeführer unter Kaufsucht leide, gegen ihn 38 Verlustscheine im Gesamtbetrag von über Fr. 68'000.-- bestünden und weitere Betreibungen angehoben worden seien [unter anderem durch die Krankenversicherung] und nicht ersichtlich sei, dass er im persönlichen Umfeld die nötige Unterstützung erhalte; Notwendigkeit der Beistandschaft in gesundheitlichen Angelegenheiten und für die soziale Betreuung aufgrund von Alkoholproblemen und da er selber angegeben habe, unter akuten Depressionen zu leiden und sich deshalb in die Psychiatrische Universitätsklinik begeben zu wollen, wo er bereits 2016 für einige Wochen gewesen sei, wobei auch im gesundheitlichen und sozialen Bereich keine Unterstützung aus seinem persönlichen Umfeld zu erwarten sei). Indem sich der Beschwerdeführer mit diesen Erwägungen nicht auseinandersetzt, sondern sich auf die Behauptung beschränkt, für sich selber sorgen zu können, genügt er den Begründungsanforderungen für eine Beschwerde offensichtlich nicht. Auf die Beschwerde ist demnach im vereinfachten Verfahren gemäss <ref-law> durch den Abteilungspräsidenten nicht einzutreten.
4.
Angesichts der konkreten Umstände wird auf die Erhebung von Gerichtskosten verzichtet (<ref-law>).

Demnach erkennt der Präsident:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Es werden keine Kosten erhoben.
3.
Dieses Urteil wird dem Beschwerdeführer, der KESB der Stadt Zürich und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 28. März 2018
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Der Gerichtsschreiber: Zingg