Erwägungen:
1. X._ adressierte am 25. Februar 2011 eine Eingabe an das "ZH-Kantonale Zwangsmassnahmengericht, c/o Bundesanwaltschaft Taubenstrasse 16, 3011 Bern". Die Bundesanwaltschaft überwies diese Eingabe am 2. März 2011 an das Zwangsmassnahmengericht beim Obergericht des Kantons Zürich. Das Zwangsmassnahmengericht übermittelte die Eingabe an die III. Strafkammer des Obergerichts des Kantons Zürich, welche ein Beschwerdeverfahren eröffnete. Dieses Verfahren ist - soweit ersichtlich - noch hängig.
2. Mit Eingabe vom 17. März 2011 gelangte X._ an die Bundesanwaltschaft. Diese teilte ihm mit Schreiben vom 25. März 2011 u.a. mit, dass sie als Strafverfolgungsbehörde des Bundes ausschliesslich für die in den Artikeln 23 und 24 StPO aufgezählten strafbaren Handlungen (sog. Bundesgerichtsbarkeit) zuständig sei. Bei der vorliegenden Angelegenheit handle es sich um eine verwaltungs- bzw. zivilrechtliche Streitigkeit, die nicht in die sachliche Zuständigkeit der Strafverfolgungsbehörden des Bundes und damit der Bundesanwaltschaft falle. In Anbetracht der wiederholt erklärten Unzuständigkeit (vgl. Schreiben an das kantonale Zwangsmassnahmengericht vom 2. März 2011) würden allfällige weitere Zuschriften in derselben Angelegenheit ohne Antwort abgelegt.
3. Mit Eingabe vom 4. April 2011 gelangte X._ an das Bundesstrafgericht. Dieses retournierte ihm mit Schreiben vom 14. April 2011 seine Eingabe und teilte ihm u.a. mit, dass seine Eingabe offenkundig unter keinen der gesetzlich vorgesehenen Zuständigkeitsbereiche des Bundesstrafgerichts falle (Art. 23 bis 26 und Art. 39 StPO sowie Art. 35 und 37 StBOG).
4. X._ führt mit Eingabe vom 23. April 2011 Beschwerde beim Bundesgericht und beantragt die Aufhebung der Verfügung des Bundesstrafgerichts vom 14. April 2011 sowie der Verfügungen der Bundesanwaltschaft vom 2. und 25. März 2011. Das Bundesgericht verzichtet auf die Einholung von Vernehmlassungen.
5. Nach Art. 42 Abs. 2 BGG ist in der Begründung einer Beschwerde in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt.
Der Beschwerdeführer setzt sich nicht sachbezogen mit den Ausführungen des Bundesstrafgerichts und der Bundesanwaltschaft auseinander und vermag nicht aufzuzeigen, inwiefern diese Behörden seine Eingaben rechts- bzw. verfassungswidrig behandelt haben sollen. Da die vom Beschwerdeführer vorgebrachten Ausführungen keine hinreichende Auseinandersetzung mit den Entscheidgründen der von ihm beanstandeten Verfügungen darstellen, ist bereits mangels einer genügenden Begründung im Sinne von Art. 42 Abs. 2 BGG auf die Beschwerde nicht einzutreten. Somit kann offen bleiben, ob die weiteren Eintretensvoraussetzungen erfüllt sind.
Der Begründungsmangel ist offensichtlich, weshalb über die Beschwerde im vereinfachten Verfahren nach Art. 108 Abs. 1 lit. b BGG entschieden werden kann.
6. Da die Beschwerde nach dem Gesagten offensichtlich aussichtslos ist, ist das Gesuch um Gewährung der unentgeltlichen Rechtspflege abzuweisen (Art. 64 BGG). Dem Ausgang des Verfahrens entsprechend sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, der Schweizerischen Bundesanwaltschaft und dem Bundesstrafgericht schriftlich mitgeteilt.
Lausanne, 4. Mai 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Fonjallaz Pfäffli