Ausschaffungshaft gemäss Art. 13b ANAG, hat sich ergeben: A.- Der aus der Bundesrepublik Jugoslawien stammende, 1977 geborene X._, albanischer Ethnie, ersuchte am 25. oder 26. Januar 1999 in der Schweiz um Asyl. Mit Verfügung vom 15. Oktober 1999 trat das Bundesamt für Flüchtlinge auf das Asylgesuch nicht ein, wies X._ aus der Schweiz weg und forderte ihn auf, die Schweiz bis zum 30. November 1999 zu verlassen. Am 8. Februar 2000 nahm ihn die Kantonspolizei Bern in Ausschaffungshaft. Mit Entscheid vom 10. Februar 2000 prüfte und genehmigte der Stellvertreter der Haftrichterin 2 des Haftgerichts III Bern-Mittelland (im Folgenden: der stellvertretende Haftrichter) die Ausschaffungshaft. B.- Dagegen hat X._ mit undatierter Eingabe in albanischer Sprache (eingegangen am 7. März 2000) beim Bundesgericht Beschwerde erhoben. Die Eingabe wurde von Amtes wegen übersetzt. X._ führt unter anderem aus, er verweigere seine Ausschaffung, und er wolle aus dem Gefängnis entlassen werden. Die Fremdenpolizei des Kantons Bern sowie die Haftrichterin 2 des Haftgerichts III Bern-Mittelland beantragen, die Beschwerde abzuweisen. Das Eidgenössische Justiz- und Polizeidepartement hat sich nicht vernehmen lassen. Der Beschwerdeführer hat sich nicht mehr zur Sache geäussert.