Erwägungen:
1. 1.1 X._ (geb. 1979) stammt aus Togo. Am 22. Oktober 2003 reiste er illegal in die Schweiz ein und ersuchte erfolglos um Asyl. Am 29. April 2005 heiratete X._ die Schweizer Bürgerin Y._, worauf ihm die Aufenthaltsbewilligung zum Verbleib bei dieser erteilt wurde. Der gemeinsame Haushalt wurde am 14. Juli 2007 aufgegeben (vgl. Trennungsvereinbarung vom 13. November 2007) und seither nicht wieder aufgenommen; die kinderlos gebliebene Ehe ist am 12. November 2010 geschieden worden.
1.2 Mit Verfügung vom 28. April 2010 lehnte das Amt für Migration und Personenstand des Kantons Bern die Verlängerung der Aufenthaltsbewilligung von X._ ab und setzte ihm eine Ausreisefrist an. Die gegen diese Verfügung erhobene Beschwerde an die Polizei- und Militärdirektion des Kantons Bern blieb erfolglos. Mit Urteil vom 31. August 2011 wies das Verwaltungsgericht des Kantons Bern die gegen den Direktionsentscheid vom 22. Februar 2011 erhobene Beschwerde ebenfalls ab, unter Neuansetzung der Ausreisefrist auf den 20. Oktober 2011.
1.3 Vor Bundesgericht beantragt X._, den Entscheid des Verwaltungsgerichts aufzuheben, ihm die Aufenthaltsbewilligung zu verlängern oder eventuell die Sache an die Vorinstanz zurückzuweisen. Im Weiteren ersucht er um unentgeltliche Rechtspflege. Mit Verfügung vom 4. Oktober 2011 erkannte der Präsident der II. öffentlich-rechtlichen Abteilung der Beschwerde aufschiebende Wirkung zu.
2. Soweit sie überhaupt den gesetzlichen Begründungsanforderungen genügt (Art. 42 i.V.m. Art. 106 Abs. 2 BGG) und sie sich nicht auf unzulässige Noven beruft (Art. 99 BGG), erweist sich die Eingabe, welche als Beschwerde in öffentlich-rechtlichen Angelegenheiten entgegenzunehmen ist (Urteil 2C_304/2009 vom 9. Dezember 2009 E. 1.1, nicht publ. in: BGE 136 II 113 ff.), als offensichtlich unbegründet. Sie kann deshalb ohne Weiterungen im vereinfachten Verfahren nach Art. 109 BGG erledigt werden:
2.1 Ausländische Ehegatten von Schweizer Bürgern haben unter Vorbehalt von Art. 51 Abs. 1 AuG (SR 142.20) Anspruch auf Erteilung und Verlängerung ihrer Aufenthaltsbewilligung, wenn sie mit dem Partner zusammenwohnen (Art. 42 Abs. 1 AuG). Der Bewilligungsanspruch besteht trotz Auflösens bzw. definitiven Scheiterns der Ehegemeinschaft fort, wenn diese mindestens drei Jahre gedauert und die betroffene ausländische Person sich hier erfolgreich integriert hat (Art. 50 Abs. 1 lit. a AuG).
Der Beschwerdeführer ist heute geschieden. Die Ehegemeinschaft in der Schweiz, welche - entgegen seiner Meinung - ausschliesslich massgebend ist und der ein eheähnliches Zusammenwohnen nicht gleichzustellen ist (BGE 136 II 113 E. 3.3 S. 117 ff.), hat keine drei Jahre gedauert, weshalb er sich nicht auf Art. 50 Abs. 1 lit. a AuG berufen kann (vgl. vorne E. 1.1).
Die Rüge der Verletzung des Gleichbehandlungsgebots (Art. 8 BV) - die der Beschwerdeführer im Zusammenhang mit der Behauptung, er habe seine damalige Partnerin seit dem Zusammenzug in die gemeinsame Wohnung heiraten wollen, was aber wegen Schwierigkeiten bei der Papierbeschaffung nicht möglich gewesen sei - vermag daran auch nichts zu ändern. Die Beschwerde erfüllt in diesem Punkt die Begründungsanforderungen von Art. 106 Abs. 2 BGG nicht, weshalb darauf nicht weiter einzugehen ist (BGE 134 II 244 E. 2.2 S. 246).
2.2 Es sind gleichzeitig keine wichtigen persönlichen Gründe ersichtlich, die einen weiteren Aufenthalt des Beschwerdeführers in der Schweiz erforderlich machen (Art. 50 Abs. 1 lit. b i.V.m Abs. 2 AuG).
2.2.1 Der Beschwerdeführer mag beruflich und sozial integriert sein und hat sich auch um die Erlernung der deutschen Sprache bemüht. Ausserdem wurde er weder strafrechtlich verurteilt noch ist er sozialhilfebedürftig. Das genügt indes nicht, um einen schwer wiegenden Härtefall und damit einen Anspruch nach Art. 50 Abs. 1 lit. b AuG zu begründen (Urteil 2C_635/2009 vom 26. März 2010 E. 5.3.2). Eine erfolgreiche Integration ist zusammen mit der dreijährigen Ehegemeinschaft in der Schweiz Voraussetzung für einen Anspruch nach lit. a von Art. 50 Abs. 1 AuG. Daher kann die erwähnte Integration allein nicht ausreichen, die Bewilligungsvoraussetzungen der lit. b zu erfüllen, wenn es im Übrigen an der dreijährigen Ehegemeinschaft fehlt.
2.2.2 Die Beschwerde beruft sich auch vergeblich auf die Gefährdung der sozialen Eingliederung im Herkunftsland. Ein persönlicher, nachehelicher Härtefall setzt aufgrund der gesamten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben voraus, die mit der Lebenssituation nach dem Dahinfallen der gestützt auf Art. 42 Abs. 1 AuG abgeleiteten Anwesenheitsberechtigung verbunden sein muss (BGE 2C_784/2010 vom 26. Mai 2011 E. 3.2.3; 137 II 1 E. 4 S. 7 ff.). Die Vorinstanz hat solche Folgen hier zu Recht verneint:
Der Beschwerdeführer reiste erst mit 24 Jahren in die Schweiz ein, von seinem rund achtjährigen Aufenthalt in der Schweiz entfallen aber bloss etwa 26 Monate auf den Bestand der Ehegemeinschaft. Vor der Eheschliessung ersuchte er zuerst erfolglos um Asyl; seit der Ablehnung der Verlängerung seiner Aufenthaltsbewilligung, infolge der Trennung, ist sein Aufenthalt lediglich toleriert (BGE 137 II 10 E. 4.4. S. 13). Bis zu seiner Einreise hat er in Togo gelebt, wo nach den verbindlichen Feststellungen der Vorinstanz (Art. 105 Abs. 1 und 2 BGG) ein Teil seiner Familie (Mutter und ein Bruder) immer noch wohnt. Die Ehe mit Y._ ist kinderlos geblieben, und er macht nicht geltend, Verwandte in der Schweiz zu haben.
Es kann auch nicht gesagt werden, dass seine Lebensbedingungen bei einer Rückkehr nach Togo gemessen am durchschnittlichen Schicksal ausländischer Staatsangehöriger in gesteigertem Masse infrage gestellt wären. Der Beschwerdeführer beruft sich zwar auf unsichere Verhältnisse im Heimatland, belegt eine konkrete Gefährdung bei einer Rückkehr aber nicht.
Dass sich die Lebensverhältnisse in seiner Heimat schwieriger gestalten und er dort unter Umständen mehr Mühe haben wird, seine Mutter finanziell zu unterstützen, kann schliesslich auch keinen Härtefall begründen, zumal der Beschwerdeführer vor der Vorinstanz weder den Nachweis für die Unterstützung erbracht noch dargelegt hat, dass seine Mutter auf ihn allein angewiesen sei (Urteil 2C_635/2009 vom 26. März 2010 E. 5.3.2).
2.3 Soweit darauf eingetreten werden kann, ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten deshalb abzuweisen. Für alles Weitere kann auf die zutreffenden Ausführungen im Entscheid des Verwaltungsgerichts verwiesen werden (Art. 109 Abs. 3 BGG).
3. Da die vorliegende Eingabe von Vornherein aussichtslos war, wird der unterliegende Beschwerdeführer - trotz Gesuchs um unentgeltliche Rechtspflege - kostenpflichtig (Art. 64 BGG). Bei der Festsetzung der Gerichtskosten kann seiner finanziellen Situation Rechnung getragen werden (Art. 66 Abs. 1 BGG). Es sind keine Parteientschädigungen geschuldet (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration und Personenstand des Kantons Bern, der Polizei- und Militärdirektion des Kantons Bern, dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 3. November 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Savoldelli