Sachverhalt:
A. Am 22. September 2010 bestimmte der Regierungsrat des Kantons Bern nach der Wahl von Ständerätin Simonetta Sommaruga in den Bundesrat die Termine der Ersatzwahl für ein neues Mitglied des Ständerats. Der erste Wahlgang wurde auf den 13. Februar 2011 und eine allfällige Stichwahl auf den 6. März 2011 angesetzt. Weil am 13. Februar 2011 kein Kandidat und keine Kandidatin das absolute Mehr erreichte, musste am 6. März 2011 ein zweiter Wahlgang durchgeführt werden. Zu diesem traten mit den Mitgliedern des Nationalrats Ursula Wyss und Adrian Amstutz nur noch zwei der Kandidierenden an. Gemäss dem provisorischen Wahlergebnis erzielte Ursula Wyss 159'900 und Adrian Amstutz 163'537 Stimmen.
Am 25. Februar 2011 erhob der in Frankreich wohnhafte, im Kanton Bern stimmberechtigte X._ Wahlbeschwerde mit dem Antrag, die Stichwahl sei zu wiederholen, weil die Wahlunterlagen an die im Ausland wohnhaften stimmberechtigten Personen nicht rechtzeitig versandt worden seien.
Das Verwaltungsgericht des Kantons Bern wies die Wahlbeschwerde mit Urteil vom 5. Mai 2011 ab. Es erwog, die im Kanton Bern stimmberechtigten Auslandschweizerinnen und Auslandschweizer hätten eine Beschränkung ihres Stimmrechts hinzunehmen, wenn die Ausgestaltung des kantonalen Wahlverfahrens eine frühzeitige Versendung des Wahlmaterials an sie nicht erlaube. Gegen eine Verschiebung der Stichwahl sprächen bedeutende öffentliche Interessen an einer raschen Durchführung des zweiten Wahlgangs. Eine Wiederholung des Urnengangs käme nur dann in Frage, wenn es bei der Vorbereitung oder Durchführung der Wahl zu erheblichen Unregelmässigkeiten gekommen wäre, die das Wahlergebnis beeinflusst haben könnten. Dies ist vorliegend nicht der Fall.
B. Mit Beschwerde an das Bundesgericht vom 24. Mai 2011 beantragt X._ die Wiederholung des zweiten Wahlgangs mit Fristen, die allen Stimmberechtigten eine Teilnahme ermöglichen.
Am 8. September 2011 reichte X._ ein weiteres Schreiben ein.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten im Sinne der Stimmrechtsbeschwerde nach <ref-law> ist zulässig. Sie richtet sich gegen einen letztinstanzlichen Entscheid gemäss <ref-law>.
1.2 Obschon der Ständerat ein Organ des Bundes ist, handelt es sich bei den Ständeratswahlen um kantonale Wahlen (<ref-law>; Art. 56 Abs. 1 lit. d der Verfassung des Kantons Bern vom 6. Juni 1993 [KV/BE; SR 131.212]). In kantonalen Angelegenheiten sind gemäss Art. 55 Abs. 1 KV/BE alle Schweizerbürgerinnen und Schweizerbürger stimm- und wahlberechtigt, die das 18. Altersjahr zurückgelegt haben und im Kanton wohnen. Weiter kommt das Stimm- und Wahlrecht in kantonalen Angelegenheiten Auslandschweizerinnen und Auslandschweizern zu, die das 18. Altersjahr zurückgelegt haben und deren Stimmgemeinde im Kanton Bern liegt (Art. 55 Abs. 2 KV/BE i.V.m. Art. 7 des kantonalen Gesetzes vom 5. Mai 1980 über die politischen Rechte [GPR/BE; BSG 141.1] sowie Art. 5 und 7 des Bundesgesetzes vom 19. Dezember 1975 über die politischen Rechte der Auslandschweizer [SR 161.5]). Der Beschwerdeführer ist im dezentralen kantonalen Stimmregister (Art. 76a Abs. 1 GPR/BE) eingetragen und somit als stimmberechtigter Auslandschweizer zur Beschwerde berechtigt (<ref-law>). Er macht sinngemäss geltend, durch den späten Versand des Wahlmaterials sei ihm als Auslandschweizer eine Teilnahme an der Stichwahl verwehrt worden. Insoweit sei die Aktivbürgerschaft nicht richtig zusammengesetzt gewesen (vgl. <ref-ruling> E. 3b S. 365).
1.3 Mit der Beschwerde wegen Verletzung politischer Rechte kann gemäss Art. 95 lit. a, b und d BGG namentlich die Verletzung von Verfassungsrecht des Bundes und der Kantone sowie von kantonalen Bestimmungen über die politischen Rechte geltend gemacht werden. Nach <ref-law> ist in der Beschwerdebegründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt. Zwar wendet das Bundesgericht das Recht grundsätzlich von Amtes wegen an (<ref-law>). Auf die Beschwerde kann aber nur eingetreten werden, wenn diese wenigstens die Begründungsanforderungen von <ref-law> erfüllt.
Strengere Anforderungen gelten, wenn die Verletzung von Grundrechten zu beurteilen ist. Dies prüft das Bundesgericht insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>). Die Beschwerdeschrift muss die wesentlichen Tatsachen und eine kurz gefasste Darlegung darüber enthalten, welche verfassungsmässigen Rechte bzw. welche Rechtssätze inwiefern durch den angefochtenen Erlass oder Entscheid verletzt worden sind. Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen (<ref-ruling> E. 1.6 S. 130; <ref-ruling> E. 2.1 und 2.2 S. 245; je mit Hinweisen). Die Beschwerde enthält eine ausführliche Kritik am Vorgehen der kantonalen Behörden bei der Vorbereitung des zweiten Wahlgangs. Der Beschwerdeführer geht jedoch auf die Begründung des angefochtenen Entscheids des Verwaltungsgerichts kaum ein und zeigt nicht auf, auf welche Verfassungs- oder Gesetzesbestimmungen er sich beruft. Damit entspricht die Beschwerdeschrift zu einem erheblichen Teil nicht den gesetzlichen Begründungsanforderungen (Art. 106 Abs. 2 i.V.m. <ref-law>).
2. Die Kantone sind in der Ausgestaltung ihres politischen Systems und des Wahlverfahrens grundsätzlich frei. <ref-law> überlässt ihnen mit Blick auf ihre Organisationsautonomie ausdrücklich die Regelung der Ausübung der politischen Rechte in kantonalen und kommunalen Angelegenheiten, wobei die Kantone ihre Regelungsbefugnis im Rahmen der Garantie der politischen Rechte durch <ref-law> sowie der bundesverfassungsrechtlichen Mindestanforderungen gemäss <ref-law> auszuüben haben (<ref-ruling> E. 2, 376 E. 4.1).
2.1 Mit der Stimmrechtsbeschwerde kann die Verletzung sämtlicher im Zusammenhang mit den politischen Rechten stehenden Vorschriften gerügt werden (<ref-ruling> E. 1b). <ref-law> gewährleistet unter anderem das aktive Wahlrecht. Dieses enthält als wesentlichen Teilgehalt den Anspruch auf ungehinderten Zugang zu Wahlen und damit die Zulassung zur Stimmabgabe als solcher (Art. 2 Abs. 1 GPR/BE; <ref-ruling> E. 1b/aa, 121 I 138 E. 3). Die in <ref-law> verankerte Wahl- und Abstimmungsfreiheit gibt den Stimmberechtigten zudem Anspruch darauf, dass kein Wahl- oder Abstimmungsergebnis anerkannt wird, das nicht deren freien Willen zuverlässig und unverfälscht zum Ausdruck bringt (<ref-ruling> E. 2.1). Die Wahl- und Abstimmungsfreiheit ist etwa dann beeinträchtigt, wenn ein erheblicher Teil der Stimmberechtigten faktisch von der Ausübung des Stimmrechts ausgeschlossen wird, sodass nicht mehr von einer richtigen Zusammensetzung der Aktivbürgerschaft gesprochen werden kann (<ref-ruling> E. 3b S. 365). Ein solcher faktischer Ausschluss kann dadurch bewirkt werden, dass den Betroffenen die Wahlunterlagen gar nicht zugestellt werden (<ref-ruling> E. 4c S. 46). Weiter besteht die Gefahr, dass den Stimmberechtigten, wenn ihnen die Wahlunterlagen nicht rechtzeitig zugestellt werden, nicht genügend Zeit für die Auseinandersetzung mit den Profilen der Kandidierenden und für die politische Willensbildung verbleibt (vgl. <ref-ruling> E. 2b).
Allerdings hat das Bundesgericht entschieden, der Umstand, dass es einem Teil der Stimmbürgerschaft, namentlich alten oder kranken Personen, aus unverschuldeten und nicht beeinflussbaren Gründen nicht möglich gewesen sei, an einer Wahl oder Abstimmung (in Form einer Landsgemeinde) teilzunehmen, führe für sich allein genommen nicht zu Ergebnissen, die den freien Willen der Stimmberechtigten nicht zuverlässig wiedergeben würden. Personengruppen mit unterschiedlichen politischen Ansichten seien davon gleichermassen betroffen, weshalb die Nichtteilnahme einzelner abstimmungswilliger Stimmberechtigter abstrakt betrachtet nicht geeignet sei, das Ergebnis einer Wahl in die eine oder andere Richtung wesentlich zu beeinflussen (<ref-ruling> E. 5d S. 148 f.).
2.2 Die Vorinstanz gelangte aufgrund einer eingehenden Prüfung der Sach- und Rechtslage zum Schluss, dass die Gemeinde- und Kantonsorgane bei der Vorbereitung und Durchführung der Stichwahl vom 6. März 2011 weder (kantonale) gesetzliche Vorschriften noch die durch <ref-law> garantierten politischen Rechte verletzt hätten. Sie merkte an, dass der Gesetzgeber im Rahmen seiner Möglichkeiten bestrebt sei, die Rahmenbedingungen für die Ausübung des Stimmrechts der Auslandschweizerinnen und Auslandschweizer weiter zu verbessern. Künftig soll es den betroffenen Stimmberechtigten möglich sein, in kantonalen Angelegenheiten elektronisch abzustimmen und zu wählen (vgl. Art. 8 Abs. 2, Art. 11a Abs. 1 GPR/BE; vgl. auch die Verordnung vom 27. Oktober 2010 über die elektronische Stimmabgabe von Auslandschweizerinnen und Auslandschweizern [ESASV; BSG 141.114]), was in Zukunft die Probleme, welche dem vorliegenden Rechtsstreit zugrunde lägen, weitestgehend beseitigen dürfte.
Weiter hielt das Verwaltungsgericht nach ausführlicher Würdigung der konkreten Umstände zusammenfassend fest, dass eine Beeinflussung des Wahlergebnisses ausgeschlossen werden könne. Selbst dann, wenn alle Auslandschweizerinnen und Auslandschweizer, die am ersten Wahlgang, aber nicht am zweiten teilgenommen hätten, Ursula Wyss gewählt hätten, wäre die zwischen ihr und Adrian Amstutz bestehende Stimmendifferenz nach den Darlegungen der Vorinstanz nicht aufgewogen worden. Weiter hätte es auch dann, wenn die Stimmbeteiligung der Auslandschweizerinnen und Auslandschweizer bei frühzeitigem Versand der Wahlunterlagen auf dem gleichen Niveau gelegen wäre wie jene der gesamten Stimmbürgerschaft, einer derart ungewöhnlichen Verteilung der Stimmen bedurft, dass ein anderer Ausgang der Stichwahl ausgeschlossen werden könne.
2.3 Die Kritik des Beschwerdeführers am angefochtenen Entscheid ist nicht geeignet, Zweifel an der Richtigkeit der vorinstanzlichen Erwägungen zu wecken. Ist jedoch auszuschliessen, dass die teilweise sehr späte Zusendung des Wahlmaterials an stimmberechtigte Auslandschweizer im Ergebnis zu einer Verfälschung des Wahlergebnisses führte, so besteht kein Anlass für die vom Beschwerdeführer beantragte Wiederholung des zweiten Wahlgangs. Das führt zur Abweisung der Beschwerde, soweit darauf eingetreten werden kann.
3. Bei diesem Ausgang des bundesgerichtlichen Verfahrens wären die Gerichtskosten grundsätzlich dem Beschwerdeführer aufzuerlegen (<ref-law>). Aufgrund der Umstände der vorliegenden Angelegenheit erscheint es gerechtfertigt, dem Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege zu entsprechen und auf die Erhebung von Gerichtskosten zu verzichten (<ref-law>).
Den in ihrem amtlichen Wirkungskreis obsiegenden Behörden ist keine Parteientschädigung zuzusprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2. Es werden keine Gerichtskosten erhoben und keine Parteientschädigungen zugesprochen.
3. Dieses Urteil wird dem Beschwerdeführer, dem Kanton Bern und dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 15. September 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Haag