Sachverhalt:
A. Am 20. August 2008 erklärte das Obergericht des Kantons Bern X._ zweitinstanzlich wegen versuchter Vergewaltigung, mehrfacher sexueller Nötigung sowie Nötigung schuldig. Zudem stellte es die Rechtskraft der weiteren (nicht angefochtenen) erstinstanzlichen Verurteilung wegen mehrfacher Drohung, mehrfacher Beschimpfung und Missbrauchs einer Fernmeldeanlage fest. Es verurteilte X._ zu einer teilbedingten Freiheitsstrafe von 3 Jahren, wovon 18 Monate unbedingt, und zu einer Busse von Fr. 200.--.
B. Mit Beschwerde in Strafsachen beantragt X._, die Schuldsprüche wegen versuchter Vergewaltigung, sexueller Nötigung und Nötigung seien aufzuheben und er sei von diesen Vorwürfen freizusprechen. Bezüglich der Schuldsprüche wegen Drohung, Beschimpfung und Missbrauchs einer Fernmeldeanlage sei er zu einer angemessenen Busse zu verurteilen. Die Zivilforderung sei vollumfänglich und kostenfällig abzuweisen und sämtliche Verfahrenskosten seien dem Staat aufzuerlegen. Für die zu Unrecht erlittene Untersuchungshaft sowie die Verteidigungskosten sei eine angemessene Entschädigung auszurichten. Eventualiter sei das Urteil des Obergerichtes aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
C. Der Generalprokurator des Kantons Bern beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Im Übrigen verzichtet er - wie auch die Vorinstanz und sinngemäss die Beschwerdegegnerin - auf eine Vernehmlassung.
Erwägungen:
1. Der Beschwerdeführer wirft der Vorinstanz vor, sie habe die Unschuldsvermutung sowie den Grundsatz "in dubio pro reo" verletzt.
1.1 Die Vorinstanz ist nach einer eingehenden Beweiswürdigung zu einem Schuldspruch wegen versuchter Vergewaltigung, mehrfacher sexueller Nötigung und Nötigung gelangt. Sie hat sich dabei detailliert mit den einzelnen Aussagen der Privatklägerin und des Beschwerdeführers auseinandergesetzt und ist auf die verschiedenen Aussagen von Personen aus dem Umfeld der Beteiligten eingegangen. Desgleichen hat sie das gerichtsmedizinische Gutachten und verschiedene ärztliche Berichte wie auch die Briefe der aus dem Leben geschiedenen Ehefrau des Beschwerdeführers in die Würdigung einbezogen. Die Vorinstanz geht überdies detailliert auf verschiedene Einwände des Beschwerdeführers ein. Gesamthaft gesehen entsteht für die Vorinstanz ein Bild, welches kaum Zweifel am Geschehen zulasse, wie es die Privatklägerin glaubhaft vermittelt habe.
1.2 Die Beschwerde ist gemäss Art. 42 Abs. 1 und Abs. 2 BGG hinreichend zu begründen, andernfalls wird darauf nicht eingetreten (Art. 108 Abs. 1 lit. b BGG). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht prüft das Bundesgericht nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Die Begründungsanforderungen im Anwendungsbereich dieser Norm entsprechen denjenigen, die im früheren staatsrechtlichen Beschwerdeverfahren galten (BGE 134 I 23 E. 5.2 S. 30, mit Hinweisen).
Dem Sachgericht steht bei der Würdigung der Beweise ein grosser Ermessensspielraum zu. Das Bundesgericht prüft Fragen der Beweiswürdigung nur auf Willkür hin. Willkürlich ist eine Tatsachenfeststellung, wenn der Richter den Sinn und die Tragweite eines Beweismittels offensichtlich verkennt, wenn er ein solches ohne ernsthafte Gründe ausser Acht lässt, obwohl es erheblich ist, und schliesslich, wenn er aus getroffenen Beweiserhebungen unhaltbare Schlüsse zieht (BGE 129 I 8 E. 2.1 S. 9, mit Hinweisen).
1.3 Was der Beschwerdeführer in seiner Beschwerdeschrift vorbringt, erschöpft sich in einer appellatorischen Kritik am vorinstanzlichen Urteil. Anstatt sich mit den Erwägungen im Einzelnen auseinanderzusetzen und insbesondere darzutun, weshalb diese unhaltbar sein sollen, legt er die eigene Sicht der Dinge dar. Seine Ausführungen genügen den Begründungsanforderungen gemäss Art. 106 Abs. 2 BGG nicht. Auf die entsprechenden Rügen ist deshalb nicht einzutreten.
2. 2.1 Der Beschwerdeführer macht für den Fall der Verurteilung geltend, die Vorinstanz habe eine zu hohe Freiheitsstrafe ausgesprochen. Entsprechend seinem Verschulden sei eine Strafe von höchstens 24 Monaten angemessen. Für die rechtskräftigen Verurteilungen wegen Drohung, Beschimpfung und Missbrauchs einer Fernmeldeanlage sei eine Busse auszusprechen, die in das Ermessen des Gerichts gestellt werde.
2.2 Die Vorinstanz geht zu Recht davon aus, dass das am 1. Januar 2007 in Kraft getretene neue Recht anwendbar ist, weil dieses im vorliegenden Fall den teilbedingten Vollzug der Strafe ermöglicht. Für den Missbrauch einer Fernmeldeanlage (Art. 179septies StGB) belegt sie den Beschwerdeführer mit einer Busse von Fr. 200.--. Für alle anderen Delikte spricht sie eine Freiheitsstrafe von 3 Jahren als Gesamstrafe gemäss Art. 49 StGB aus. Sie übersieht dabei, dass der Tatbestand der Beschimpfung gemäss Art. 177 StGB einzig mit einer Geldstrafe (bis 90 Tagessätze) sanktioniert werden kann; eine Freiheitsstrafe ist ausgeschlossen. Die sinngemässe Rüge der falschen Anwendung von Bundesrecht durch die Vorinstanz ist deshalb berechtigt, was zur Aufhebung des vorinstanzlichen Urteils führt. Festzuhalten bleibt, dass auch eine Busse, wie sie der Beschwerdeführer für die Beschimpfung verlangt, gesetzlich nicht möglich ist. Sie wäre höchstens zusätzlich als Verbindungsstrafe nach Art. 42 Abs. 4 StGB denkbar.
Der Tatbestand der Drohung (Art. 180 StGB) sieht Freiheitsstrafe bis zu 3 Jahren oder Geldstrafe vor. Soweit der Beschwerdeführer geltend macht, er sei mit einer Busse zu bestrafen, ist sein Begehren deshalb verfehlt. Sofern die Rüge - sinngemäss - gegen die Verhängung einer Freiheitsstrafe gerichtet ist, kann darauf nicht eingetreten werden, weil der Beschwerdeführer nicht begründet, weshalb die ausgefällte und gesetzlich zulässige Strafe bundesrechtswidrig ist.
3. Die Beschwerde ist somit hinsichtlich der Strafzumessung gutzuheissen, das vorinstanzliche Urteil aufzuheben und die Sache zu neuer Entscheidung zurückzuweisen. Im Übrigen ist sie abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang werden die weiteren Anträge des Beschwerdeführers hinfällig.
4. Der Beschwerdeführer wird im Rahmen seines Unterliegens kostenpflichtig (Art. 66 Abs. 1 BGG). Soweit er obsiegt, hat er Anspruch auf eine Parteientschädigung. Der Kanton Bern hat den Beschwerdeführer für das bundesgerichtliche Verfahren im gleichen Verhältnis angemessen zu entschädigen (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutheissen, das Urteil des Obergerichtes des Kantons Bern (3. Strafkammer) vom 20. August 2008 aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Kanton Bern hat dem Beschwerdeführer für das bundesgerichtliche Verfahren eine reduzierte Parteientschädigung von Fr. 1'500.-- zu bezahlen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, 3. Strafkammer, schriftlich mitgeteilt.
Lausanne, 12. März 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Favre Koch