Sachverhalt:
A. Die "Zone mit Planungspflicht (ZPP) Nr. 4 Kirchbühl" der Einwohnergemeinde Oberdiessbach umfasst die Parzelle Nr. 1246 und wurde 1992 ausgeschieden. Die Erschliessung wurde damals nicht geregelt. Die Parzelle fällt gegen Süden ab und grenzt östlich, westlich und südlich an überbautes Land. Die nördliche Parzellengrenze verläuft entlang der Krete des Abhangs und grenzt an Landwirtschaftsgebiet. Eine von der Gemeinde erarbeitete Überbauungsordnung, welche die Erschliessung der "ZPP Nr. 4 Kirchbühl" über den Grünmattweg vorsah, wurde im Jahr 2003 von den Stimmbürgern verworfen. Die Gemeinde beauftragte daraufhin einen Verkehrsplaner, verschiedene Erschliessungsvarianten zu prüfen. Am 21. Dezember 2005 beschloss der Gemeinderat Oberdiessbach zur Sicherung der Detailerschliessung eine Planungszone, welche die Parzellen Nrn. 404, 1261 und 1262 betraf.
Am 17. Dezember 2008 beschloss der Gemeinderat Oberdiessbach die Überbauungsordnung "ZPP Nr. 3 [vormals Nr. 4] Kirchbühl" und die Überbauungsordnung "Detailerschliessung Lärchenweg - Kirchbühl mit Baugesuch". Gegen den Beschluss erhoben unter anderem die Mitglieder der Erbengemeinschaft von A._ (B._, C._ und D._) und E._ Einsprache. Die Mitglieder der Erbengemeinschaft haben Gesamteigentum an den Parzellen Nr. 1261 und 1262, welche östlich an die Parzelle Nr. 1246 grenzen. E._ ist Eigentümerin der Parzelle Nr. 404, welche ihrerseits östlich an die Parzelle Nr. 1262 grenzt. Die drei Parzellen der Einsprecher befinden sich im Perimeter der Überbauungsordnung "Detailerschliessung Lärchenweg - Kirchbühl". Mit Gesamtentscheid vom 12. Mai 2009 wies das Amt für Gemeinden und Raumordnung des Kantons Bern (AGR) die Einsprachen ab und genehmigte die beiden Überbauungsordnungen unter Auflagen.
Gegen den Gesamtentscheid des AGR erhoben B._, C._, D._ und E._ Beschwerde bei der Justiz-, Gemeinde- und Kirchendirektion des Kantons Bern (JGK). Diese wies das Rechtsmittel mit Entscheid vom 27. August 2010 ab. Eine dagegen erhobene Verwaltungsgerichtsbeschwerde wies das Verwaltungsgericht des Kantons Bern mit Urteil vom 31. Mai 2011 ebenfalls ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 6. Juli 2011 beantragen B._, C._, D._ und E._ im Wesentlichen, das Urteil des Verwaltungsgerichts sei aufzuheben.
Das Verwaltungsgericht, die JGK sowie die Gemeinde Oberdiessbach beantragen in ihrer jeweiligen Vernehmlassung die Abweisung der Beschwerde.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach <ref-law> steht auf dem Gebiet des Raumplanungs- und Baurechts zur Verfügung. Das Bundesgerichtsgesetz enthält keinen Ausschlussgrund (<ref-law>). Angefochten ist ein Entscheid einer letzten kantonalen Instanz, welcher das Verfahren abschliesst (Art. 86 Abs. 1 lit. d, Art. 90 BGG). Die Beschwerdeführer haben am vorinstanzlichen Verfahren teilgenommen. Mit der Genehmigung der Überbauungsordnung "Detailerschliessung Lärchenweg - Kirchbühl" wird der Gemeinde Oberdiessbach das Enteignungsrecht für die darin festgelegten Erschliessungsanlagen erteilt (Art. 128 Abs. 1 lit. c des Baugesetzes des Kantons Bern vom 9. Juni 1985 [BSG 721.0; BauG]). Die Beschwerdeführer sind Eigentümer der davon betroffenen Liegenschaften. Sie sind durch den angefochtenen Entscheid deshalb besonders berührt und haben ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung (<ref-law>).
1.2 Der rechtserhebliche Sachverhalt geht aus den Akten hinreichend hervor. Auf die Durchführung eines Augenscheins kann verzichtet werden, ebenso auf ein Parteiverhör.
2. 2.1 Die Beschwerdeführer machen eine Verletzung des Grundsatzes von Treu und Glauben geltend (<ref-law>). Sie berufen sich zwar nicht auf eine ausdrückliche Zusicherung von Seiten der Gemeinde, machen jedoch geltend, die Gemeinde habe während mehr als 10 Jahren die Absicht verfolgt, die Parzelle Nr. 1246 über den Grünmattweg zu erschliessen. Diese Erschliessungsvariante sei offensichtlich auf die Planungsgrundsätze abgestimmt worden, wie sie in Art. 57 des Gemeindebaureglements vom 7. September 1992 (im Folgenden: GBR 92) für die ZPP "Kirchbühl" festgelegt gewesen seien. Im Jahr 2003 sei diese Erschliessungsvariante von der Gemeinde öffentlich aufgelegt worden, es seien dagegen aber zahlreiche Einsprachen eingegangen. Im Bericht zur Ortsplanung vom 20. Januar 2008 sei zudem gerade diese Erschliessung als die Geeignetste vorgestellt worden. Die Planungsbehörden hätten offensichtlich wegen der Opposition ihre Absicht geändert und seien einfach den Weg des geringsten Widerstands gegangen. Schliesslich sei zwar richtig, dass die Beschwerdeführer keine Dispositionen getätigt hätten, die nicht ohne Nachteil wieder rückgängig gemacht werden könnten, dies jedoch nur, weil sie durch den Erlass der Planungszone daran gehindert worden seien.
2.2 Der in <ref-law> verankerte Grundsatz von Treu und Glauben statuiert ein Verbot widersprüchlichen Verhaltens und verleiht einer Person Anspruch auf Schutz des berechtigten Vertrauens in behördliche Zusicherungen oder sonstiges, bestimmte Erwartungen begründendes Verhalten der Behörden. Voraussetzung für eine Berufung auf Vertrauensschutz ist, dass die betroffene Person sich berechtigterweise auf die Vertrauensgrundlage verlassen durfte und gestützt darauf nachteilige Dispositionen getroffen hat, die sie nicht mehr rückgängig machen kann. Die Berufung auf Treu und Glauben scheitert sodann, wenn ihr überwiegende öffentliche Interessen entgegenstehen (<ref-ruling> E. 2.5.1 S. 72 f.; <ref-ruling> E. 6 S. 636 ff.; <ref-ruling> E. 4.1 S. 170; je mit Hinweisen).
2.3 Nach den Feststellungen der Vorinstanz beabsichtigte die Gemeinde Oberdiessbach zwar in einer früheren Planungsphase, die Parzelle Nr. 1246 über den Grünmattweg zu erschliessen. Es war jedoch weder die Erschliessung beim Erlass der "ZPP Nr. 3 Kirchbühl" geregelt noch bestand eine rechtskräftige Überbauungsordnung, die unter Umständen eine Vertrauensgrundlage hätte bilden können. Was die Beschwerdeführer in dieser Hinsicht vorbringen, überzeugt nicht. Eine Vertrauensgrundlage im rechtlichen Sinne vermögen sie nicht aufzuzeigen. Dass im Jahr 2003 eine Erschliessungsvariante über den Grünmattweg öffentlich aufgelegt wurde, begründet ebenso wenig eine Vertrauensgrundlage wie die Behauptung, diese Variante sei auf die in Art. 57 GBR 92 formulierten Planungsgrundsätze abgestimmt gewesen. Dass Art. 57 GBR 92 andere Erschliessungsvarianten ausgeschlossen hätte, behaupten die Beschwerdeführer nicht. Auch ihr Argument, die Planungsbehörden hätten den Weg des geringsten Widerstands gewählt, deutet nicht auf eine Vertrauensgrundlage hin (vgl. zum Ganzen: Urteil 1C_120/2010 vom 9. Juni 2010 E. 4.3 mit Hinweisen).
2.4 Die Beschwerdeführer haben unbestrittenermassen auch keine nachteiligen Dispositionen getroffen, die sie nicht mehr rückgängig machen könnten. Auf diese Voraussetzung kann indessen vorliegend nicht verzichtet werden, entgegen der (nicht weiter ausgeführten) Behauptung der Beschwerdeführer. Dass sie der Erlass einer Planungszone daran gehindert haben soll, derartige Dispositionen zu treffen, ändert daran nichts.
2.5 Zusammenfassend ist festzuhalten, dass nicht davon gesprochen werden kann, das Verhalten der kommunalen Behörden hätte bestimmte Erwartungen begründet. Änderungen in den Absichten der Planungsbehörden, die sich nicht konkret in verbindlichen Akten manifestiert haben, begründen keine Vertrauensgrundlage. Zudem fehlt es unbestrittenermassen an nachteiligen Dispositionen, die nicht wieder rückgängig gemacht werden könnten. Die Voraussetzungen des Vertrauensschutzes sind somit nicht erfüllt. Die Rüge der Beschwerdeführer ist unbegründet.
3. 3.1 Die Beschwerdeführer werfen der Vorinstanz eine willkürliche Interessenabwägung vor. Sie sind der Ansicht, dass es drei andere Erschliessungsmöglichkeiten gibt, welche jener über den Lärchenweg vorzuziehen gewesen wären, nämlich jene über den Schöneggweg, über den Chrisegglenweg und über den Grünmattweg.
3.2 Das Verwaltungsgericht legte dar, die gesetzliche Grundlage und das öffentliche Interesse am Eigentumseingriff würden von den Beschwerdeführern nicht in Frage gestellt. Umstritten sei jedoch dessen Verhältnismässigkeit. Unter diesem letzten Gesichtspunkt setzte sich das Verwaltungsgericht mit den von den Beschwerdeführern vorgebrachten Alternativen auseinander. Es erwog, die Erschliessung via Schöneggweg oder Chrisegglenweg verlaufe teilweise durch die Landwirtschaftszone. Land in der Bauzone solle jedoch grundsätzlich durch das Siedlungsgebiet erschlossen werden, ohne dass dafür Landwirtschaftsland beansprucht werde. Weil mit der Erschliessung über den Lärchenweg eine Alternative in der Bauzone bestehe, wäre die Einzonung von Land für die Erschliessung über den Schönegg- oder den Chrisegglenweg nicht unproblematisch. Gemäss dem Gutachten, welches die Firma metron im November 2003 im Auftrag der Gemeinde Oberdiessbach erstellt habe, seien diese Erschliessungsvarianten zudem teurer und entsprächen auch nicht der von der Gemeinde angestrebten Bauentwicklung. Für diese Erschliessungsvarianten spreche somit einzig, dass damit weniger Land von Personen beansprucht würde, die nicht selber von der Erschliessung profitierten; denn die Parzelle Nr. 175, welche davon betroffen wäre, gehöre demselben Eigentümer wie die zu erschliessende Parzelle Nr. 1246. Dieses Argument könne jedoch raumplanungsrechtlich nicht ausschlaggebend sein. Die Erschliessungsvariante über den Grünmattweg würde ebenfalls ein kurzes Stück über Landwirtschaftsland führen. Die Einzonung dieses Landes habe die Gemeindeversammlung im Jahr 2003 abgelehnt. Die Beschwerdeführer machten zwar geltend, dass die Erschliessung über den Grünmattweg auch ohne Einzonung möglich sei, wenn die Erschliessungsstrasse im letzten Abschnitt über die Parzelle Nr. 1261 geführt würde. Diese Variante sei jedoch trotzdem weniger günstig, da die Strasse von oben über die steile Hangkante ins Gelände hineingeführt werden müsste, während über den Lärchenweg die Parzelle von der Mitte des Hangs erschlossen werden könne, was angesichts der vorgesehenen Überbauung zweckmässiger sei. Gemäss dem Erläuterungsbericht könnten bei der Variante Lärchenweg erhebliche Terrainveränderungen vermieden werden. Dies wirke sich nicht nur finanziell, sondern auch hinsichtlich des Orts- und Landschaftsbilds aus.
Das Verwaltungsgericht ergänzte, dass die Enteignung für die Beschwerdeführer auch zumutbar sei und wies diesbezüglich insbesondere darauf hin, dass die Parzellen Nrn. 1261 und 1262 entgegen der Behauptung der Beschwerdeführer überbaubar bleiben würden.
3.3 Mit der Genehmigung der Überbauungsordnung "Detailerschliessung Lärchenweg - Kirchbühl" wurde der Gemeinde Oberdiessbach das Enteignungsrecht für die darin festgelegten Erschliessungsanlagen erteilt. Konkret werden von der Parzelle Nr. 1261 40.55 m2 benötigt (bei einer Gesamtfläche von 644 m2) und von der Parzelle Nr. 1262 140.9 m2 (bei einer Gesamtfläche von 880 m2). Von der Parzelle Nr. 404 muss der bisher private Weg mit einer Fläche von 404.2 m2 abgetreten werden. Die Einschränkung der Eigentumsgarantie (<ref-law>), welche die Beschwerdeführer dadurch erleiden, ist nur zulässig, wenn sie sich auf eine gesetzliche Grundlage stützt, im öffentlichen Interesse liegt oder durch den Schutz von Grundrechten Dritter gerechtfertigt ist. Zudem muss sie verhältnismässig sein und darf den Kerngehalt des Grundrechts nicht antasten (<ref-law>). Bei schweren Eingriffen in das Eigentum ist ein Gesetz im formellen Sinn erforderlich (<ref-law>). In diesem Fall prüft das Bundesgericht die Voraussetzung der gesetzlichen Grundlage mit freier Kognition, ansonsten nur auf Willkür. In jedem Fall frei prüft es das Vorliegen eines öffentlichen Interesses und die Verhältnismässigkeit (<ref-ruling> E. 4.3 S. 415 f.; <ref-ruling> E. 3a S. 218, 219 E. 2c S. 221 f.; <ref-ruling> E. 2a S. 540 f.; je mit Hinweisen), auch wenn die Beschwerdeführer im vorliegenden Fall offenbar aufgrund falscher Vorstellungen über die Kognition des Bundesgerichts eine "willkürliche Interessenabwägung" rügen. Das Bundesgericht auferlegt sich indes Zurückhaltung, soweit die Beurteilung von der Würdigung der örtlichen Verhältnisse abhängt, welche die kantonalen Behörden besser kennen (vgl. <ref-ruling> E. 2.3 S. 270 mit Hinweis).
Das Gebot der Verhältnismässigkeit verlangt, dass eine behördliche Massnahme für das Erreichen des im öffentlichen oder privaten Interesse liegenden Ziels geeignet und erforderlich ist und sich für die Betroffenen in Anbetracht der Schwere der Grundrechtseinschränkung als zumutbar und verhältnismässig erweist. Es muss eine vernünftige Zweck-Mittel-Relation vorliegen. Eine Massnahme ist unverhältnismässig, wenn das Ziel mit einem weniger schweren Grundrechtseingriff erreicht werden kann (<ref-ruling> E. 3.2 S. 91 f. mit Hinweisen).
3.4 Die Beschwerdeführer bezeichnen die Wahl der Erschliessungsvariante als unverhältnismässig. Dagegen beanstanden sie die Ausführungen des Verwaltungsgerichts zur Zumutbarkeit nicht.
Konkret bringen sie vor, die Erschliessung via den Schöneggweg könne mit einer geringfügigen Änderung des Zonenplans verwirklicht werden. Es wäre der Gemeinde freigestanden, diese Einzonung schon bei einer früheren Zonenplanrevision vorzunehmen. Ohnehin solle dieser Weg gemäss dem neuen Verkehrsrichtplan bis zum Chrisegglenweg verlängert werden. Zudem würde diese Variante zum grössten Teil über das Grundstück Nr. 175 geführt, das der gleichen Person gehöre wie das zu erschliessende Grundstück. Die gleichen Argumente würden für die Erschliessung via den Chrisegglenweg gelten. Die Ausführungen der Vorinstanz hinsichtlich der von der Gemeinde angestrebten Bauentwicklung bezeichnen die Beschwerdeführer als widersprüchlich.
Auch die Erschliessung via den Grünmattweg würde aus Sicht der Beschwerdeführer dem Verhältnismässigkeitsprinzip besser gerecht. Der Eingriff in ihr Eigentum sei bei dieser Variante geringfügiger. Im letzten Abschnitt könnte die Verlängerung des Grünmattwegs über die Parzelle Nr. 1261 geführt werden. So wäre keine Einzonung erforderlich. Die Terrainverschiebungen, welche notwendig würden, hätte sodann überwiegend der Eigentümer der zu erschliessenden Parzelle zu tragen; diese könnten deshalb nicht das entscheidende Kriterium sein. Den Ausführungen der Vorinstanz zum Orts- und Landschaftsbildschutz sei entgegenzuhalten, dass die Überbauung von Grundstücken regelmässig zu einer Veränderung des Orts- und des Landschaftsbilds führe. Zudem habe die Gemeinde früher ja selber eine Erschliessung über den Grünmattweg bevorzugt. Damit erweise sich die Argumentation der Vorinstanz in diesem Punkt als widersprüchlich.
Auch die Erschliessung via den Grünmattweg würde aus Sicht der Beschwerdeführer dem Verhältnismässigkeitsprinzip besser gerecht. Der Eingriff in ihr Eigentum sei bei dieser Variante geringfügiger. Im letzten Abschnitt könnte die Verlängerung des Grünmattwegs über die Parzelle Nr. 1261 geführt werden. So wäre keine Einzonung erforderlich. Die Terrainverschiebungen, welche notwendig würden, hätte sodann überwiegend der Eigentümer der zu erschliessenden Parzelle zu tragen; diese könnten deshalb nicht das entscheidende Kriterium sein. Den Ausführungen der Vorinstanz zum Orts- und Landschaftsbildschutz sei entgegenzuhalten, dass die Überbauung von Grundstücken regelmässig zu einer Veränderung des Orts- und des Landschaftsbilds führe. Zudem habe die Gemeinde früher ja selber eine Erschliessung über den Grünmattweg bevorzugt. Damit erweise sich die Argumentation der Vorinstanz in diesem Punkt als widersprüchlich.
3.5 3.5.1 Die vier diskutierten Erschliessungsvarianten sind vor dem Hintergrund des geltenden Zonenplans zu beurteilen. Danach müsste für die Varianten "Schöneggweg" und "Chrisegglenweg" Land ausserhalb der Bauzone beansprucht werden, während die Varianten "Grünmattweg" und "Lärchenweg" die Erschliessung innerhalb der Bauzone erlauben.
3.5.2 Strassen, welche der Erschliessung von Grundstücken innerhalb der Bauzone dienen, sind grundsätzlich ebenfalls in der Bauzone anzulegen. Die Beanspruchung von Land ausserhalb der Bauzone für eine Erschliessungsstrasse ist nur ausnahmsweise und unter den in Art. 24 RPG genannten Voraussetzungen zulässig. Dazu gehört insbesondere die Standortgebundenheit der Baute oder Anlage (Art. 24 lit. a RPG). Diese ist zu bejahen, wenn eine Baute oder Anlage aus technischen oder betriebswirtschaftlichen Gründen oder wegen der Bodenbeschaffenheit auf einen Standort ausserhalb der Bauzone angewiesen ist, oder wenn ein Werk aus bestimmten Gründen in einer Bauzone ausgeschlossen ist. Dabei genügt eine relative Standortgebundenheit. Es ist mit anderen Worten nicht erforderlich, dass überhaupt kein anderer Standort in Betracht fällt. Es müssen jedoch besonders wichtige und objektive Gründe vorliegen, die den vorgesehenen Standort gegenüber anderen Standorten innerhalb der Bauzone als viel vorteilhafter erscheinen lassen (<ref-ruling> E. 2 S. 218 f. mit Hinweisen). Derartige wichtige und objektive Gründe können die Beschwerdeführer nicht geltend machen. Das Argument, die Parzelle Nr. 175, welche bei den Varianten "Schöneggweg" und "Chrisegglenweg" beansprucht würde, gehöre dem Eigentümer der zu erschliessenden Parzelle Nr. 1246, ist nicht ausreichend (vgl. Urteil 1A.186/2002 vom 23. Mai 2003 E. 3.1, in: ZBl 105/2004 S. 103). Diese beiden Varianten fallen damit von vornherein ausser Betracht und es kann offen bleiben, inwiefern auch die weiteren von der Vorinstanz angeführten Aspekte (die anfallenden Kosten und die von der Gemeinde angestrebte Bauentwicklung) gegen sie sprechen.
3.5.3 Nach dem Gesagten käme auch eine Erschliessung über den Grünmattweg nur in Frage, wenn diese innerhalb der Bauzone erfolgte. Dass dies grundsätzlich möglich wäre, nämlich mit der von den Beschwerdeführern vorgeschlagenen Wegführung, welche einen Teil der Parzelle Nr. 1261 beanspruchen würde, wird im angefochtenen Urteil nicht in Abrede gestellt. Das Verwaltungsgericht weist jedoch darauf hin, dass diese Variante weniger günstig sei als jene über den Lärchenweg, weil die Strasse von oben über die steile Hangkante ins Gelände hineingeführt werden müsste. Bei der Variante "Lärchenweg" könne die Parzelle dagegen von der Mitte des Hangs erschlossen werden, was angesichts der vorgesehenen Überbauung zweckmässiger sei. Es könnten so zudem erhebliche Terrainveränderungen vermieden werden, was sich nicht nur finanziell, sondern auch hinsichtlich des Orts- und Landschaftsbilds auswirke.
Was die Beschwerdeführer dagegen vorbringen, ist unbehelflich. Der Umstand, dass sie selber bei dieser Variante weniger stark betroffen wären, ist bei einer objektiven Abwägung der Interessen, welche auch jene anderer Grundeigentümer berücksichtigen muss, nicht entscheidend. Die Ausführungen der Vorinstanz, wonach unvorteilhaft wäre, wenn die Strasse von oben über die steile Hangkante ins Gelände hineingeführt werden müsste und wonach dabei insbesondere das Orts- und Landschaftsbild stärker beeinträchtigt würden, sind dagegen nachvollziehbar. Mit der pauschalen Feststellung, dass die Überbauung von Grundstücken regelmässig zu einer Veränderung des Orts- und des Landschaftsbilds führe, vermögen die Beschwerdeführer diese Ausführungen nicht in Frage zu stellen. Unbeachtlich ist schliesslich, ob die Gemeinde ursprünglich die Erschliessung über den Grünmattweg bevorzugt hat, wie dies die Beschwerdeführer geltend machen.
Insgesamt ist die Abwägung der Vor- und Nachteile der Erschliessungsvarianten "Lärchenweg" und "Grünmattweg" durch die Vorinstanz nicht zu beanstanden. Das Bundesgericht auferlegt sich bei deren Überprüfung Zurückhaltung, zumal es um die Würdigung der örtlichen Verhältnisse geht, welche die kantonalen Behörden besser kennen (siehe E. 3.3 hiervor). Die Beschwerdeführer haben nichts vorgebracht, was den angefochtenen Entscheid in dieser Hinsicht als unverhältnismässig erscheinen liesse. Ihre Rüge erweist sich als unbegründet.
4. Die Beschwerde ist abzuweisen. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten den Beschwerdeführern aufzuerlegen (<ref-law>). Sie haben keinen Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführern auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird den Beschwerdeführern, der Einwohnergemeinde Oberdiessbach, der Justiz-, Gemeinde- und Kirchdirektion sowie dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 6. Oktober 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold