Sachverhalt:
A. Mit Beschluss vom 14. Dezember 2009 erteilte die Baukommission Kilchberg C._ und D._ die baurechtliche Bewilligung für den Um- und Anbau eines Wohnhauses sowie die Erstellung von zwei Aussenabstellplätzen auf dem Grundstück Kat.-Nr. 2588 an der X._strassee in Kilchberg.
Gegen diesen Beschluss erhoben A._ und B._, Eigentümer des sich schräg gegenüber dem Baugrundstück befindlichen Grundstücks Kat. Nr. 2590, am 20. Januar 2010 Rekurs an die Baurekurskommission II des Kantons Zürich. Diese sistierte das Rekursverfahren, weil das Verwaltungsgericht des Kantons Zürich gleichzeitig über eine Beschwerde der Rekurrierenden betreffend die Einleitung eines Teilquartierplanverfahrens zu befinden hatte und eine präjudizielle Wirkung dieses Entscheids nicht auszuschliessen war. Nachdem das Verwaltungsgericht die Beschwerde mit Entscheid vom 25. Februar 2010 abgewiesen hatte, wurde das Rekursverfahren auf Antrag der Rekurrierenden fortgesetzt. Mit Entscheid vom 15. Juni 2010 wies die Baurekurskommission II den Rekurs ab, soweit das Verfahren nicht wegen Rückzugs des Rekurses als erledigt abgeschrieben wurde.
Die von A._ und B._ gegen diesen Entscheid eingereichte Beschwerde wies das Verwaltungsgericht des Kantons Zürich mit Entscheid vom 3. November 2010 ab.
B. A._ und B._ führen Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht mit dem Antrag, der Entscheid des Verwaltungsgerichts sei aufzuheben.
Das Verwaltungsgericht beantragt, die Beschwerde sei abzuweisen, soweit darauf eingetreten werden könne. Die Baukommission Kilchberg stellt Antrag auf Beschwerdeabweisung. C._ und D._ beantragen, auf die Beschwerde sei nicht einzutreten; eventuell sei die Beschwerde abzuweisen.

Erwägungen:
1. Der angefochtene Entscheid der Vorinstanz ist ein Endentscheid einer letzten kantonalen Instanz (Art. 82 lit. a i.V.m. Art. 86 Abs. 1 lit. d und Art. 90 BGG). Ihm liegt ein Beschwerdeverfahren über ein Baubegehren und damit eine öffentlich-rechtliche Angelegenheit zugrunde. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach <ref-law> steht auf dem Gebiet des Raumplanungs- und Baurechts zur Verfügung (<ref-ruling> E. 1.2 S. 251, 400 E. 2.1 S. 404). Ausnahmegründe im Sinne von <ref-law> liegen nicht vor. Die Beschwerdeführer haben am Verfahren vor der Vorinstanz teilgenommen (<ref-law>). Sie sind als Nachbarn zur Beschwerde legitimiert (Art. 89 Abs. 1 lit. b und c BGG; <ref-ruling> E. 1.3.3 S. 253 f.) und zum Vorbringen der Rüge der mangelhaften Erschliessung berechtigt (Urteil 1C_236/2010 vom 16. Juli 2010 E. 1; vgl. auch BGE 1C_296/2010 vom 25. Januar 2011 E. 2). Auf die frist- und formgerecht eingereichte Beschwerde ist einzutreten.
2. Streitgegenstand bildet die strassenmässige Erschliessung der zwei sich auf dem Baugrundstück befindlichen Abstellplätze. Der Zufahrtsweg Kat.-Nr. 2587, welcher die Grundstücke Kat.-Nr. 2588-2591 erschliesst, weist eine Breite von 2,5 Metern auf und verfügt über keine Bankette.
2.1 § 236 Abs. 1 des Gesetzes des Kantons Zürich vom 7. September 1975 über die Raumplanung und das öffentliche Bauwesen (Planungs- und Baugesetz, PBG/ZH; LS 700.1) verlangt unter dem Titel "Erschliessung", dass ein Grundstück für die darauf vorgesehenen Bauten und Anlagen genügend zugänglich sein muss. Hinreichende Zugänglichkeit bedingt in tatsächlicher Hinsicht eine der Art, Lage und Zweckbestimmung der Bauten und Anlagen entsprechende Zufahrt für Fahrzeuge der öffentlichen Dienste und der Benützer (§ 237 Abs. 1 PBG/ZH). Zufahrten sollen für jedermann verkehrssicher sein. Der Regierungsrat erlässt über die Anforderungen Normalien (§ 237 Abs. 2 PBG/ZH).
In Ausführung von § 237 Abs. 2 PBG/ZH erliess der Regierungsrat des Kantons Zürich am 9. Dezember 1987 die Normalien über die Anforderungen an Zugänge (Zugangsnormalien; LS 700.5). Gemäss dem Anhang zu den Zugangsnormalien muss ein Zufahrtsweg eine Breite von mindestens drei Metern aufweisen, zuzüglich beidseitiger Bankette von je 0,3 Metern Breite. § 360 Abs. 3 PBG/ZH erlaubt, aus wichtigen Gründen von diesen Zugangsnormalien abzuweichen.
2.2 Die Baurekurskommission II erwog in ihrem Entscheid vom 15. Juni 2010, das Verwaltungsgericht habe in seinem Entscheid vom 25. Februar 2010 betreffend ein Teilquartierplanverfahren ausdrücklich offen gelassen, wie sich die Situation unter Berücksichtigung der beiden zusätzlichen Abstellplätze beurteilen würde. Es sei deshalb zu überprüfen, ob die beiden Abstellplätze hinreichend erschlossen seien. Die Baurekurskommission II folgerte, die Anforderungen der Zugangsnormalien seien nicht erfüllt, da der Zufahrtsweg eine Breite von bloss 2,5 statt der geforderten drei Meter (zuzüglich beidseitiger Bankette) aufweise. Es lägen jedoch wichtige Gründe im Sinne von § 360 Abs. 3 PBG/ZH vor, die ein Abweichen von den Zugangsnormalien zu rechtfertigen vermöchten, denn der Zufahrtsweg verlaufe gerade, sei nur rund 50 Meter lang und werde wenig befahren.
2.3 Im Verfahren vor der Vorinstanz machten die Beschwerdeführer geltend, auf dem das Baugrundstück erschliessenden Zufahrtsweg fehle jeglicher Fussgängerschutz, was trotz gegebener Übersichtlichkeit unausweichlich zu gefährlichen Begegnungen zwischen Fahrzeugen und Fussgängern führe. Kämen zu den sechs bisherigen zwei neue Abstellplätze hinzu, würde sich das Verkehrsaufkommen deutlich erhöhen. Die Baurekurskommission II habe im Ergebnis zu Unrecht den Schluss gezogen, es lägen wichtige Gründe im Sinne von § 360 Abs. 3 PBG/ZH vor, die ein Abweichen von den Zugangsnormalien rechtfertigten.
2.4 Die Vorinstanz hat erwogen, im Entscheid vom 25. Februar 2010 habe das Verwaltungsgericht die Quartierplanbedürftigkeit des über den Zufahrtsweg Kat.-Nr. 2587 erreichbaren Gebiets unter Hinweis auf die genügende strassenmässige Erschliessung des Quartiers verneint und das von den Beschwerdeführern beantragte Teilquartierplanverfahren abgelehnt. Damit sei der Sache nach entschieden worden, dass das Gebiet für seine Überbaubarkeit keines Ausbaus der Erschliessungsanlagen bedürfe. Der Grundsatz der Planbeständigkeit stehe damit einer Neubeurteilung der Erschliessungsverhältnisse im vorliegenden Verfahren entgegen. Zum gleichen Ergebnis führten auch Überlegungen zur materiellen Rechtskraft verwaltungsgerichtlicher Entscheide. Im in Rechtskraft erwachsenen Entscheid vom 25. Februar 2010 sei die Abweisung des von den Beschwerdeführern beantragten Teilquartierplanverfahrens mit der genügenden strassenmässigen Erschliessung des Quartiers begründet worden. Diese Feststellung sei verbindlich.
Die Vorinstanz hat weiter ausgeführt, die Baubewilligung für die beiden Abstellplätze könne bei dieser Ausgangslage einzig verweigert werden, wenn erhebliche polizeiliche Missstände im Sinne von § 358 PBG/ZH bestünden. Dies sei nicht der Fall. Der Zufahrtsweg Kat.-Nr. 2587 sei zwar nur 2,5 Meter breit, sodass ein Kreuzen zwischen Fahrzeugen und Fussgängern kaum möglich sei. Solange jedoch die angrenzenden Grundstücke nicht eingezäunt seien, könnten Fussgänger ausweichen. Zum Ausweichen stünden zudem ein Vor- und ein Kehrplatz sowie die X._strassee zur Verfügung. Ferner betrage die Länge des Zufahrtswegs bloss 50 Meter. Da folglich kein akutes Verkehrssicherheitsproblem und damit kein erheblicher polizeilicher Missstand vorhanden sei, sei auf den Entscheid vom 25. Februar 2010 abzustellen, wonach die strassenmässige Erschliessung hinreichend sei.
2.5 In ihrer Beschwerde ans Bundesgericht werfen die Beschwerdeführer der Vorinstanz Willkür vor. Der Entscheid des Verwaltungsgerichts vom 25. Februar 2010 komme als Vertrauensgrundlage nicht in Betracht, da dort die Frage der genügenden Erschliessung der beiden streitbetroffenen Abstellplätze gerade nicht thematisiert worden sei. Der Verweis der Vorinstanz auf die Grundsätze der Planbeständigkeit und der materiellen Rechtskraft sei deshalb schlechterdings nicht nachvollziehbar. Zudem sei der Zugangsweg entgegen der willkürlichen Feststellung im angefochtenen Entscheid vollständig eingezäunt, was den Fussgängern ein Ausweichen verunmögliche. Demzufolge sei die Verkehrssicherheit nicht gewährleistet, sodass von einem erheblichen polizeilichen Missstand auszugehen sei. Ohnehin dürfe aber die Frage der Verkehrssicherheit der beiden neuen Abstellplätze nicht einzig unter dem beschränkten Blickwinkel des polizeilichen Missstands gemäss § 358 PBG/ZH beurteilt werden.
2.6 Die Einwände der Beschwerdeführer sind berechtigt:
Die Vorinstanz begründet die Abweisung der Beschwerde mit dem Grundsatz der Planbeständigkeit respektive mit der materiellen Rechtskraft des Entscheids vom 25. Februar 2010. In diesem Entscheid führte das Verwaltungsgericht jedoch aus, es stehe einstweilen noch nicht fest, ob die Bewilligung der zwei zusätzlichen Abstellplätze Bestand haben werde oder nicht; entsprechend seien diese vorliegend nicht zu berücksichtigen (E. 3.4.1). Weiter erwog das Verwaltungsgericht damals, es sei nicht bekannt, wie die Baurekurskommission II betreffend die zwei Abstellplätze entscheiden werde. Auf diesen Entscheid, der eine Baubewilligung betreffe, sei kein Einfluss zu nehmen, sondern die Frage der genügenden Zufahrt sei ohne Einbezug der zwei zusätzlichen Abstellplätze zu beantworten. Entsprechend brauche in diesem Zusammenhang auch nicht geprüft zu werden, ob ein Anwendungsfall von § 360 Abs. 3 PBG/ZH vorliege (E. 4.2).
Aus diesen Erwägungen im Entscheid vom 25. Februar 2010 folgt, dass aus dem Verzicht auf die Einleitung eines Quartierplanverfahrens für das Baubewilligungsverfahren betreffend die beiden Abstellplätze nichts abgeleitet werden kann, da diese explizit ausgeklammert wurden. Da die Frage der hinreichenden Erschliessung der Abstellplätze mit anderen Worten nicht Gegenstand des Entscheids vom 25. Februar 2010 bildete, kann sich auch die materielle Rechtskraft dieses Entscheids von vorneherein nicht auf diesen Aspekt erstrecken. Dementsprechend geht auch die Berufung der Vorinstanz auf den Grundsatz der Planbeständigkeit fehl.
Ausgehend von dieser - falschen - Prämisse beschränken sich die materiellen Ausführungen der Vorinstanz zu Unrecht auf die Frage, ob erhebliche polizeiliche Missstände im Sinne von § 358 PBG/ZH bestehen. Selbst wenn jedoch keine eigentlichen Missstände vorliegen sollten, ist damit noch nicht entschieden, ob die Zufahrt auch verkehrssicher im Sinne von § 237 Abs. 2 PBG/ZH ist. Die Vorinstanz hätte daher den angefochtenen Entscheid der Baurekurskommission II vom 15. Juni 2010 inhaltlich prüfen, das heisst beurteilen müssen, ob zu Recht gefolgert wurde, es bestünden wichtige Gründe im Sinne von § 360 Abs. 3 PBG/ZH, die ein Abweichen von den Zugangsnormalien durch Unterschreiten der geforderten Wegbreite zu rechtfertigen vermöchten.
Begründet ist schliesslich auch die Rüge der willkürlichen Sachverhaltsfeststellung. Das Verwaltungsgericht hat - als erste Instanz - in seinem Urteil (E. 4 S. 8) darauf abgestellt, dass die an den Zugangsweg angrenzenden Grundstücke nicht eingezäunt seien, was deren Benutzung in Begegnungssituationen erlaube. Aus der von den Beschwerdeführern im bundesgerichtlichen Verfahren als zulässiges Novum (<ref-law>) eingereichten Fotografie ergibt sich aber, dass der Zufahrtsweg Kat.-Nr. 2587 entgegen den tatsächlichen Feststellungen im angefochtenen Entscheid vollständig eingezäunt ist. Dies wird im Übrigen auch von den Beschwerdegegnern ausdrücklich anerkannt, welche in ihrer Beschwerdeantwort einräumen, die Vorinstanz sei insoweit einem Irrtum unterlegen.
3. Zusammenfassend ist die Beschwerde gutzuheissen, der angefochtene Entscheid vom 3. November 2010 aufzuheben und die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen. Diese wird den Entscheid der Baurekurskommission II vom 15. Juni 2010 materiell zu überprüfen haben. Unter Berücksichtigung der vollständigen Einzäunung des Zufahrtswegs wird die Vorinstanz mithin zu entscheiden haben, ob die Zufahrt verkehrssicher ist, sprich die beiden Abstellplätze genügend erschlossen sind.
Bei diesem Ausgang des Verfahrens sind die Kosten des bundesgerichtlichen Verfahrens den unterliegenden Beschwerdegegnern aufzuerlegen (<ref-law>). Diese haben den Beschwerdeführern eine angemessene Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG), wofür sie solidarisch haften (<ref-law> i.V.m. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Zürich vom 3. November 2010 wird aufgehoben und die Angelegenheit zur Neubeurteilung im Sinne der Erwägungen an das Verwaltungsgericht zurückgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdegegnern auferlegt.
3. Die Beschwerdegegner haben die Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'500.-- unter solidarischer Haftung zu entschädigen.
4. Dieses Urteil wird den Parteien, der Baukommission Kilchberg und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, schriftlich mitgeteilt.
Lausanne, 1. Juni 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Fonjallaz Stohner