Sachverhalt: A. A.X._ und B.X._, geb. 1973 bzw. 1976, verpflichteten sich mit Leibrentenvertrag vom 20. Februar 2007 zugunsten der Eltern der Ehefrau, C.X._ und D.X._, beide geb. 1942, gegen eine Einmalleistung von Fr. 205'000.-- und ab dem 1. Januar 2008 bis zum Todestag der zuletzt sterbenden Person bzw. bis spätestens 31. Dezember 2027, eine monatliche Rente von Fr. 1'100.-- auszurichten. Im Jahr 2008 leisteten die Eheleute X._ Rentenzahlungen von total Fr. 13'200.--. B. A.X._ und B.X._ beantragten für die Steuerperiode 2008 in Bezug auf die Staatssteuer und das Leibrentenverhältnis, dass Fr. 5'280.-- (d. h. 40 % von Fr. 13'200.--) von ihrem steuerbaren Einkommen und Fr. 194'062.-- (d. h. der Rückkaufswert bzw. die Rentenstammschuld per Ende 2008) von ihrem steuerbaren Vermögen abzuziehen seien. Ersteres gewährte ihnen das kantonale Steueramt Zürich mit Einschätzungsverfügung vom 12. November 2009, nicht aber Letzteres, weil nur die jährliche Rente geschuldet sei und nicht das Kapital. Diese Einschätzung wurde von den kantonalen Rechtsmittelinstanzen geschützt, zuletzt vom Verwaltungsgericht des Kantons Zürich mit Urteil vom 23. Februar 2011. C. Am 26. April 2011 haben die Ehegatten X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht eingereicht. Sie beantragen sinngemäss, das verwaltungsgerichtliche Urteil aufzuheben und ihr steuerbares Vermögen für die Staatssteuer 2008 unter Abzug von Fr. 194'000.-- auf Fr. 1'124'000.-- festzusetzen. D. Das Kantonale Steueramt Zürich und das Verwaltungsgericht des Kantons Zürich schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Eidgenössische Steuerverwaltung hat auf einen Antrag verzichtet.