Sachverhalt:
A. Die Erbengemeinschaft der am 14. Juni 2005 verstorbenen A._, bestehend aus B._, C._, D._, E._ und F._, verkaufte am 30. März 2007 die Liegenschaft G._ zum Preis von Fr. 1'600'000.--. In den Steuererklärungen für die Grundstückgewinnsteuer deklarierten die Erben bei gleichlautenden Erbanteilen übereinstimmend einen Veräusserungserlös von Fr. 1'546'514.--, einen Einstandswert von Fr. 918'892.-- und daraus resultierend einen Grundstückgewinn von Fr. 627'622.--. Beim Einstandswert der Liegenschaft erhöhten die Erben den gemäss § 106 Abs. 4 des Gesetzes des Kantons Basel-Stadt vom 12. April 2000 über die direkten Steuern (SG 640.100; nachfolgend: StG/BS) ermittelten Realwert per 1. Januar 1977 von Fr. 800'470.-- um die Kosten für Erschliessung und Umgebungsarbeiten von rund Fr. 80'000.--, die bis Ende 1976 beim Bau des Hauses angefallen seien. Zudem machten die Erben wertvermehrende Aufwendungen in der Höhe von Fr. 34'000.-- geltend.
B. B.a Mit Veranlagungsverfügungen vom 23. Januar 2008 veranlagte die Steuerverwaltung des Kantons Basel-Stadt die Erben ausgehend von einem Einstandswert von Fr. 800'470.-- zu einem steuerbaren Grundstückgewinn von je Fr. 60'000.-- und einem Steuerbetrag von je Fr. 18'000.--. Dagegen erhob B._ in seinem Namen und im Namen der Miterben Einsprache. Im Einspracheverfahren wurden die Veranlagungen der Miterben formlos sistiert. Mit Einspracheentscheid vom 10. Juli 2008 setzte die Steuerverwaltung des Kantons Basel-Stadt den Einstandswert (weiterhin) auf Fr. 800'470.-- fest und veranlagte B._ - nach einer Korrektur bei den wertvermehrenden Aufwendungen - zu einem steuerbaren Grundstückgewinn von Fr. 58'989.60 und einem Steuerbetrag Fr. 8'835.-- (Kantonsanteil).
B.b Gegen den Einspracheentscheid erhob B._ am 9. August 2008 in eigenem Namen wie im Namen seiner Miterben Rekurs bei der Steuerrekurskommission des Kantons Basel-Stadt. In der Rekursbegründung vom 28. September 2008 wies B._ darauf hin, dass ihm erst nach Rekurserhebung mitgeteilt worden sei, dass die Veranlagung der Miterben im Einspracheverfahren sistiert worden sei. Mit Entscheiddispositiv vom 14. Mai 2009 hat die Steuerrekurskommission des Kantons Basel-Stadt den Rekurs von B._ abgewiesen und die Spruchgebühr von Fr. 1'000.-- B._ auferlegt. Der begründete Rekursentscheid vom 2. September 2010 führt dagegen sämtliche Erben als Rekurrenten auf und auferlegt ihnen die Spruchgebühr von Fr. 1'000.--.
B.c Gegen den Rekursentscheid erhob B._ in seinem Namen und im Namen der Miterben Rekurs beim Appellationsgericht des Kantons Basel-Stadt, wobei er in der Rekurserklärung vom 7. September 2010 darauf hinwies, dass der angefochtene Entscheid einzig ihn persönlich betreffe. In der Rekursschrift vom 24. November 2010 beantragte B._ unter anderem festzustellen, dass der Entscheid betreffend die Miterben nichtig sei. Soweit der Entscheid ihn persönlich betreffe, sei er aufzuheben und die Sache an die Vorinstanz zu neuer Entscheidung zurückzuweisen. Das Appellationsgericht des Kantons Basel-Stadt stellte mit Urteil vom 19. Oktober 2012 in teilweiser Gutheissung des Rekurses fest, dass alleine B._ Partei des Rekursverfahrens vor der Steuerrekurskommission des Kantons Basel-Stadt war und hob deren Entscheid vom 14. Mai 2009 in Bezug auf C._, D._, E._ und F._ sowie die Höhe der festgesetzten Gebühr auf. Im Übrigen wies das Appellationsgericht des Kantons Basel-Stadt den Rekurs ab und überband den Rekurrenten - d.h. sämtlichen Erben - die Verfahrenskosten vor der Steuerrekurskommission in der Höhe von Fr. 900.-- und vor dem Appellationsgericht in der Höhe von Fr. 1'900.--.
C. Vor Bundesgericht beantragen C._, D._, E._ und F._, das Urteil des Appellationsgerichts des Kantons Basel-Stadt vom 19. Oktober 2012 aufzuheben und sie von der Pflicht zur Kostentragung in allen Instanzen zu entbinden, unter Zusprechung einer Parteientschädigung für ihre Vertretung vor allen Instanzen. Im Übrigen beantragt B._ sinngemäss, das Urteil des Appellationsgerichts des Kantons Basel-Stadt vom 19. Oktober 2012 aufzuheben, die Sache an die kantonalen Behörden zurückzuweisen, eventualiter den Wert der Liegenschaft auf mindestens Fr. 880'470.-- festzulegen, zuzüglich der Differenz zum Bodenwertkatalog von mindestens Fr. 66'470.-- und der Aufwendungen für einen Brunnen von Fr. 10'000.--. In prozessualer Hinsicht beantragt B._, die Datengrundlage des Bodenwertkataloges offenzulegen und danach Frist zur Stellungnahme und Ergänzung des Rechtsbegehrens anzusetzen.
Die Steuerverwaltung des Kantons Basel-Stadt und das Appellationsgericht des Kantons Basel-Stadt beantragen die Abweisung der Beschwerde. Die Eidgenössische Steuerverwaltung verzichtete auf eine Stellungnahme.
D. Die Beschwerdeführer haben am 9. April 2013 unaufgefordert eine Replik eingereicht.

Erwägungen:
1. 1.1 Angefochten ist ein letztinstanzlicher Endentscheid einer oberen kantonalen Gerichtsbehörde in einer Angelegenheit des öffentlichen Rechts, der mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht weitergezogen werden kann (Art. 82 lit. a, 83, 86 Abs. 1 lit. d und Abs. 2, 90 BGG i.V.m. Art. 73 des Bundesgesetzes vom 14. Dezember 1990 über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG, SR 642.14]).
1.2 Die Anträge der Beschwerdeführer sind auslegungsbedürftig, da der Beschwerdeführer 1, der in eigenem Namen wie auch als Rechtsvertreter der übrigen Beschwerdeführer auftritt, sämtliche Anträge ausdrücklich "im Namen der Beschwerdeführer" stellt. Aus der Begründung ergibt sich jedoch, dass die Beschwerdeführer 2 - 5 einzig gegen den Kostenpunkt des vorinstanzlichen Urteils Beschwerde erheben. Dazu steht ihnen nach dem Grundsatz der Einheit des Verfahrens die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen und sie sind hierzu nach <ref-law> beschwerdebefugt (<ref-ruling> E. 3 S. 143 f.; Urteile 2C_437/2012 vom 31. Mai 2012 E. 2.2; 2C_11/2010 vom 25. November 2011 E. 1.3, nicht publ. in: <ref-ruling>). Ebenso ist der Beschwerdeführer 1 als materieller Verfügungsadressat beschwerdebefugt (<ref-law>).
1.3 Der Beschwerdeführer 1 stellt erstmals im bundesgerichtlichen Verfahren formell den Antrag, den Wert der Liegenschaft (unter anderem) um die Differenz zum Bodenwertkatalog, d.h. um mindestens Fr. 66'470.--, zu erhöhen. Neue Rechtsbegehren sind im bundesgerichtlichen Verfahren nicht zulässig, wobei sich die Neuheit eines Begehrens auf den Streitgegenstand bezieht und im Verhältnis zu den vorinstanzlich gestellten Begehren zu beurteilen ist (<ref-law>; <ref-ruling> E. 3.1 S. 170; <ref-ruling> E. 3.4.2 S. 365 und E. 4.2 S. 367; Urteile 8C_811/2012 vom 4. März 2013 E. 4; 2C_581/2010 vom 28. März 2011 E. 1.5). Vorliegend ist zu beachten, dass der Beschwerdeführer 1 bereits vor der Vorinstanz sinngemäss einen entsprechenden Antrag gestellt hat, indem er ausdrücklich beantragte, die Datengrundlage des Bodenwertkataloges offenzulegen, um anschliessend ein bereinigtes Rechtsbegehren einreichen zu können. Die Vorinstanz ist auf diesen Antrag eingetreten und hat sich damit zu diesem Aspekt des Streits geäussert, wenn auch kurz und ablehnend. Der Beschwerdeführer 1 beantragt daher auch im Ergebnis nicht mehr (plus) oder anderes (aliud), als er bereits vor der Vorinstanz zumindest sinngemäss geltend gemacht hat (vgl. Urteil 8C_811/2012 vom 4. März 2013 E. 4).
1.4 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Vorbringen, sofern allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280 f. mit Hinweis). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht untersucht es in jedem Fall nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>). Das Bundesgericht prüft die Anwendung des harmonisierten kantonalen Steuerrechts durch die kantonalen Instanzen an sich mit freier Kognition, ebenso, wie es dies im Fall von Bundesrecht täte. In den Bereichen, in welchen das Steuerharmonisierungsgesetz den Kantonen einen gewissen Gestaltungsspielraum belässt, beschränkt sich die Kognition des Bundesgerichts indessen im Wesentlichen auf Willkür, und unterliegt den erhöhten Rügeanforderungen des <ref-law> (<ref-ruling> E. 2 S. 209 f.; <ref-ruling> E. 3.1 S. 205 f.; Urteil 2C_705/2011 vom 26. April 2012 E. 1.5.2 mit Hinweisen).
1.5 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>). Es kann die vorinstanzliche Sachverhaltsfeststellung bloss berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Die betroffene Person muss rechtsgenügend dartun, dass und inwiefern der festgestellte Sachverhalt in einem entscheidwesentlichen Punkt klar und eindeutig mangelhaft erscheint (Art. 97 Abs. 1 i.V.m. Art. 42 Abs. 2 und <ref-law>; vgl. <ref-ruling> E. 1.4.3 S. 254 f.; <ref-ruling> E. 1.3 S. 351 f.).
2. 2.1 Vorab ist die Rüge der Verletzung des rechtlichen Gehörs (<ref-law>) zu prüfen. Der Anspruch auf Gewährung des rechtlichen Gehörs ist nach feststehender Rechtsprechung formeller Natur, mit der Folge, dass seine Verletzung grundsätzlich zur Aufhebung des mit dem Verfahrensmangel behafteten Entscheids führt (Urteil 2C_356/2010 vom 18. Februar 2011 E. 2.2 mit Hinweisen, in: StE 2011 A 21.13 Nr. 9). Der verfassungsrechtliche Anspruch auf rechtliches Gehör umfasst das Recht des Betroffenen, dass das Gericht seine Vorbringen tatsächlich hört, ernsthaft prüft und in seiner Entscheidfindung angemessen berücksichtigt (<ref-ruling> E. 2.2.1 S. 188 mit Hinweis). Die Begründung muss so abgefasst sein, dass der Betroffene den Entscheid gegebenenfalls sachgerecht anfechten kann. Sie muss kurz die wesentlichen Überlegungen nennen, von denen sich das Gericht hat leiten lassen und auf die es seinen Entscheid stützt. Nicht erforderlich ist, dass sich die Begründung mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt; zu behandeln sind jedoch die für den Verfahrensausgang wesentlichen Verbringen (<ref-ruling> E. 3.3. S. 445 mit Hinweisen).
2.2 Der Beschwerdeführer 1 rügt, die Verletzung des rechtlichen Gehörs bzw. der Begründungspflicht liege darin, dass die Vorinstanzen die Nichtberücksichtigung der Baunebenkosten entgegen seinen Ausführungen nicht auf die Vereinbarkeit mit übergeordnetem Recht geprüft haben. Darin liegt jedoch kein Verstoss gegen <ref-law>, haben sich doch die Vorinstanzen mit den diesbezüglichen Vorbringen des Beschwerdeführers 1 inhaltlich auseinandergesetzt, auch wenn sich ihre materielle Beurteilung als falsch erweist (E. 6). Soweit sich der Beschwerdeführer 1 im Zusammenhang mit der Gehörsverletzung auf die EMRK beruft - einschlägig wäre Art. 6 EMRK und nicht der in der Beschwerde offensichtlich irrtümlich genannte Art. 9 EMRK -, übersieht der Beschwerdeführer 1, dass Art. 6 EMRK auf das vorliegende Steuerverfahren keine Anwendung findet (<ref-ruling> E. 2.1 S. 146; Urteil 2C_455/2011, 2C_456/2011 vom 5. April 2012 E. 4.2).
3. 3.1 Strittig ist die Berechnung des Grundstückgewinns. Als Grundstückgewinn gilt gemäss § 106 Abs. 1 StG/BS der Betrag, um den der Veräusserungserlös den Einstandswert übersteigt. Als Einstandswert gilt grundsätzlich der Erwerbswert unter Berücksichtigung der mit dem Erwerb verbundenen Kosten und der wertvermehrenden Aufwendungen, soweit diese nicht bereits bei der Einkommens- oder Gewinnsteuer angerechnet werden konnten (§ 106 Abs. 3 StG/BS). Für Grundstücke, die vor dem 1. Januar 1977 erworben worden sind, gilt gemäss § 106 Abs. 4 StG/BS als Einstandswert entweder der Realwert (Gebäudeversicherungswert unter Berücksichtigung der Altersentwertung zu diesem Zeitpunkt zuzüglich des relativen Landwertes nach Bodenwertkatalog per 1. Januar 1977) erhöht um die seither vorgenommenen wertvermehrenden Aufwendungen oder der nachgewiesene höhere Einstandswert nach § 106 Abs. 3 StG/BS.
3.2 Unbestritten ist, dass der Realwert gemäss der in § 106 Abs. 4 StG/BS vorgesehenen Bewertungsformel Fr. 800'470.-- beträgt. Darüber hinaus hat die Vorinstanz für das Bundesgericht verbindlich (vgl. <ref-law>) festgestellt, dass der effektive Erwerbspreis zuzüglich der vom Beschwerdeführer 1 geltend gemachten Kosten für Erschliessung und Umgebungsarbeiten sowie der wertvermehrenden Aufwendungen tiefer ist als der Realwert.
3.3 Der Beschwerdeführer 1 rügt, das Vorgehen der Vorinstanz verstosse gegen Art. 12 Abs. 1 StHG, die Rechtsgleichheit (<ref-law>), das Willkürverbot (<ref-law>) und den Grundsatz der Besteuerung nach der wirtschaftlichen Leistungsfähigkeit (<ref-law>). Der Einstands- bzw. Ersatzwert und damit der Gewinn aus dem Verkauf einer Liegenschaft seien nach kaufmännisch anerkannten Gesichtspunkten zu bestimmen. Der Realwert nach § 106 StG/BS sei daher im Einklang mit der üblichen betriebswirtschaftlichen und zivilrechtlichen Auffassung möglichst genau zu erheben. Das erfordere eine Berücksichtigung der Erschliessungs- und Baunebenkosten. Ansonsten würden fiktive Gewinne besteuert, was willkürlich sei und gegen den Grundsatz der wirtschaftlichen Leistungsfähigkeit verstosse. Zudem führe die Praxis zu einer Rechtsungleichheit, weil bei Bauten nach dem 1. Januar 1977 die entsprechenden Kosten berücksichtigt würden. Auch seien die Landpreise im Bodenwertkatalog zu tief angesetzt, namentlich erfolge ein Einschlag von 20 Prozent, für den es keine hinreichende gesetzliche Grundlage gebe.
4. 4.1 Die Rechtsgleichheit (<ref-law>) wird auf dem Gebiet der Steuern konkretisiert durch die Grundsätze der Allgemeinheit und Gleichmässigkeit der Besteuerung sowie durch den Grundsatz der Besteuerung nach der wirtschaftlichen Leistungsfähigkeit (vgl. <ref-law>); danach sind Steuerpflichtige in gleichen wirtschaftlichen Verhältnissen gleich zu besteuern (<ref-ruling> E. 5.2 S. 59 f.; <ref-ruling> E. 2 S. 251; je mit Hinweisen). Der Gesetzgeber hat aber auch im Abgaberecht innerhalb der Schranken der Verfassung weitgehende Gestaltungsfreiheit. Die Rechtsgleichheit ist nicht schon verletzt, wenn der Gesetzgeber Lösungen trifft, die nicht in jeder Hinsicht einem bestimmten wirtschaftlichen, juristischen oder finanzwissenschaftlichen System folgen (<ref-ruling> E. 2a S. 78; <ref-ruling> E. 3f S. 324). Hinzu kommt, dass im Interesse der Praktikabilität eine gewisse Schematisierung und Pauschalierung des Abgaberechts unausweichlich und deshalb auch zulässig ist (<ref-ruling> E. 5.1 S. 309 f.; <ref-ruling> E. 3.2.1 S. 306; <ref-ruling> E. 2.3 S. 243). Soweit keine absolute Gleichbehandlung erzielt werden kann, genügt es, wenn die gesetzliche Regelung nicht in genereller Weise zu einer wesentlich stärkeren Belastung oder systematischen Benachteiligung bestimmter Gruppen von Steuerpflichtigen führt (<ref-ruling> E. 5.1 S. 309 f.; <ref-ruling> E. 3e S. 197). Aus diesen Gründen auferlegt sich das Bundesgericht in konstanter Praxis eine gewisse Zurückhaltung, wenn es als Verfassungsgericht eine gesetzliche Regelung zu prüfen hat (<ref-ruling> E. 4.2 S. 163 mit Hinweisen).
4.2 Das Bundesgericht hatte vor längerer Zeit und noch vor Inkrafttreten des StHG Gelegenheit, die verfassungsmässigen Grundsätze der Besteuerung für die Berechnung der Grundstückgewinnsteuer zu konkretisieren. So hat es erkannt, dass es gegen Art. 4 aBV (heute: Art. 8 und 127 Abs. 2 BV) verstösst, einen fiktiven, d.h. einen weit höheren als den tatsächlich realisierten Gewinn oder gar einen Gewinn anstelle eines in Wirklichkeit erzielten Verlustes der Grundstückgewinnsteuer zu unterwerfen (<ref-ruling> E. 5 S. 5; <ref-ruling> E. 2d S. 214; <ref-ruling> E. 6b S. 136 ff.). Dagegen ist es dem kantonalen Steuergesetzgeber verfassungsmässig nicht verwehrt, bei den Anlagekosten von einem allenfalls unter dem Verkehrswert liegenden Ersatzwert auszugehen, soweit wahlweise auf die effektiven Gestehungskosten abgestellt werden kann und diese unter dem Ersatzwert liegen (Urteile 2P.268/1989 vom 18. Mai 1990 E. 3c; P.943/1976 vom 15. Februar 1978 E. 2c, in: ASA 48 S. 213 ff., 216 f.). Zudem hat es das Bundesgericht abgelehnt, bei der Grundstückgewinnsteuer verfassungsrechtlich eine Berücksichtigung der Geldentwertung vorzuschreiben (BGE <ref-ruling> E. 7 S. 139; Urteil P.943/1976 vom 15. Februar 1978 E. 2c, in: ASA 48 S. 213 ff., 217).
4.3 Daraus folgt, dass primärer Bezugspunkt für die verfassungsrechtliche Beurteilung des gesetzlich festgelegten Ersatzwertes der effektive Erwerbspreis und nicht der Verkehrswert zu einem bestimmten Zeitpunkt ist. Soweit die gesetzliche Ordnung nicht zur Besteuerung fiktiver Gewinne führt, weil der Ersatzwert unter dem Erwerbspreis liegt, hat der kantonale Gesetzgeber nach der erwähnten Rechtsprechung verfassungsrechtlich einen erheblichen Gestaltungsspielraum bei der Festlegung des Ersatzwertes.
5. Zu prüfen ist, ob dieser Gestaltungsspielraum des kantonalen Gesetzgebers durch das Steuerharmonisierungsgesetz eingeschränkt worden ist:
5.1 Gemäss Art. 12 Abs. 1 StHG unterliegen Gewinne bei der Veräusserung von Grundstücken des Privatvermögens oder eines land- oder forstwirtschaftlichen Grundstückes sowie von Anteilen daran der Grundstückgewinnsteuer, soweit der Erlös die Anlagekosten (Erwerbspreis oder Ersatzwert zuzüglich Aufwendungen) übersteigt. Die massgeblichen Rechtsbegriffe - "Erlös", "Anlagekosten" und "Ersatzwert" - führt das Gesetz nicht näher aus und überlässt daher den Kantonen bei der Umschreibung des steuerbaren Gewinns einen gewissen Gestaltungsspielraum ("une certaine marge de manoeuvre"). Insofern stellt sich das kantonale Grundstückgewinnsteuerrecht als kantonales Recht dar (Art. 1 Abs. 3 StHG; <ref-ruling> E. 2.1 S. 723 f.; Urteile 2C_705/2011 vom 26. April 2012 E. 1.5.3, in: StE 2012 B 44.12.3 Nr. 6; 2C_119/2009 vom 29. Mai 2009 E. 2.1, in: StE 2009 B 44.13.5 Nr. 9). Die Lehre hebt denn auch hervor, dass der Charakter des StHG als Rahmengesetz im Bereich der Grundstückgewinnsteuer besonders deutlich hervortrete (BERNHARD ZWAHLEN, in: Kommentar zum Schweizerischen Steuerrecht, Band I/1, 2. Aufl. 2002, N. 2 zu Art. 12 StHG; XAVIER OBERSON, Droit fiscal suisse, 4. Aufl. 2012, S. 296). Das weist zugleich darauf hin, dass die Kantone bei der Umschreibung des Steuerobjekts und dessen Bemessung den harmonisierungsrechtlichen Rahmen zu beachten haben und der Gestaltungsspielraum entsprechend beschränkt wird, besonders mit Blick darauf, dass Grundstückgewinn- und Einkommens- bzw. Gewinnsteuer eng miteinander verbunden sind (<ref-ruling> E. 2.1 S. 723 f.; Urteil 2C_705/2011 vom 26. April 2012 E. 4.3.2, in: StE 2012 B 44.12.3 Nr. 6).
5.2 Die Umschreibung des steuerbaren Grundstückgewinns als Differenz zwischen Erlös und Anlagekosten (Erwerbspreis oder Ersatzwert zuzüglich Aufwendungen) knüpft an das allgemeine System der Gesamtreineinkommensbesteuerung an (vgl. Art. 7 Abs. 1 StHG; <ref-ruling> E. 5.3 S. 76, 49 E. 5.3 S. 60; <ref-ruling> E. 2.1 S. 289; Urteil 2C_705/2011 vom 26. April 2012 E. 4.3.2, in: StE 2012 B 44.12.3 Nr. 6). Zu den Anlagekosten und der Differenz zwischen Erwerbspreis und Ersatzwert führt die Botschaft aus, es stehe den Kantonen frei, bei Altbesitz den effektiv erzielten Gewinn zu erfassen oder eine "Limite für die Gewinnermittlung" ("limite lors du calcul du gain imposable"; "limite per il calcolo del guadagno imponibile") zu setzen (Botschaft vom 25. Mai 1983 über die Steuerharmonisierung, BBl 1983 III 1, 100 zu Art. 15 E-DBG). Der Ersatzwert soll den Kantonen demnach die Möglichkeit einräumen, bei Altbesitz die Bemessung des Grundstückgewinns zeitlich zu begrenzen (ZWAHLEN, a.a.O., N. 56 zu Art. 12 StHG). Dies durchbricht den Grundgedanken der Regelung des Art. 12 StHG, alle Gewinne aus der Veräusserung eines Grundstücks zu besteuern (vgl. BGE <ref-ruling> E. 5.2 S. 212; Bericht der Expertenkommission zur Prüfung des Einsatzes des Steuerrechts für wohnungs- und bodenpolitische Ziele, 1994, abrufbar unter www.estv.admin.ch [besucht am 24. April 2013], S. 147).
5.3 Auch bei einer zeitlichen Begrenzung der Bemessung des Grundstückgewinns bleibt dieser die sachliche Bemessungsgrundlage: Mit dem "Ersatzwert" werden die Gestehungskosten zu einem bestimmten, vom kantonalen Gesetzgeber festzulegenden Zeitpunkt gesetzlich fingiert. Dabei ist der Ersatzwert harmonisierungsrechtlich als wirtschaftlicher Begriff zu verstehen und so zu bestimmen, dass er jenen Wert zum Ausdruck bringt, der dem Erwerbspreis zum gesetzlich festgelegten Zeitpunkt entspricht (vgl. Urteil 2C_705/2011 vom 26. April 2012 E. 4.3.7, in: StE 2012 B 44.12.3 Nr. 6; MARKUS REICH, Steuerrecht, 2. Aufl. 2012, § 25 Rz. 55 und 58). Abzustellen ist dabei auf den Grundsatz der Verkehrswertbemessung.
5.3 Auch bei einer zeitlichen Begrenzung der Bemessung des Grundstückgewinns bleibt dieser die sachliche Bemessungsgrundlage: Mit dem "Ersatzwert" werden die Gestehungskosten zu einem bestimmten, vom kantonalen Gesetzgeber festzulegenden Zeitpunkt gesetzlich fingiert. Dabei ist der Ersatzwert harmonisierungsrechtlich als wirtschaftlicher Begriff zu verstehen und so zu bestimmen, dass er jenen Wert zum Ausdruck bringt, der dem Erwerbspreis zum gesetzlich festgelegten Zeitpunkt entspricht (vgl. Urteil 2C_705/2011 vom 26. April 2012 E. 4.3.7, in: StE 2012 B 44.12.3 Nr. 6; MARKUS REICH, Steuerrecht, 2. Aufl. 2012, § 25 Rz. 55 und 58). Abzustellen ist dabei auf den Grundsatz der Verkehrswertbemessung.
5.4 5.4.1 In Bewertungsfragen kommt den Kantonen harmonisierungs-rechtlich grundsätzlich ein erheblicher Ermessensspielraum zu (<ref-ruling> E. 3.1 S. 258 f.; <ref-ruling> E. 3.6 S. 214; je zu Art. 14 StHG). Namentlich ist der Verkehrswert im steuerrechtlichen Sinn nicht eine mathematisch exakt bestimmbare Grösse, sondern in der Regel ein Schätz- oder Vergleichswert (BGE <ref-ruling> E. 3.2.1 S. 249). Den Kantonen ist harmonisierungsrechtlich nicht eine bestimmte Bewertungsmethode vorgegeben. Jede Schätzmethode führt zwangsläufig zu einer gewissen Pauschalierung und Schematisierung und vermag nicht allen Einzelaspekten völlig gerecht zu werden. Dies ist jedoch aus praktischen und veranlagungsökonomischen Gründen unvermeidlich und in einem gewissen Ausmass zulässig, auch wenn dabei die rechtsgleiche Behandlung nicht restlos gewährleistet wird (BGE <ref-ruling> E. 3.2.2 S. 307 mit Hinweisen). Allerdings dürfen die Kantone nicht Bewertungsregeln vorsehen, die in allgemeiner Weise auf eine systematische Über- bzw. Unterbewertung von Grundstücken hinauslaufen, z.B. durch Einführung eines pauschalen Einschlags auf dem Verkehrswert zur Bestimmung des Steuerwerts oder durch Besteuerung eines bestimmten Prozentsatzes des Verkehrswertes (<ref-ruling> E. 3.6 S. 214; <ref-ruling> E. 3.2.2 S. 307 f.).
5.4.2 Gerade im Bereich der Grundstückgewinnsteuer, mit der im Vergleich zur Vermögenssteuer eine erheblich grössere Steuerbelastung einhergeht, ist von einer übermässigen Typisierung abzusehen. Dies engt den erwähnten Entscheidungsspielraum der kantonalen Behörden ein (Urteil 2C_705/2011 vom 26. April 2012 E. 4.3.2 am Ende, in: StE 2012 B 44.12.3 Nr. 6). Auch ist zu beachten, dass vorsichtige, schematische Schätzungen, die tendenziell unter dem Verkehrswert liegen, bei der Vermögenssteuer steuermindernd wirken und eine verpönte Überbesteuerung verhindern sollen (vgl. BGE <ref-ruling> E. 3.2.2 S. 249 und E. 3.3.1 S. 251; Urteile 2C_900/2011 vom 2. Juni 2012 E. 5.5; 2C_823/2008 vom 21. Juli 2009 E. 4.3), während sie bei der Grundstückgewinnsteuer - als Hilfswert für die Anlagekosten - steuererhöhend wirken.
6. 6.1 Harmonisierungsrechtlich ist vorliegend der Verkehrswert per 1. Januar 1977 der Bezugspunkt, an dem sich die Regelung gemäss § 106 Abs. 4 StG/BS messen lassen muss. Solches geht auch aus der Praxis der Vorinstanz hervor, wenn der Nachweis eines effektiv höheren Einstandswertes per 1. Januar 1977 zugelassen wird, etwa aufgrund eines höheren Bodenwertes, als er im Bodenwertkatalog festgehalten wird (vgl. Urteil des Verwaltungsgerichts des Kantons Basel-Stadt vom 9. März 2000, in: BStPra 3/2000 S. 170 ff.). Unbesehen von einer solchen Abweichung im Einzelfall findet die an sich zulässige schematisierende Ermittlung des Verkehrswertes per 1. Januar 1977 dort ihre Grenzen, wo sie den Regel- bzw. Durchschnittsfall nicht realitätsgerecht erfasst und eine systematische Unterbewertung der Grundstücke zur Folge hat. Der Vorinstanz kann daher nicht gefolgt werden, wenn sie die Abweichungen des Realwerts vom Verkehrswert per 1. Januar 1977 für unerheblich erklärt und dies damit begründet, dass § 106 Abs. 4 StG/BS auf den Realwert und nicht auf den Verkehrswert abstelle.
6.2 Was die vom Beschwerdeführer 1 geltend gemachten Baunebenkosten sowie die Kosten für die Erschliessung und die Umgebungsarbeiten betrifft, führt die Vorinstanz aus, diese Kosten seien "wohl" nicht berücksichtigt worden, was aber in § 106 Abs. 4 StG/BS auch nicht vorgesehen sei. Solche sog. Nebenkosten dürfen indessen bei der Bestimmung des Verkehrswertes per 1. Januar 1977 nicht ausser Acht gelassen werden. Auch wenn der Anteil der Nebenkosten in den letzten Jahren und Jahrzehnten zugenommen hat, lag er bereits 1975 - je nach Lageklasse - zwischen gut 6 und 9 Prozent der Gebäudekosten und war daher für die Bemessung der Grundstückgewinnsteuer keine vernachlässigbare Grösse (vgl. WOLFGANG NAEGELI, Handbuch des Liegenschaftenschätzers, 1. Aufl. 1975, S. 63 ff.; RICHNER ET AL., Kommentar zum harmonisierten Zürcher Steuergesetz, 2. Aufl. 2006, N. 177 und 196 ff. zu § 220 StG/ZH). Sind die Nebenkosten vorliegend tatsächlich nicht berücksichtigt worden, wird die Vorinstanz abzuklären haben, ob für den Kanton Basel-Stadt gesicherte Daten zum durchschnittlichen Anteil der Nebenkosten im hier massgeblichen Zeitraum vorliegen oder ob die genannten Richtwerte auch im Kanton Basel-Stadt anwendbar sind.
6.3 Zudem liess die Vorinstanz zu Unrecht offen, ob die (absoluten) Landwerte gemäss Bodenwertkatalog dem Verkehrswert entsprechen oder ob - wie vom Beschwerdeführer 1 behauptet - gegenüber dem Mittelwert der statistisch ermittelten Landwerte ein pauschaler, nicht wirtschaftlich begründeter Einschlag von 20 Prozent vorgenommen wird. Die Vorinstanz wird zu klären haben, ob, in welcher Höhe und mit welcher Begründung ein solcher Einschlag vorgenommen wird. Dieser wäre gerechtfertigt, wenn er sich wirtschaftlich begründen lässt, insb. als sog. "Bebauungseinschlag", der den Umstand berücksichtigt, dass das Land überbaut ist (vgl. RICHNER ET AL., a.a.O., N. 186 zu § 220 StG/ZH).
6.4 Soweit der Einstandswert per 1. Januar 1977 den Verkehrswert zu diesem Zeitpunkt realitätsgerecht wiedergibt, ist es nicht zu beanstanden, dass die bis zu diesem Zeitpunkt aufgelaufenen Anlagekosten gemäss gesetzlicher Regelung als abgegolten gelten (§ 106 Abs. 4 StG/BS). Dabei ist es Sache des Steuerpflichtigen nachzuweisen, dass die geltend gemachten wertvermehrenden Aufwendungen als steuermindernde Tatsachen erst nach dem 1. Januar 1977 angefallen sind. Gelingt dieser Nachweis nicht und bleibt damit offen, ob die geltend gemachten Aufwendungen vor oder nach dem 1. Januar 1977 angefallen sind, bleibt für eine Ermessensveranlagung kein Raum (Art. 46 Abs. 3 StHG bzw. § 158 Abs. 2 StG/BS; vgl. <ref-ruling> E. 4.3 S. 158; Urteil 2C_6/2011 vom 16. Mai 2011 E. 3.2.3). Diese Grundsätze wird die Vorinstanz bei den vom Beschwerdeführer 1 geltend gemachten Kosten für einen Brunnen und einen Briefkasten zu berücksichtigen haben.
7. 7.1 Da die Vorinstanz wegen ihrer unzutreffenden Rechtsauffassung keine rechtsgenüglichen Sachverhaltsfeststellungen getroffen hat, die es dem Bundesgericht erlauben würden, selbst zu entscheiden, ist die Beschwerde gutzuheissen, das angefochtene Urteil aufzuheben und die Sache zu neuem Entscheid an die Vorinstanz zurückzuweisen (<ref-law>; Urteil 2C_784/2010 vom 26. Mai 2011 E. 4.1, nicht publ. in: <ref-ruling>).
7.2 Das Appellationsgericht des Kantons Basel-Stadt hat dem Ausgang des vorliegenden Verfahrens entsprechend die kantonale Kosten- und Entschädigungsfrage neu zu regeln (vgl. Art. 107 Abs. 2 i.V.m. <ref-law> und <ref-law>). Dabei wird zu berücksichtigen sein, dass die Beschwerdeführer 2 - 5 zu Recht vorbringen, dass der vorinstanzliche Entscheid in sich widersprüchlich ist: Zunächst stellt die Vorinstanz fest, dass einzig der Beschwerdeführer 1 Partei des Rekursverfahrens vor der Steuerrekurskommission war. Anschliessend betrachtet die Vorinstanz aber die Beschwerdeführer 2 - 5 als "in der Hauptsache" unterliegend - und damit als Parteien - und auferlegt ihnen mit dieser Begründung die Verfahrenskosten der Rekursverfahren. Ein solch widersprüchlicher (Kosten-)Entscheid erweist sich als willkürlich (<ref-law>; Urteil 2C_60/2011 vom 12. Mai 2011 E. 2.1).
7.3 Dem Ausgang des Verfahrens entsprechend sind die Gerichtskosten dem Kanton Basel-Stadt, der Vermögensinteressen verfolgt, aufzuerlegen (vgl. <ref-law>). Eine Parteientschädigung ist dem Beschwerdeführer 1 nicht zuzusprechen, da er in eigener Sache prozessiert (<ref-law>; vgl. <ref-ruling> E. 5 S. 304; 2C_840/2011 vom 30. April 2012 E. 4). Hingegen haben die Beschwerdeführer 2 - 5 Anspruch auf eine angemessene Parteientschädigung.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, das Urteil des Appellationsgerichts des Kantons Basel-Stadt vom 19. Oktober 2012 aufgehoben und die Sache zu neuem Entscheid im Sinne der Erwägungen an die Vorinstanz zurückgewiesen.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Kanton Basel-Stadt auferlegt.
3. Der Kanton Basel-Stadt hat die Beschwerdeführer 2 - 5 für das bundesgerichtliche Verfahren mit insgesamt Fr. 800.-- zu entschädigen.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 6. Mai 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Egli