Sachverhalt:
A. X._ (Beschwerdeführer) war Eigentümer zweier unüberbauter Grundstücke in Z._. Er beabsichtigte, aus diesen Grundstücken einen Ertrag zu erwirtschaften. Zu diesem Zweck liess er sich von der Bank A._ (Beschwerdegegnerin) zwei Kredite im Gesamtbetrag von Fr. 1 Mio. ausrichten und stellte diese mit einem Namensschuldbrief über Fr. 1 Mio. sicher. Gleichzeitig handelte er mit der Beschwerdegegnerin einen Vermögensverwaltungsauftrag aus. Die Beschwerdegegnerin wurde damit beauftragt, die Kreditsumme so anzulegen, dass nach der Bezahlung der Kreditzinsen immer noch ein Ertrag bzw. ein Gewinn verbliebe.
Im Jahr 2004 kam es zwischen den Parteien zu Meinungsverschiedenheiten. Im Juni 2004 kündigte die Beschwerdegegnerin die beiden Hypothekarkredite. Im Juni 2005 beendigte der Beschwerdeführer die Geschäftsbeziehungen mit der Beschwerdegegnerin. Er wies diese an, das Depot und das Konto zu saldieren und die verbleibenden Werte an die Bank B._ Luzern zu übertragen; diese übernahm auch den Schuldbrief und löste die Hypothekarkredite ab.
B. Mit Klage vom 11. September 2006 beantragte der Beschwerdeführer beim Zivilgericht Basel-Stadt, die Beschwerdegegnerin sei zu verpflichten, ihm den Betrag von Fr. 780'000.-- nebst Zins zu bezahlen. Nach dem Scheitern des Vermittlungsverfahrens wies das Zivilgericht die Klage am 10. Juni 2009 ab.
Eine gegen dieses Urteil erhobene Appellation des Beschwerdeführers vom 5. Oktober 2009 wies das Appellationsgericht des Kantons Basel-Stadt mit Entscheid vom 3. Februar 2012 ab.
C. Der Beschwerdeführer beantragt mit Beschwerde in Zivilsachen, diesen Entscheid des Appellationsgerichts aufzuheben, und den Fall zur Ergänzung des Beweisverfahrens, zur Neubeurteilung im Sinne der Erwägungen sowie insbesondere zur Durchführung eines Vor- respektive Rechnungs- respektive Expertiseverfahrens gemäss § 70 aZPO/BS an die Vorinstanz, subeventualiter an das Zivilgericht zurückzuweisen.
Die Vorinstanz und die Beschwerdegegnerin schliessen auf Abweisung der Beschwerde.
Die Parteien haben Replik und Duplik eingereicht.

Erwägungen:
1. Die Beschwerdeschrift hat grundsätzlich ein Rechtsbegehren in der Sache zu enthalten (Art. 42 Abs. 1 und Art. 107 Abs. 2 BGG). Ein blosser Rückweisungsantrag reicht ausnahmsweise aus, wenn das Bundesgericht im Falle der Gutheissung in der Sache nicht selbst entscheiden könnte, weil die erforderlichen Sachverhaltsfeststellungen der Vorinstanz fehlen (<ref-ruling> E. 1.2; <ref-ruling> E. 1.3 S. 383; <ref-ruling> E. 3.1).
Die Vorinstanz wies die Klage insbesondere mangels hinreichender Substanziierung der anspruchsbegründenden Tatsachen ab und traf keine Sachverhaltsfeststellungen, die dem Bundesgericht bei Gutheissung der Beschwerde erlauben könnten, in der Sache selbst zu entscheiden. Der Beschwerdeführer ist der Ansicht, die Vorinstanz habe dabei seinen Gehörsanspruch und das Willkürverbot verletzt, indem es u.a. die anbegehrte Durchführung eines Vor- resp. Rechnungsverfahrens nach § 70 aZPO/BS verweigert und sämtliche seiner Beweisanträge sowie eine persönliche Befragung abgelehnt habe. Bei dieser Sachlage beantragt er für den Fall der Beschwerdegutheissung zulässigerweise bloss die Rückweisung der Sache an die Vorinstanz zur Ergänzung des Beweisverfahrens und insbesondere zur Durchführung eines Vor- resp. Rechnungsverfahrens.
Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist - unter Vorbehalt einer hinlänglichen Begründung (Art. 42 Abs. 2 und <ref-law>) - grundsätzlich auf die Beschwerde einzutreten.
2. 2.1 Die Beschwerde ist hinreichend zu begründen, andernfalls wird darauf nicht eingetreten (<ref-law>; <ref-ruling> E. 2.1 S. 245 f.). In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (<ref-law>). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht kann das Bundesgericht nur insofern prüfen, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>; <ref-ruling> E. 1.3.1; <ref-ruling> E. 3.2 S. 444).
Unerlässlich ist im Hinblick auf <ref-law>, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Verletzung von Bundesrecht liegt. Die beschwerdeführende Partei soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (vgl. <ref-ruling> E. 2.1 S. 245 f.). Die Begründung hat ferner in der Beschwerdeschrift selbst zu erfolgen, und der blosse Verweis auf Ausführungen in andern Rechtsschriften oder auf die Akten reicht nicht aus (<ref-ruling> E. 3.1 S. 400).
2.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 1.5). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (<ref-law>). Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 i.V.m. <ref-law>), was in der Beschwerde näher darzulegen ist (<ref-ruling> E. 2.2.1; <ref-ruling> E. 3).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen (vgl. <ref-ruling> E. 1.2; <ref-ruling> E. 1.4.3; <ref-ruling> E. 1.3, 393 E. 7.1, 462 E. 2.4 S. 466). Soweit der Beschwerdeführer den Sachverhalt ergänzen will, hat er zudem mit Aktenhinweisen darzulegen, dass er entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (Urteile 4A_214/2008 vom 9. Juli 2008 E. 1.2, nicht publ. in: <ref-ruling>; 4A_470/2009 vom 18. Februar 2010 E. 1.2). Überdies ist in der Beschwerde darzutun, inwiefern die Behebung des gerügten Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>; <ref-ruling> E. 2.2.2). Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, namentlich auf rein appellatorische Kritik an der Beweiswürdigung, ist nicht einzutreten (BGE <ref-ruling> E. 1.4.3, 396 E. 3.1 S. 399).
2.3 Der Beschwerdeführer lässt die in den Erwägungen 2.1 und 2.2 umschriebenen Grundsätze über weite Strecken ausser Acht. So stellt er seinen rechtlichen Ausführungen zunächst eine ausführliche eigene Sachverhaltsdarstellung voran. Darin - wie auch in seiner weiteren Beschwerdebegründung - erweitert er in vielfacher Hinsicht die tatsächlichen Feststellungen der Vorinstanz bzw. weicht von diesen ab, ohne dazu jedoch rechtsgenügliche Sachverhaltsrügen zu erheben, die dem Bundesgericht gegebenenfalls eine Korrektur oder Ergänzung des im angefochtenen Urteil festgestellten Sachverhalts erlauben könnten. Soweit er sich gegen die vorinstanzliche Beweiswürdigung wendet, übt er - teilweise mittels unzulässigen Verweisen auf seine Ausführungen in den Rechtsschriften des kantonalen Verfahrens - bloss appellatorische Kritik bzw. beharrt auf seiner bereits im kantonalen Verfahren behaupteten Sachdarstellung, womit er nicht zu hören ist. In seinen weiteren rechtlichen Ausführungen unterbreitet er dem Bundesgericht sodann zu grossen Teilen bloss seine eigene Sicht der Dinge, ohne dabei hinreichend auf die vorinstanzlichen Erwägungen Bezug zu nehmen und unter hinreichender Auseinandersetzung mit denselben aufzuzeigen, inwiefern die Vorinstanz mit ihrem darauf gestützten Entscheid Bundesrecht verletzt haben soll. Auf entsprechende Ausführungen ist nicht einzugehen.
Soweit angesichts der weitgehend mangelhaften Beschwerdebegründung auf die Streitsache eingegangen werden kann, ist dazu was folgt auszuführen:
3. 3.1 Der Beschwerdeführer beantragte im erstinstanzlichen Verfahren die Durchführung eines Vorverfahrens- bzw. eines Rechnungsverfahrens gemäss §§ 69 ff. und § 72 aZPO/BS zwecks genauer Feststellung der bestrittenen Tatsachen und der Beweismittel. Er führte dazu aus, er sehe sich wegen Unvollständigkeit der Bankauszüge sowie wegen den für den Bankkunden teilweise nicht lesbaren weil nicht zu entschlüsselnden Bankauszügen nicht in der Lage, seine Forderung abschliessend und im Detail zu substanziieren. Dazu bedürfte es eines Beweisverfahrens mit Edition von Akten der Beschwerdegegnerin bzw. des beantragten Vor-/Rechnungsverfahrens, allenfalls unterstützt von einer Expertise. Die Beschwerdegegnerin beantragte in der Klageantwort die Klageabweisung; der Beschwerdeführer habe die Möglichkeit gehabt, aber nicht genutzt, seine Klage hinreichend zu substanziieren. Gleichzeitig betonte die Beschwerdegegnerin, den Editionsanträgen - von gewissen hier nicht weiter thematisierten Ausnahmen abgesehen - nachkommen zu wollen, und legte eine Vielzahl von Unterlagen ein. Der Beschwerdeführer anerkannte in der Replik zunächst, aufgrund der editierten Unterlagen nun endlich den nötigen Aufschluss über das sorgfaltswidrige Gebaren der Beschwerdegegnerin erhalten zu haben, hielt allerdings die Frage der Prüfung eines allfälligen Vorverfahrens weiterhin für berechtigt und stellte es dem Gericht anheim, über die Opportunität eines solchen zu befinden. In einer kurz darauf eingereichten Eingabe teilte er dem Gericht mit, am Antrag auf ein Vorverfahren festzuhalten.
Der Instruktionsrichter verfügte daraufhin am 5. Mai 2008, es werde nach Vorliegen der Duplik entschieden, ob nach dem bereits durchgeführten Vermittlungsverfahren ein Vorverfahren angezeigt sei. Nach Erhalt der Duplik verfügte er am 19. Februar 2009, der Schriftenwechsel sei geschlossen und die Parteien würden zur Hauptverhandlung geladen. Mit Urteil vom 10. Juni 2009 wies das Zivilgericht die Klage ab. Darin begründete es den Verzicht auf die Durchführung eines Vorverfahrens kurz. Weiter führte es zusammenfassend aus, der Beschwerdeführer habe weder den Schaden noch eine Vertragsverletzung nachgewiesen bzw. zu einem grossen Teil die relevanten Umstände nicht einmal genügend substanziiert und behauptet. Insbesondere habe er nicht einmal dargelegt, welche Titel und weiteren Vermögenswerte er nach der Beendigung des Vertragsverhältnisses mit der Beschwerdegegnerin noch von dieser erhalten habe. Die Klage sei daher abzuweisen und es könne von den zahlreichen Editions- und Expertiseanträgen abgesehen werden. Im Übrigen habe der Beschwerdeführer die von der Beschwerdegegnerin durchgeführte Vermögensverwaltung genehmigt, so dass ein Schaden mangels Unfreiwilligkeit der Vermögensverminderung nicht entstanden sei.
3.2 Die Vorinstanz hielt dazu u.a. fest, im anwendbaren Basler Zivilprozessrecht sei die Möglichkeit einer nachträglichen Substanziierung nach dem Vorliegen gewisser Dokumente bzw. nach Durchführung eines Vor- oder Rechnungsverfahrens nicht vorgesehen. Indessen sei gegebenenfalls von Bundesrechts wegen eine solche Möglichkeit im Rahmen einer Stufenklage zu geben, in der eine unbestimmte Forderungsklage eingereicht und mit einer Klage auf Rechnungslegung kombiniert werde; alternativ oder kumulativ könne der Kläger die notwendige Auskunft über entsprechende Beweisanträge einfordern und, sobald sich der Sachverhalt geklärt habe, mittels Klageänderung seine Begehren exakt beziffern. Ein bundesrechtlicher Anspruch auf eine Stufenklage bzw. auf ein solches Vorgehen bestehe (nach <ref-ruling> E. 5.1 und wie nunmehr Art. 85 Abs. 1 der Schweizerischen Zivilprozessordnung ausdrücklich bestimme) allerdings nur, wenn dem Kläger die Substanziierung in der ersten Rechtsschrift nicht möglich oder nicht zumutbar sei. Fehle diese Voraussetzung, seien die kantonalrechtlichen Bestimmungen, nach denen der Substanziierungspflicht bereits in der ersten Rechtsschrift nachzukommen sei, nicht bundesrechtswidrig.
Für den vorliegenden Fall pflichtete die Vorinstanz der Auffassung des Zivilgerichts bei, dass der Beschwerdeführer zwar eine solche Unmöglichkeit bzw. Unzumutbarkeit behauptet habe, ihm darin indessen nicht zu folgen sei. Vielmehr wäre dem Beschwerdeführer aufgrund der ihm vorliegenden Unterlagen eine Substanziierung hinsichtlich des Schadens und der Verletzungen der Sorgfaltspflicht möglich und zumutbar gewesen. Das Zivilgericht habe die Klage in der Folge zu Recht mangels Substanziierung bzw. Nachweises der Haftungsvoraussetzungen abgewiesen. Was den Schaden anbelange, hätten in den Rechtsschriften sowohl für die Schadensberechnung unentbehrliche Angaben über die Zusammensetzung bzw. den Wert des relevanten Vermögens des Beschwerdeführers im Zeitpunkt des Vertragsschlusses als auch im Zeitpunkt der Vertragsbeendigung gefehlt. Vorliegend habe dem Beschwerdeführer klar sein müssen, dass ein Vor- oder Rechnungsverfahren im Falle einer ungenügend substanziierten Klage weder nötig noch sinnvoll sei, unter Vorbehalt der hier nicht gegebenen Ausnahme der Unzumutbarkeit oder Unmöglichkeit der Substanziierung. Insbesondere verkenne er die Funktion dieser Verfahren, in deren Rahmen es nicht Aufgabe des Instruktionsrichters sei, dem Vertreter einer Prozesspartei bei der Substanziierung behilflich zu sein. Eine Edition der von der Beklagten im Prozess nicht bereits eingelegten Dokumente hätte am Ergebnis des Verfahrens nichts mehr ändern können, weil die Klage ohnehin mangels genügender Substanziierung des Schadens (bzw. der Vertragsverletzungen) abzuweisen gewesen sei. Nachdem der Beschwerdeführer schon eine Substanziierung des tatsächlichen, effektiven Werts des Depots bei Vertragsbeginn und Vertragsende versäumt habe, gelte dasselbe für die Einholung der beantragten Expertise, die einzig zur Ermittlung des hypothetischen Werts des Depots bei richtiger Vertragserfüllung dienen könne. Ebenfalls nicht erforderlich sei zur Gehörswahrung eine persönliche Befragung des Beschwerdeführers, da eine solche kein Beweismittel sei und der Beschwerdeführer seinen Standpunkt hinreichend - im Rahmen der Hauptverhandlung auch mündlich - ins Verfahren habe einbringen können.
4. Der Beschwerdeführer macht geltend, die Vorinstanz habe zu Unrecht eine Gehörsverletzung seitens des Zivilgerichts verneint, weil jenes die Ablehnung eines Vor- bzw. Rechnungsverfahrens nach §§ 69 ff. aZPO/BS nicht hinreichend begründet habe.
Nach den Feststellungen der Vorinstanz wurde die Ablehnung des entsprechenden Verfahrensantrags vom Zivilgericht im Endurteil vom 10. Juni 2009 begründet. Die Vorinstanz verwies dabei auf eine Stelle im erstinstanzlichen Urteil, an der sinngemäss ausgeführt wurde, die Klage sei mangels hinreichender Substanziierung abzuweisen, weshalb die Durchführung eines Vor- oder Rechnungsverfahrens unterbleiben könne. Das Appellationsgericht entschied, diese Begründung genüge den verfassungsrechtlichen Anforderungen an die Entscheidbegründung (vgl. dazu <ref-ruling> E. 5.1; <ref-ruling> E. 2.2.1 S. 188; <ref-ruling> E. 4.1 S. 88 mit Hinweisen). Es räumte ein, dass sie knapp ausgefallen sei. Vorliegend habe aber dem Beschwerdeführer danach klar sein müssen, dass die von ihm gestellte Frage nach der Opportunität eines Vor- oder Rechnungsverfahrens vom Gericht verneint worden sei, weil ein Vor- oder Rechnungsverfahren im Falle einer ungenügenden Substanziierung der Klage weder nötig noch sinnvoll sei.
Dem ist ohne weiteres beizupflichten. Aus der Begründung des Zivilgerichts geht entgegen der Ansicht des Beschwerdeführers ohne weiteres hervor, von welchen Überlegungen sich das Gericht in diesem Punkt leiten liess und worauf es seinen Entscheid stützte, nämlich darauf dass die Durchführung der beantragten Verfahren an der Klageabweisung mangels Substanziierung nichts ändern könnte und daher sinnlos sei. Die Vorinstanz verneinte in diesem Punkt zu Recht eine Gehörsverletzung und die Rüge ist unbegründet.
Analog verhält es sich mit der vom Zivilgericht an derselben Stelle seines Urteils angeführten, sinngemäss gleich lautenden Begründung für die Abweisung der Editions- und Expertiseanträge. Soweit der Beschwerdeführer vorliegend rügen will, das Appellationsgericht habe auch insoweit eine Gehörsverletzung wegen ungenügender Entscheidbegründung zu Unrecht verneint, erweist sich auch dies als unbegründet.
5. Das Zivilgericht lehnte auch den Antrag auf persönliche Befragung des Beschwerdeführers an gleicher Stelle und mit analoger Begründung ab, wie die in der vorstehenden Erwägung 4 erwähnten Verfahrensanträge. Der Beschwerdeführer rügte dies im Appellationsverfahren als Verstoss gegen das rechtliche Gehör und als formelle Rechtsverweigerung. Die Vorinstanz verwarf die entsprechende Rüge mit der Begründung, die persönliche Befragung sei im baselstädtischen Zivilprozessrecht kein Beweismittel und die Parteien hätten die Möglichkeit gehabt, ihren Standpunkt in sehr ausführlichen Rechtsschriften darzulegen und im Plädoyer an der Hauptverhandlung mündlich zu erläutern. Der Beschwerdeführer macht nicht geltend, dass die Vorinstanz mit dieser Beurteilung Bundesrecht verletzt hätte. Er rügt indessen eine Verletzung des aus Art. 6 Ziff. 1 EMRK und <ref-law> abgeleiteten Grundsatzes der Waffengleichheit, die darin liege, dass auf Seiten der Beschwerdegegnerin im vorliegenden Fall involvierte Personen vor Zivilgericht zu "diversen Aspekten des Sachverhalts" ausgefragt worden seien, während keine Befragung seiner Person im Rahmen des erst- und/oder zweitinstanzlichen Verfahrens sowohl vor Zivilgericht als auch durch die Vorinstanz stattgefunden habe.
Auf eine Verletzung des Grundsatzes der Waffengleichheit wegen der nicht erfolgten Befragung durch das Zivilgericht beruft sich der Beschwerdeführer erstmals im vorliegenden Verfahren, während er die Unterlassung seiner Befragung im vorinstanzlichen Verfahren bloss als Gehörsverletzung gerügt hatte, wenn auch mit Hinweis auf die im Gegensatz zu ihm erfolgte Befragung von Mitarbeitern der Beschwerdegegnerin. Es ist fraglich, ob er damit dem Gebot der Ausschöpfung des kantonalen Instanzenzugs für Verfassungsrügen genügt (vgl. Art. 75 Abs. 1 und 106 Abs. 2 BGG; <ref-ruling> E. 2 S. 640) und damit auf diese Rüge unter diesem Aspekt eingetreten werden kann. Dies kann indessen offen bleiben, da die Rüge sich jedenfalls als unbegründet erweist, soweit sie überhaupt rechtsgenügend motiviert ist:
Der Grundsatz der Waffengleichheit bildet einen Teilgehalt des Rechts auf ein faires Verfahren (<ref-law>, Art. 6 Ziff. 1 EMRK). Er garantiert, dass sich alle Parteien mit "gleich langen Spiessen" am Verfahren beteiligen können, insbesondere mit gleichem Recht auf Aktenzugang und Teilnahme am Beweisverfahren und zwar zu Bedingungen, die keinen wesentlichen Nachteil gegenüber der Gegenpartei darstellen (<ref-ruling> E. 5.3.1; <ref-ruling> E. 2b S. 163). Er soll nicht nur eine formale Gleichheit der prozessualen Rechtspositionen der Parteien gewährleisten, sondern weiter gehend auch ihre durch das Gericht zu verwirklichende materielle Gleichwertigkeit im Sinne einer prozessualen Chancengleichheit. Allerdings verpflichtet Art. 6 Ziff. 1 EMRK die Vertragsstaaten nicht, eine vollständige Waffengleichheit zwischen den Parteien herzustellen. Aus der Konvention ergibt sich jedoch ein Anspruch der Partei, nicht in eine prozessuale Lage versetzt zu werden, aus der sie keine vernünftige Chance hat, ihre Sache dem Gericht zu unterbreiten, ohne gegenüber den anderen Verfahrensbeteiligten klar benachteiligt zu sein (<ref-ruling> E. 4.3.1 mit Hinweisen auf die Rechtsprechung des EGMR).
Der Beschwerdeführer müsste danach zur Begründung seiner Rüge konkret darlegen, inwiefern ihn seine Nichtbefragung gegenüber der Gegenpartei wesentlich benachteiligt haben soll, mithin hinsichtlich welcher für den Ausgang des Verfahrens wesentlicher Aspekte die Gegenpartei im Gegensatz zu ihm befragt worden sein soll (vgl. dazu auch die Urteile 4P.216/2000 vom 14. Dezember 2000 E. 2b/aa und 4P.96/1992 vom 14. Juli 1992 E. 3b). Soweit er bloss pauschal geltend macht, die Mitarbeiter der Beschwerdegegnerin seien "zu diversen Aspekten des Sachverhalts ausgefragt worden" genügt er diesen Anforderungen an die Begründung nicht. Konkret beruft sich der Beschwerdeführer einzig darauf, die Vorinstanz sei aufgrund der Befragung der Mitarbeiter der Beschwerdegegnerin fälschlicherweise davon ausgegangen, zwischen den Parteien sei nie vereinbart worden, der Anfangswert des Portfolios müsse erhalten bleiben und die Hypothekarzinsen hätten mit den im Portfolio anfallenden Zinsen gedeckt werden müssen. Insoweit entbehrt die Rüge indessen jeglicher Grundlage und stösst sie ins Leere. Denn die Vorinstanz hielt im Gegenteil dafür, es sei offenkundig, dass der Beschwerdeführer bei Vertragsabschluss die Erwartung gehegt habe, dass sich der Wert des Portfolios nicht vermindere und die Hypothekarzinsen mit den Erträgen des Portfolios gedeckt werden könnten, was auch der Beschwerdegegnerin habe klar sein müssen. Eine wesentliche Benachteiligung des Beschwerdeführers bei der Einbringung seines Standpunkts ist auch insoweit nicht dargetan.
Analoges gilt, soweit sich der Beschwerdeführer über eine Verletzung des Grundsatzes der Waffengleichheit beklagt, weil das Appellationsgericht selber ihn nicht persönlich befragte. Überdies macht der Beschwerdeführer nicht geltend und geht auch aus dem angefochtenen Urteil nicht hervor, dass er der Vorinstanz seine persönliche Befragung im Appellationsverfahren beantragt hätte. Er kann sich demnach insoweit von vornherein nicht auf eine Verletzung der Waffengleichheit berufen.
6. Der Beschwerdeführer rügt, er sei durch die Abweisung seines Antrags auf Durchführung eines Vor- resp. Rechnungsverfahrens und seiner Editions- und Expertisierungsanträge der Möglichkeit und seines Rechts beraubt worden, den durch ihn erlittenen Schaden hinreichend zu substanziieren, was eine Verletzung des rechtlichen Gehörs darstelle. Darüber hinaus leide die diesbezügliche Argumentation der Vorinstanz, wonach ein Vor- oder Rechnungsverfahren im Falle einer ungenügend substanziierten Klage weder sinnvoll noch nötig sei, an einem unauflösbaren Widerspruch und sei geradezu willkürlich. Denn ohne die für den weiteren Verlauf des Verfahrens unabdingbaren Informationen und Bankunterlagen, die der Beschwerdeführer im Rahmen seiner mit den vorgenannten Editions- und Expertisebegehren kombinierten Stufenklage (bzw. in einem Vor- oder Rechnungsverfahren) berechtigterweise verlangt habe, sei es ihm mangels vollständiger und nachvollziehbarer Unterlagen schlichtweg unmöglich gewesen, den geltend gemachten Schaden konkret und umfassend zu substanziieren. Die einzige prozessuale Möglichkeit, zu seinem Recht zu kommen, sei die Erhebung einer Stufenklage gewesen, in der er den Antrag auf Durchführung eines Vor- bzw. Rechnungsverfahrens verbunden mit Editions- und Expertiseanträgen mit einer Forderung in geschätzter Höhe kombiniert habe, um in einem zweiten Schritt ergänzende Ausführungen machen zu können. Darin liege keine Umgehung der Eventualmaxime nach baselstädtischem Prozessrecht.
Diese Rügen entbehren jeglicher Grundlage. Der Beschwerdeführer bestreitet zu Recht nicht, dass von Bundesrechts wegen nur dann ein Anspruch auf Erhebung einer Stufenklage besteht, wenn dem Kläger die Substanziierung seines Hauptanspruchs ohne Erfüllung des Hilfsanspruchs auf Rechnungslegung nicht möglich oder unzumutbar ist. Das Bundesgericht hielt in <ref-ruling> E. 4a S. 219 f. fest, wie in Konstellationen, in denen der Schaden vom Richter gestützt auf <ref-law> ermessensweise zu schätzen sei, begrenze das bundesprivatrechtliche Verwirklichungsgebot die Anforderungen an die materielle Substanziierung der Forderung auch in Fällen, in denen der Kläger nicht in der Lage sei, die Höhe seines Anspruchs genau anzugeben, oder diese Angabe unzumutbar erscheine, namentlich weil erst das Beweisverfahren die Grundlage der Bezifferung der Forderung abgebe. Gleiches gelte für die sogenannte Stufenklage, in der ein Begehren um Rechnungslegung mit einer zunächst unbestimmten Forderungsklage auf Leistung verbunden werde (vgl. dazu auch <ref-ruling> E. 5.1 S. 245 f.; <ref-ruling> E. 2b S. 142). Eine bundesrechtliche Begrenzung der Anforderungen an die materielle Substanziierung der Forderung in solchen Fällen heisst nun allerdings nicht, dass es den Kantonen nicht erlaubt wäre, zu fordern, dass der Anspruch soweit möglich und zumutbar substanziiert wird. Entsprechend verlangt die Rechtsprechung in Anwendungsfällen von <ref-law>, dass der Geschädigte alle Umstände, die für den Eintritt eines Schadens sprechen und dessen Abschätzung erlauben oder erleichtern, soweit möglich und zumutbar zu behaupten und zu beweisen hat (<ref-ruling> E. 3a S. 221 mit Hinweisen).
Die Vorinstanz führte aus, in Fällen wie dem vorliegenden seien für die Schadensberechnung drei Werte von Bedeutung, nämlich der Wert des Vermögens vor der ersten Vertragsverletzung, der tatsächliche Wert nach der Vertragsverletzung und der hypothetische Wert, den das Vermögen hätte, wenn der Vertrag richtig erfüllt worden wäre; die tatsächlichen Werte liessen sich üblicherweise aus den Unterlagen entnehmen, nur der hypothetische Wert sei - allenfalls unter Beizug eines Experten - zu schätzen. Das Zivilgericht habe in Ausübung des ihm zustehenden Ermessens und im Einklang mit der bundesgerichtlichen Praxis den Zeitpunkt der Vertragsauflösung als den für die Schadensbestimmung massgebenden Zeitpunkt (nach der Vertragsverletzung) bestimmen dürfen, was auch der Beschwerdeführer anerkenne. Der Beschwerdeführer habe es in seinen Rechtsschriften indessen an Angaben darüber vermissen lassen, wie sich sein für das Urteil relevante Vermögen in diesem Zeitpunkt zusammengesetzt und welchen Wert es aufgewiesen habe. Ohne solche Angaben sei indessen dem Gericht eine Berechnung des Schadens nicht möglich gewesen und eigene Recherchen des Gerichts in den von der Beschwerdegegnerin eingereichten Unterlagen zur Feststellung dieses Werts wären mit der Verhandlungsmaxime nicht vereinbar gewesen. Die Behauptung des Beschwerdeführers, wonach er im Zeitpunkt der Klagebegründung und auch noch im Zeitpunkt der Replik nicht über die erforderlichen Informationen bzw. Kenntnisse verfügt habe, um entsprechende Angaben machen zu können, habe das Zivilgericht mit überzeugender Beweiswürdigung widerlegt und treffe nicht zu. So habe das Zivilgericht betont, dass die Saldierung der Konti und des Depots durch die Beschwerdegegnerin im Detail dargelegt und dokumentiert worden sei. Überdies habe das Zivilgericht zu Recht angenommen, dass der Beschwerdeführer von seiner neuen Bank bei Eröffnung der Beziehung dokumentiert worden sein musste und somit die auf die betreffende Bank übertragenen Vermögenswerte genau hätte angeben können und müssen. Bei dieser Sachlage habe sich das Zivilgericht zu Recht auf mangelnde Substanziierung des Schadens berufen.
Der Beschwerdeführer bestreitet diese vorinstanzlichen Ausführungen grösstenteils nicht und beschränkt sich im Wesentlichen darauf, auf seiner Behauptung zu beharren, aus den von der Beschwerdegegnerin nach Rechtshängigkeit der Klage eingereichten bzw. schon früher erhaltenen Dokumenten lasse sich der für die Schadensberechnung unabdingbare Vermögensstand bei Vertragsauflösung nicht eindeutig eruieren. Er lässt dabei aber eine rechtsgenügend substanziierte Sachverhaltsrüge vermissen, in der er die vorinstanzliche Beweiswürdigung als willkürlich ausweisen würde, nach der er im Zeitpunkt der Klagebegründung bzw. der Replikeinreichung über die erforderlichen Unterlagen bzw. Informationen verfügt habe bzw. verfügt haben müsse, um Angaben über den Vermögensstand im massgeblichen Zeitpunkt zu machen, und damit keine Unmöglichkeit oder Unzumutbarkeit bestanden habe, seinen Schaden insoweit zu substanziieren. Er konkretisiert nicht rechtsgenügend, inwiefern die Unterlagen nicht ausreichend gewesen sein sollen, indem er sich damit begnügt, pauschal zu behaupten, die nach der Vermittlungsverhandlung zugestellten Unterlagen würden der branchenüblichen und minimalen Dokumentationspflicht nicht genügen, sie seien unvollständig und mehrheitlich unverständlich gewesen. Insbesondere ist der Beschwerdeführer nicht zu hören, wenn er behauptet, auch das Zivilgericht und die Vorinstanz wären nicht in der Lage gewesen, den Depotwert bei Beendigung des Vertragsverhältnisses zu beziffern, ohne auf die gegenteiligen Ausführungen der Vorinstanz einzugehen, dass dies dem Gericht zwar möglich, indessen mit der Verhandlungsmaxime nicht vereinbar gewesen wäre, nach der die erforderlichen Angaben zur Substanziierung des Anspruchs in den Rechtsschriften in den Prozess eingebracht werden müssten. Auf diese Vorbringen kann nicht eingetreten werden.
Bei dieser Sachlage verneinte die Vorinstanz einen bundesrechtlichen Anspruch darauf, den erlittenen Schaden insoweit erst nach der Erhebung weiterer Unterlagen bzw. Expertisen zu substanziieren, zu Recht. Dass die Vorinstanz das baselstädtische Zivilprozessrecht willkürlich angewendet hätte, wenn sie gestützt auf dieses entschied, eine spätere Substanziierung sei demnach nicht zuzulassen, macht der Beschwerdeführer nicht geltend (<ref-law>).
Verneinte die Vorinstanz damit, ohne Bundesrecht zu verletzen, dass der Beschwerdeführer, die kumulative Haftungsvoraussetzung des von ihm erlittenen Schadens prozessrechtskonform und rechtzeitig substanziiert hatte, soweit ihm dies möglich und zumutbar gewesen wäre, schützte sie das Urteil des Zivilgericht, soweit darin die Klage aus diesem Grund abgewiesen wurde, zu Recht.
Nach dem Ausgeführten hätte die Durchführung eines Vor- bzw. Rechnungsverfahrens, verbunden mit Editions-, Expertiseanträgen und einer persönlichen Befragung an der Zulässigkeit einer nachträglichen Substanziierung der Klage zur Verhinderung ihrer Abweisung nichts ändern können. Damit verletzte die Vorinstanz den Gehörsanspruch des Beschwerdeführers nicht, wenn sie die entsprechenden Verfahrensanträge mangels Relevanz für den Verfahrensausgang abwies (vgl. dazu <ref-ruling> E. 5.1; <ref-ruling> E. 3.2 S. 494; <ref-ruling> E. 2b S. 56; <ref-ruling> E. 4b S. 268; je mit Hinweisen). Insoweit ist auch kein Widerspruch in ihrer Begründung erkennbar.
7. Bestätigte die Vorinstanz somit die Klageabweisung durch die Erstinstanz zu Recht, ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei dieser Sachlage braucht nicht auf die weiteren Begründungen im angefochtenen Urteil und die in der Beschwerde dagegen erhobenen Rügen eingegangen zu werden, wonach der Beschwerdeführer auch eine für den Schaden kausale Vertragsverletzung weder hinreichend substanziiert noch nachgewiesen habe und dem Beschwerdeführer infolge seiner Genehmigung der Vermögensverwaltung mangels Unfreiwilligkeit der Vermögensverminderung kein Schaden im Rechtssinn entstanden sei.
Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 10'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 12'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt schriftlich mitgeteilt.
Lausanne, 19. Dezember 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Widmer