Erwägungen:
1. 1.1 Der montenegrinische Staatsangehörige X._ (geb. 1973) hielt sich 1991 und 1992 als Asylbewerber in der Schweiz auf. Nach seiner Wegweisung lebte er in Deutschland und Montenegro. Am 17. Juli 2008 heiratete er in seiner Heimat die Schweizer Bürgerin Y._ (geb. 1955), reiste am 24. Oktober 2008 in die Schweiz ein und erhielt in der Folge eine Aufenthaltsbewilligung für den Kanton Bern. Nach dem Umzug der Eheleute in den Kanton Zürich erteilte das Migrationsamt des Kantons Zürich X._ eine Aufenthaltsbewilligung, die bis zum 24. Oktober 2010 verlängert wurde.
1.2 Im Rahmen einer polizeilichen Einvernahme wegen häuslicher Gewalt gab die Ehefrau von X._ an, ihr Ehemann sei in Deutschland wegen eines Tötungsdeliktes zu einer Haftstrafe verurteilt worden. Abklärungen des Migrationsamtes ergaben, dass X._ in Deutschland zu folgenden Strafen verurteilt worden war: im Jahr 1995 wegen versuchten gemeinschaftlichen Diebstahls im besonders schweren Fall und wegen gemeinschaftlichen Diebstahls zu einer Geldstrafe von 100 Tagessätzen zu DM 5.--; im Jahr 1997 wegen versuchten Diebstahls im besonders schweren Fall zu einer Freiheitsstrafe von acht Monaten; im Jahr 1998 wegen versuchten Mordes in drei Fällen zu einer Freiheitsstrafe von zehn Jahren und im Jahr 2002 wegen unerlaubten Besitzes von Betäubungsmitteln zu einer Geldstrafe von 20 Tagessätzen zu Euro 5.--. Im Gesuch um Erteilung der Aufenthaltsbewilligung vom 7. Januar 2009 hatte X._ angegeben, nicht vorbestraft zu sein.
1.3 Mit Verfügung vom 2. Februar 2011 wies das Migrationsamt ein Gesuch X._s um Verlängerung der Aufenthaltsbewilligung ab und setzte ihm Frist bis 30. April 2011, um die Schweiz zu verlassen. Die Sicherheitsdirektion sowie das Verwaltungsgericht des Kantons Zürichs bestätigten am 27. Januar 2012 bzw. 13. März 2012 diesen Entscheid.
1.4 X._ und Y._ beantragen mit Eingabe vom 13. April 2012 die Aufhebung des Urteils des Verwaltungsgerichts sowie die Verlängerung der Aufenthaltsbewilligung von X._. Auf die Anordnung eines Schriftenwechsels wurde verzichtet.
Mit Verfügung vom 18. April 2012 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt.
2. Die Eingabe erweist sich als offensichtlich unbegründet und kann ohne Weiterungen im vereinfachten Verfahren nach Art. 109 BGG erledigt werden.
2.1 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, wie die Vorinstanz ihn festgestellt hat (Art. 105 Abs. 1 BGG). Es kann diesen bloss berichtigen oder ergänzen, wenn er offensichtlich unrichtig oder in Verletzung wesentlicher Verfahrensrechte ermittelt worden ist (Art. 105 Abs. 2 BGG). Der Betroffene muss rechtsgenügend dartun, dass und inwiefern der festgestellte Sachverhalt klar und eindeutig mangelhaft erscheint (vgl. Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; vgl. <ref-ruling> E. 1.4.3; <ref-ruling> E. 1.3, 393 E. 7.1, 462 E. 2.4). Auf rein appellatorische Kritik an der Sachverhaltsermittlung und an der Beweiswürdigung tritt das Bundesgericht nicht ein (<ref-ruling> E. 3 S.104 f.). Der Beschwerdeführer muss - in Auseinandersetzung mit der Begründung im angefochtenen Entscheid - im Einzelnen dartun, inwiefern die Sachverhaltsfeststellung oder die Beweiswürdigung offensichtlich unhaltbar und damit willkürlich erscheint.
2.2 Die Eingabe des Beschwerdeführers genügt diesen Anforderungen über weite Strecken nicht: Er behauptet zwar, die Vorinstanz habe den rechtserheblichen Sachverhalt unrichtig und unvollständig festgestellt, er führt indessen nicht aus, inwiefern dies offensichtlich der Fall sein soll. Der Beschwerdeführer beschränkt sich darauf, seine Sicht der Dinge, wie er sie teilweise bereits der Vorinstanz dargelegt hat, zu wiederholen. Mit den Ausführungen im angefochtenen Entscheid zu seinen Einwänden setzt er sich nicht vertieft auseinander. Soweit der Beschwerdeführer vorbringt, eine Mitarbeiterin der Einwohnerkontrolle Wetzikon habe sein Gesuch um Erteilung der Aufenthaltsbewilligung ausgefüllt und "wider besseres Wissen" die Frage nach den Vorstrafen verneint, weshalb er nie die Absicht gehabt habe, die Behörden zu täuschen, kann ihm nicht gefolgt werden: Diese Rüge erhebt der Beschwerdeführer erstmals vor dem Bundesgericht und erscheint - soweit es sich ohnehin nicht um eine neue Tatsache im Sinne von Art. 99 Abs. 1 BGG handelt - als reine Schutzbehauptung; jedenfalls hat der Beschwerdeführer das Gesuchsformular unterzeichnet, auf welchem das Vorliegen von Vorstrafen verneint wurde.
Willkür liegt nicht schon dann vor, wenn eine andere Beweiswürdigung denkbar wäre, sondern nur, wenn der angefochtene Entscheid auf einer schlechterdings unhaltbaren oder widersprüchlichen Wertung beruht, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (vgl. <ref-ruling> E. 4.2.1 S. 362; Urteil 2C_231/2011 vom 21. Juli 2011 E. 4.3). Dass und inwiefern dies hier der Fall wäre, legt der Beschwerdeführer nicht genügend dar und ist auch sonst nicht ersichtlich.
Willkür liegt nicht schon dann vor, wenn eine andere Beweiswürdigung denkbar wäre, sondern nur, wenn der angefochtene Entscheid auf einer schlechterdings unhaltbaren oder widersprüchlichen Wertung beruht, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (vgl. <ref-ruling> E. 4.2.1 S. 362; Urteil 2C_231/2011 vom 21. Juli 2011 E. 4.3). Dass und inwiefern dies hier der Fall wäre, legt der Beschwerdeführer nicht genügend dar und ist auch sonst nicht ersichtlich.
2.3 2.3.1 Aufgrund des für das Bundesgericht damit verbindlich festgestellten Sachverhalts ist der angefochtene Entscheid nicht zu beanstanden: Die Aufenthaltsbewilligung kann widerrufen bzw. nicht verlängert werden, wenn eine ausländische Person oder ihr Vertreter im Bewilligungsverfahren falsche Angaben macht oder wesentliche Tatsachen verschweigt (Art. 62 lit. a AuG [SR 142.20]) bzw. die ausländische Person zu einer längerfristigen Freiheitsstrafe verurteilt worden ist (Art. 62 lit. b AuG; beide im vorliegenden Fall jeweils in Verbindung mit Art. 51 Abs. 1 lit. b und Art. 63 Abs. 1 lit. a AuG). Von einer solchen wird praxisgemäss bei einem Freiheitsentzug von mehr als einem Jahr ausgegangen (<ref-ruling> E. 4.2 und 4.5). Dabei sind auch im Ausland verhängte Strafen von Bedeutung (vgl. etwa die Urteile 2C_264/2011 vom 15. November 2011 E. 3.3; 2C_427/2008 vom 23. Januar 2009 E. 3.2; 2C_381/2008 vom 14. Januar 2009 E. 2.2; ferner <ref-ruling> E. 4.3.1 S. 29). Der Beschwerdeführer ist in Deutschland wegen dreifachen Mordversuchs, wegen versuchten und vollendeten Diebstahls und wegen unerlaubten Besitzes von Betäubungsmitteln gesamthaft zu Freiheitsstrafen von zehn Jahren und acht Monaten sowie Geldstrafen von 120 Tagessätzen verurteilt worden. Der Beschwerdeführer hat damit einen Widerrufsgrund gesetzt, den er den Behörden zudem verschwiegen hat (Urteil 2C_651/2009 vom 1. März 2010 E. 4.1 mit Hinweisen).
2.3.2 Die Nichtverlängerung seiner Bewilligung erweist sich auch als verhältnismässig (vgl. dazu <ref-ruling> E. 4.3 u. 4.5): Zwar will der Beschwerdeführer aus den Verurteilungen seine Lehren gezogen haben; dies genügt indessen nicht, um die Gefahr eines weiteren Rückfalls auszuschliessen und sein privates Interesse dem öffentlichen Interesse des Schutzes der Bevölkerung vor potenziell rückfallgefährdeten ausländischen Straftätern aus Drittstaaten vorgehen zu lassen. Das Bundesgericht verfolgt im Zusammenhang mit Delikten gegen die körperliche Integrität - in Übereinstimmung mit der in Europa vorherrschenden Rechtsauffassung - ausländerrechtlich eine strenge Praxis (<ref-ruling> E. 4.a/aa S. 526 f.; <ref-ruling> E. 2.c S. 436 f.): Selbst ein relativ geringes Rückfallrisiko muss in diesen Fällen nicht hingenommen werden.
Der Beschwerdeführer hat gegenüber den Behörden sein Vorleben verschwiegen und diese über eine wesentliche Tatsache getäuscht. Aufgrund der ausländerrechtlichen Reaktion auf sein strafbares Verhalten in Deutschland musste ihm - entgegen seinen Einwänden - bewusst gewesen sein, dass eine Verurteilung zu zehn Jahren Freiheitsstrafe wegen versuchten Mordes auch für die schweizerischen Behörden relevant sein würde; dennoch oder gerade deshalb hat er die entsprechenden Vorkommnisse verschwiegen. Zwar liegt die Verurteilung - wie er einwendet - über zehn Jahre zurück, doch hat er einen wesentlichen Teil dieser Zeit im Strafvollzug in Deutschland verbracht; in der Schweiz hält er sich erst wieder seit Oktober 2008 und damit seit weniger als vier Jahren auf. Der Beschwerdeführer ist erst mit 35 Jahren in die Schweiz gekommen und hat seine Beziehungen zu seiner Heimat aufrecht erhalten, wo er zudem im Jahr 2011 nach eigenen Angaben vier Monate gelebt hat.
2.3.3 Richtig ist, dass seiner Schweizer Ehefrau eine Übersiedlung nach Montenegro nicht leicht fallen dürfte, doch übertrifft die gegen ihren Ehemann verhängte Strafe den vom Bundesgericht als Richtwert definierten Rahmen von zwei Jahren, ab dem keine Bewilligung mehr erteilt wird, selbst wenn dem Ehepartner die Ausreise unzumutbar oder nur schwer zumutbar erscheint, deutlich ("Reneja"-Praxis; <ref-ruling> E. 4.4 S. 382; <ref-ruling> E. 4.1 S. 185). Ob seine Gattin tatsächlich nichts von seinem Vorleben gewusst hat, wie geltend gemacht wird, kann unter diesen Umständen dahin gestellt bleiben. Zudem hat das Ehepaar bereits vier Monate zusammen in Montenegro gelebt; gemäss den verbindlichen Feststellungen der Vorinstanz bestehen gemäss Aussagen der Ehefrau sodann Pläne, "irgendwann" in Montenegro zu leben.
2.3.4 Soweit sich der Beschwerdeführer schliesslich sinngemäss auf die Urteile des EGMR Emre gegen Schweiz vom 22. Mai 2008 (Beschwerde Nr. 42034/04) bzw. Emre (N°2) gegen Schweiz vom 11. Oktober 2011 (Beschwerde Nr. 5056/10) beruft, ist ihm entgegenzuhalten, dass die dort zu beurteilenden Verhältnisse (bloss 18 1⁄2 Monate Freiheitsstrafe, Tatbegehung als Jugendlicher, psychische Krankheit) in wesentlichen Punkten anders lagen.
2.3.5 Der angefochtene Entscheid gibt die bundesgerichtliche Praxis zutreffend wieder und das Verwaltungsgericht hat die auf dem Spiele stehenden Interessen im Rahmen von Art. 62 lit. a und b AuG bzw. Art. 8 Ziff. 2 EMRK sorgfältig gegeneinander abgewogen (vgl. auch das Urteil des EGMR Boultif gegen Schweiz vom 2. August 2001, publ. in: VPB 2001 Nr. 138 S. 1392). Es kann für alles Weitere vollumfänglich auf seine zutreffenden Überlegungen verwiesen werden (Art. 109 Abs. 3 BGG).
3. Dem Verfahrensausgang entsprechend haben die unterliegenden Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 66 BGG). Es sind keine Parteientschädigungen geschuldet (Art. 68 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 1'500.-- werden den Beschwerdeführern unter solidarischer Haftbarkeit auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 10. Juli 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Winiger