Sachverhalt:
A. Der kosovarische Staatsangehörige X._ (geb. 1978) heiratete am 16. Juli 2003 in seiner Heimat die in der Schweiz niedergelassene Landsfrau Y._ (geb. 1982). Nach seiner Einreise in die Schweiz am 12. November 2003 erteilte ihm das Migrationsamt des Kantons Aargau die Aufenthaltsbewilligung, welche letztmals bis zum 30. November 2009 verlängert wurde. Im Februar 2005 kam die gemeinsame Tochter A._ zur Welt.
Mit Urteil vom 16. Juni 2006 stellte die zuständige Gerichtspräsidentin fest, dass die Eheleute X._ seit Ende 2005 getrennt lebten und gestattete ihnen, auch fortan getrennt zu leben. Am 11. November 2009 wurde die Ehe geschieden; die elterliche Sorge wurde der Mutter zugeteilt und dem Vater ein Besuchsrecht eingeräumt.
B. Am 5. Oktober 2009 ersuchte X._ um eine weitere Verlängerung seiner Aufenthaltsbewilligung. Das kantonale Migrationsamt, das die Voraussetzungen zur Verlängerung als erfüllt erachtete, unterbreitete das Gesuch am 10. Dezember 2009 dem Bundesamt für Migration (BFM) zur Zustimmung. Mit Verfügung vom 7. April 2010 verweigerte das BFM die Zustimmung zur Verlängerung der Aufenthaltsbewilligung und wies X._ aus der Schweiz weg.
Gegen diese Verfügung des BFM beschwerte sich X._ beim Bundesverwaltungsgericht. Dieses wies die Beschwerde mit Urteil vom 4. Januar 2012 ab.
C. Gegen das Urteil des Bundesverwaltungsgerichts führt X._ mit Eingabe vom 8. Februar 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten, eventuell subsidiäre Verfassungsbeschwerde, beim Bundesgericht. Er beantragt, das angefochtene Urteil sei aufzuheben und die Vorinstanz (recte: das BFM) sei anzuweisen, dem Antrag des Kantons Aargau auf Verlängerung der Aufenthaltsbewilligung zuzustimmen.
Das Bundesverwaltungsgericht verzichtet auf eine Vernehmlassung. Das BFM beantragt, die Beschwerde sei abzuweisen.
Mit Verfügung vom 13. Februar 2012 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt.

Erwägungen:
1. 1.1 Der Beschwerdeführer macht einen Anspruch nach Art. 50 AuG (SR 142.20) geltend. Insoweit ist seine Beschwerde in öffentlich-rechtlichen Angelegenheiten trotz der Ausschlussbestimmung des <ref-law> zulässig (Urteil 2C_304/2009 vom 9. Dezember 2009 E. 1.1, nicht publ. in: <ref-ruling>). Aufgrund der Beziehung zu seiner minderjährigen Tochter kann er sich zusätzlich auch auf Art. 8 EMRK berufen. Auf das im Übrigen form- und fristgerecht eingereichte Rechtsmittel (Art. 42 und Art. 100 Abs. 1 BGG) ist daher grundsätzlich einzutreten.
1.2 Die Verfassungsbeschwerde ist im Verhältnis zur Beschwerde in öffentlich-rechtlichen Angelegenheiten subsidiär (<ref-law>). Sie kann sich überdies nicht gegen den Entscheid einer Bundesbehörde richten, weshalb darauf nicht einzutreten ist.
1.3 Das Bundesgericht legt seinem Urteil die Sachverhaltsfeststellungen der Vorinstanz zugrunde (<ref-law>). Mit einer Beschwerde in öffentlich-rechtlichen Angelegenheiten können diese nur dann gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich sind (<ref-ruling> E. 1.2.2 S. 252; <ref-ruling> E. 7.1 S. 398) oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen. Zudem ist vom Beschwerdeführer aufzuzeigen, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>).
1.4 Die Beschwerdeschrift hat gemäss <ref-law> die Begehren und deren Begründung zu enthalten; im Rahmen der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (<ref-law>). Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheides auseinandersetzt (<ref-ruling> E. 2.1 S. 245 f.). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insoweit, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>).
2. 2.1 Ausländische Ehegatten von Personen mit Niederlassungsbewilligung haben unter Vorbehalt von Art. 51 Abs. 2 AuG Anspruch auf Erteilung und Verlängerung ihrer Aufenthaltsbewilligung, wenn sie mit dem Partner zusammenwohnen (Art. 43 Abs. 1 AuG). Gemäss Art. 50 Abs. 1 AuG besteht nach Auflösung der Ehe oder der Familiengemeinschaft der Anspruch auf Verlängerung der Aufenthaltsbewilligung nach Art. 43 AuG weiter, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration gegeben ist (lit. a) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (lit. b).
2.2 Wie die Vorinstanz zu Recht ausgeführt hat, verlangt Art. 50 Abs. 1 lit. a AuG eine dreijährige Ehegemeinschaft in der Schweiz (<ref-ruling> E. 3.3.5 S. 120). Da die eheliche Gemeinschaft hier unbestrittenermassen weniger als drei Jahre gedauert hat, kommt dem Beschwerdeführer aus Art. 50 Abs. 1 lit. a AuG von vornherein kein Anspruch auf Verlängerung seiner Aufenthaltsbewilligung zu. Ob eine erfolgreiche Integration besteht, muss unter diesen Umständen nicht geprüft werden.
2.3 Der Beschwerdeführer beruft sich sodann auf einen wichtigen persönlichen Grund im Sinne von Art. 50 Abs. 1 lit. b AuG. Ein persönlicher nachehelicher Härtefall gemäss dieser Bestimmung setzt aufgrund der gesamten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben voraus. Dem Schutz des Familienlebens nach Art. 8 EMRK und <ref-law> ist im Rahmen von Art. 50 AuG Rechnung zu tragen. Insoweit ist namentlich zu berücksichtigen, ob der Ausländer Kinder in der Schweiz hat (vgl. Urteile 2C_195/2010 vom 23. Juni 2010 E. 6; 2C_830/2010 vom 10. Juni 2011 E. 3; je mit Hinweisen). Nach der ständigen Praxis zu den erwähnten Verfassungs- und Konventionsbestimmungen ist dem ausländischen Elternteil, der nicht mit seinen Kindern zusammenlebt, der Aufenthalt dann zu gewähren, wenn zwischen ihm und den Kindern in wirtschaftlicher und affektiver Hinsicht eine besonders enge Beziehung besteht, die wegen der Distanz zu seinem Herkunftsland praktisch nicht aufrechterhalten werden könnte, und wenn zusätzlich das bisherige Verhalten des Ausländers zu keinerlei Klagen Anlass gegeben hat (zu Art. 8 EMRK: <ref-ruling> E. 3c S. 5, 22 E. 4a und b S. 25 f.; zu Art. 50 AuG: erwähntes Urteil 2C_195/2010 E. 6.6).
2.3.1 Die Vorinstanz hat hierzu festgestellt, eine besonders enge affektive Beziehung zu seiner Tochter sei nicht dargetan (vgl. angefochtener Entscheid E. 8.5). Diese Ausführungen sind nicht zu beanstanden: Der Umstand, dass an vier Tagen pro Monat (jedes 1. und 3. Wochenende) Besuche stattfinden, ist keineswegs geeignet darzutun, dass eine (besonders) enge Beziehung zu seiner Tochter besteht. Was das Erfordernis der besonderen Intensität der affektiven Beziehung betrifft, ist dieses nämlich bloss dann als erfüllt zu erachten, wenn ein grosszügig ausgestaltetes Besuchsrecht eingeräumt ist und dieses kontinuierlich, spontan und reibungslos ausgeübt wird (vgl. Urteil 2C_799/2010 vom 20. Februar 2011 E. 3.3.1 mit Hinweisen). Wohl auch bedingt durch die ablehnende Haltung der Mutter ist es dem Beschwerdeführer bisher nicht gelungen, wesentliche Betreuungsfunktionen zu übernehmen und ein kontinuierlich gepflegtes Verhältnis zu seiner Tochter aufzubauen. Soweit der Beschwerdeführer ausführt, die Vorinstanz habe sich in Bezug auf das Besuchsrecht mehrheitlich auf Äusserungen seiner Ex-Frau gestützt, welche nicht belegt werden könnten, ist ihm entgegenzuhalten, dass die Sachverhaltsfeststellungen der Vorinstanz für das Bundesgericht verbindlich sind (vgl. E. 1.3 hiervor). Der Beschwerdeführer legt indes nicht substantiiert dar, warum diese offensichtlich unrichtig sein sollen. Der Beschwerdeführer gibt sodann selber zu, dass es sich hier um ein "praxisübliches" - und damit eben nicht ein besonders grosszügiges - Besuchsrecht handle; er führt diesen Umstand darauf zurück, dass die Mutter das Besuchsrecht dem Beschwerdeführer entziehen bzw. behindern wolle. Dagegen ist einzuwenden, dass das Obergericht des Kantons Aargau mit Urteil vom 27. April 2010 der Ehefrau im Falle der Missachtung des Besuchsrechts eine Bestrafung mit Busse angedroht hat (vgl. angefochtener Entscheid Sachverhalt lit. E). Im Lichte der bundesgerichtlichen Rechtsprechung geht das Besuchsrecht auf jeden Fall nicht über das übliche Mass hinaus (vgl. etwa Urteile 2C_718/2010 vom 2. März 2011 E. 3.2.1; 2C_787/2010 vom 16. Juni 2011 E. 3.2.2; 2C_335/2009 vom 12. Februar 2010 E. 2.2.3; 2C_194/2009 vom 24. Juni 2009 E. 3.1; 2C_870/2008 vom 26. Mai 2009 E. 2.2.1). Schliesslich bringt der Beschwerdeführer auch nichts vor, was auf eine mehr als normale Vater-Tochter-Beziehung hindeuten würde.
2.3.2 Der Schluss der Vorinstanz, zwischen dem Beschwerdeführer und seiner Tochter bestehe weder in wirtschaftlicher noch in affektiver Hinsicht eine besonders enge Beziehung, ist somit nicht zu beanstanden. Bei dieser Sachlage kommt dem Umstand, dass der Beschwerdeführer sein Besuchsrecht vom Kosovo aus nur beschränkt und mit Schwierigkeiten verbunden wird ausüben können, keine entscheidende Bedeutung zu. Dies umso weniger, als der Beschwerdeführer sich in der Schweiz nicht tadellos verhalten hat; hier fällt diesbezüglich ins Gewicht, dass gegen ihn drei Strafbefehle wegen Strassenverkehrsdelikten sowie ein Strafbefehl wegen häuslicher Gewalt vorliegen. Zudem hat die Vorinstanz festgestellt, dass der Beschwerdeführer - offenbar ohne in Besitz einer Bewilligung für einen Kantonswechsel zu sein - in den Kanton Jura gezogen ist (vgl. angefochtener Entscheid E. 9.3).
2.3.3 Soweit der Beschwerdeführer die Verletzung von Grundrechten - konkret die Beachtung des Grundsatzes von Treu und Glauben - geltend macht, zeigt er nicht auf, inwiefern der angerufene Grundsatz in Bezug auf die Beurteilung des vorliegend relevanten Sachverhaltes verletzt worden sein soll. Es fehlt damit bezüglich der geltend gemachten Grundrechtsverletzung an einer genügenden Beschwerdebegründung, weshalb nicht näher darauf eingegangen werden muss. (vgl. E. 1.4 hiervor).
2.3.4 Im Weiteren ist zwar ebenfalls das Wohl des Kindes zu berücksichtigen, wie sich namentlich aus Art. 3 des Übereinkommens vom 20. November 1989 über die Rechte des Kindes (UNO-KRK; SR 0.107) ergibt (vgl. <ref-ruling> E. 4.8 S. 87). Über Art. 8 EMRK hinaus gehende Ansprüche auf Bewilligung ergeben sich aus der Kinderrechtskonvention jedoch nicht (vgl. <ref-ruling> E. 3b S. 367 f.; Urteile 2C_578/2011 vom 1. Dezember 2011 E. 3.4.7; 2C_62/2010 vom 30. August 2010 E. 2.3). Insbesondere aus den ebenfalls angerufenen Bestimmungen von Art. 10 Abs. 2 bzw. 16 UNO-KRK kann der Beschwerdeführer nichts zu seinen Gunsten ableiten (Urteil 2C_657/2007 vom 26. Mai 2008 E. 2.4.3).
2.4 Dem Dargelegten zufolge hat der Beschwerdeführer trotz seiner Besuchskontakte zu seiner Tochter keinen Anspruch auf Aufenthalt gemäss der zu Art. 8 EMRK und <ref-law> zitierten Praxis. Es sind ausserdem keine weiteren Umstände ersichtlich oder geltend gemacht worden, die im Rahmen der Gesamtwürdigung nach Art. 50 Abs. 1 lit. b AuG zu einer anderen Beurteilung führen würden. Namentlich ist der Beschwerdeführer erst im Alter von 25 Jahren in die Schweiz gelangt und hat seine prägenden Kinder- und Jugendjahre in seinem Heimatland verbracht und auch dort 2003 geheiratet. Zudem ist er weder beruflich noch privat überdurchschnittlich integriert. Dass der Beschwerdeführer möglicherweise Schwierigkeiten haben dürfte, sich bei einer Rückkehr in den Kosovo in den dortigen Arbeitsmarkt einzugliedern, mag zutreffen, doch gilt das Gleiche auch für den hiesigen Arbeitsmarkt (Urteile 2C_1029/2011 vom 10. April 2012 E. 3.2.2; 2C_262/2010 vom 9. November 2010 E. 3.3.4).
3. Nach dem Ausgeführten erweist sich die Beschwerde in öffentlich-rechtlichen Angelegenheiten als unbegründet und ist abzuweisen. Auf die subsidiäre Verfassungsbeschwerde ist nicht einzutreten.
Da dem Gesuch um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung vor Bundesgericht infolge Aussichtslosigkeit der Rechtsbegehren nicht entsprochen werden kann (<ref-law>), hat der unterliegende Beschwerdeführer grundsätzlich die bundesgerichtlichen Kosten zu tragen. Der finanziellen Lage des Beschwerdeführers wird indessen bei der Bemessung der Gerichtsgebühr Rechnung getragen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Das Gesuch um entgeltliche Rechtspflege wird abgewiesen.
4. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
5. Dieses Urteil wird dem Beschwerdeführer, dem Bundesamt für Migration und dem Bundesverwaltungsgericht, Abteilung III, schriftlich mitgeteilt.
Lausanne, 16. Juli 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Winiger