Sachverhalt:
A. S._ ist bei der Bundesverwaltung angestellt. Für seinen 1989 geborenen Sohn, welcher am 19. Juni 2009 die Matura abgeschlossen (Schuljahresende per 31. August 2009) und anschliessend die Rekrutenschule (29. Juni bis 20. November 2009) besucht hatte, bezog er eine Ausbildungszulage bis und mit August 2009. Am 24. Oktober 2009 ersuchte er um Ausbildungszulagen u.a. für seinen Sohn. Dieser absolvierte vom 8. März 2010 bis 31. März 2011 ein Praktikum, um danach die Lehre als Tierpfleger zu beginnen. Die Eidgenössische Ausgleichskasse (nachfolgend: EAK) sprach S._ mit Verfügung vom 12. November 2010 für seinen Sohn ab dem 1. März 2010 eine Ausbildungszulage zu, verneinte jedoch einen Anspruch für die Zeit vom 1. September 2009 bis 28. Februar 2010. Daran hielt sie mit Einspracheentscheid vom 4. Januar 2011 fest.
B. Das Verwaltungsgericht des Kantons Bern wies die dagegen erhobene Beschwerde mit Entscheid vom 21. Juli 2011 ab.
C. S._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, es sei der vorinstanzliche Entscheid aufzuheben und es seien ihm für seinen Sohn für die Zeit vom 1. September 2009 bis 28. Februar 2010 Ausbildungszulagen auszurichten.
Die EAK schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen (BSV) verzichtet auf eine Vernehmlassung.
D. Mit Eingabe vom 25. April 2012 hält S._ an seinem Begehren fest.

Erwägungen:
1. 1.1 Die Beschwerde kann wegen Rechtsverletzung gemäss Art. 95 und Art. 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. <ref-ruling> E. 1.4 S. 140). Gemäss <ref-law> ist die Beschwerde hinreichend zu begründen, andernfalls wird darauf nicht eingetreten (<ref-law>). Das Bundesgericht prüft grundsätzlich nur die geltend gemachten Rügen; es ist nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu prüfen, wenn diese vor Bundesgericht nicht mehr vorgetragen wurden. Es kann die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht nur insofern prüfen, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>).
1.2 Nach <ref-law> legt das Bundesgericht seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Abs. 1). Es kann diese Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (Abs. 2). Die Voraussetzungen für eine Sachverhaltsrüge nach <ref-law> und für eine Berichtigung des Sachverhalts von Amtes wegen nach <ref-law> stimmen im Wesentlichen überein. Soweit es um die Frage geht, ob der Sachverhalt willkürlich oder unter verfassungswidriger Verletzung einer kantonalen Verfahrensregel ermittelt worden ist, sind strenge Anforderungen an die Begründungspflicht der Beschwerde gerechtfertigt. Entsprechende Beanstandungen sind vergleichbar mit den in <ref-law> genannten Rügen. Demzufolge genügt es nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten. Vielmehr ist in der Beschwerdeschrift nach den erwähnten gesetzlichen Erfordernissen darzulegen, inwiefern diese Feststellungen willkürlich bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen sind. Andernfalls können Vorbringen mit Bezug auf einen Sachverhalt, der von den Feststellungen im angefochtenen Entscheid abweicht, nicht berücksichtigt werden. Vorbehalten bleiben offensichtliche Sachverhaltsmängel im Sinne von <ref-law>, die dem Richter geradezu in die Augen springen (<ref-ruling> E. 6.2 S. 288; <ref-ruling> E. 1.4.3 S. 255).
1.3 Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>; <ref-ruling>). Solche Umstände können namentlich in formellrechtlichen Mängeln des angefochtenen Entscheides liegen, mit denen die Partei nicht rechnete und nach Treu und Glauben nicht zu rechnen brauchte, oder darin, dass die Vorinstanz materiell in einer Weise urteilt, dass bestimmte Sachumstände neu und erstmals rechtserheblich werden. Der vorinstanzliche Verfahrensausgang allein bildet noch keinen hinreichenden Anlass im Sinne von <ref-law> für die Zulässigkeit von unechten Noven, die bereits im kantonalen Verfahren ohne Weiteres hätten vorgebracht werden können. Das Vorbringen von Tatsachen, die sich erst nach dem angefochtenen Entscheid ereigneten oder entstanden (echte Noven), ist vor Bundesgericht unzulässig (Urteil 8C_1007/2010 vom 9. Mai 2011 E. 2 mit Hinweisen).
Der Beschwerdeführer stützt sich in seiner Beschwerde an das Bundesgericht massgeblich auf das Schreiben des Mittelschul- und Berufsbildungsamtes, Erziehungsdirektion des Kantons Bern, vom 28. Juli 2011, welches erst nach Erlass des vorinstanzlichen Entscheids erstellt wurde. Die Frage, ob es sich dabei um ein zulässiges Novum im Sinne von <ref-law> handelt, kann offen bleiben, da - wie nachfolgend gezeigt wird - selbst unter Berücksichtigung dieses Schreibens sich am Ergebnis nichts ändert (E. 4).
2. Die Vorinstanz hat die Bestimmungen und Grundsätze über das zeitlich massgebende Recht (<ref-ruling> E. 3.1.1 S. 220), die Voraussetzungen der Ausrichtung einer Ausbildungszulage (Art. 3 Abs. 1 lit. b FamZG; <ref-law> in Verbindung mit <ref-law>) und die zum Begriff der Ausbildung im Sinne von <ref-law> ergangene Rechtsprechung (AHI 2003 S. 289 [I 176/01]; SVR 2011 IV Nr. 45 S. 137 [9C_283/2010], 2010 IV Nr. 1 S. 1 [9C_674/2008]) zutreffend dargelegt. Dasselbe gilt für die fehlende Verbindlichkeit von Verwaltungsweisungen für das Gericht (<ref-ruling> E. 3.2 S. 258, 132 V 121 E. 4.4 S. 125). Darauf wird verwiesen.
3. Streitig ist, ob dem Sohn des Beschwerdeführers auch der Zeitraum vom 1. September 2009 bis 28. Februar 2010 als Ausbildungszeit anzuerkennen ist und demnach ein Anspruch auf eine Ausbildungszulage besteht.
4. 4.1 Nach Art. 3 Abs. 1 lit. b FamZG werden Ausbildungszulagen ab Ende des Monats, in welchem das Kind das 16. Altersjahr vollendet, bis zum Abschluss der Ausbildung ausgerichtet, längstens jedoch bis zum Ende des Monats, in welchem das Kind das 25. Altersjahr vollendet. Sowohl im Parlament wie zuvor auch schon in den Kommissionen gab es zum Begriff der Ausbildung in Art. 3 Abs. 1 FamZG keine einlässlichen Diskussionen (vgl. etwa AB 2005 N 288 und AB 2005 S 714; Protokoll der nationalrätlichen Kommission vom 30. Juni bis 2. Juli 2004, S. 14 und der ständerätlichen Kommission vom 2./3. Mai 2005, S. 25). Aus den Materialien zum FamZG ergeben sich demnach keine Hinweise auf eine selbstständige Auslegung des Begriffs Ausbildung und deren Unterbrechung oder Beendigung.
4.2 <ref-law> statuiert, dass ein Anspruch auf eine Ausbildungszulage für jene Kinder besteht, die eine Ausbildung im Sinne des <ref-law> absolvieren.
4.2.1 <ref-law> beauftragt den Bundesrat, den Begriff der Ausbildung zu regeln, was dieser mit den auf den 1. Januar 2011 in Kraft getretenen Art. 49bis und 49ter AHVV getan hat. Entgegen der Darlegung im vorinstanzlichen Entscheid kommen daher Art. 49bis und 49ter AHVV nicht zur Anwendung, da sie im massgebenden Zeitpunkt (September 2009 bis Februar 2010) noch nicht in Kraft standen. Gleichwohl können die Materialien zu Art. 49bis und 49ter AHVV beigezogen werden, da sie vornehmlich den zuvor von Verwaltungs- und Gerichtspraxis entwickelten allgemeinen Grundsätzen entsprechen. Das BSV hat in seinen Erläuterungen zu diesen beiden neuen Verordnungsnormen festgehalten, angesichts des heute doch beachtlichen Erwerbsersatzes, den bereits Rekruten während ihres Dienstes erhalten, rechtfertige es sich, während Ausbildungsunterbrüchen wegen Zivil- oder Militärdienstes grundsätzlich keine Waisen- und Kinderrenten mehr fliessen zu lassen; eine Ausnahme sei nur dann zuzulassen, wenn die Dienstzeit in die unterrichtsfreie Zeit zwischen zwei Ausbildungsabschnitten gelegt werde, so dass eine am Stück absolvierte Rekrutenschule nur noch ausnahmsweise als Ausbildungszeit gelte. Abschliessend wird festgehalten, <ref-law> begrenze die Leistungspflicht auf objektiv notwendige Ausbildungsunterbrüche, was grundsätzlich der bisherigen Praxis entspreche.
4.2.2 Es kann somit für die nähere Bestimmung des Begriffes Ausbildung sowie deren Unterbrechung und Beendigung auf die Gerichts- und Verwaltungspraxis, namentlich die Weisungen des BSV (hier: Wegleitung zum Bundesgesetz über die Familienzulagen FamZG [FamZWL] in Verbindung mit der Wegleitung über die Renten in der Eidgenössischen Alters-, Hinterlassenen- und Invalidenversicherung, [RWL]) abgestellt werden (vgl. dazu auch Ueli Kieser/Marco Reichmuth, Bundesgesetz über die Familienzulagen, 2010, N. 36 zu Art. 3 FamZG). Danach gelten Personen, welche während der Ausbildung Militär- oder Zivildienst leisten, weiterhin als in Ausbildung begriffen, wenn sie sich bis zum Eintritt in den Militär- oder Zivildienst in Ausbildung befanden und diese nach dem geleisteten Dienst bei nächstmöglicher Gelegenheit fortsetzen (Rz. 3370 RWL in der von 1. Januar 2008 bis 31. Dezember 2010 geltenden Fassung). So liegt keine Unterbrechung der Ausbildung vor, wenn ein Maturand das Hochschulstudium infolge Absolvierung des obligatorischen Militärdienstes hinausschiebt, weil die Ausbildung mit der Matura in der Regel nicht abgeschlossen wird; dies gilt selbst für den Fall der Aufnahme einer lückenfüllenden Erwerbstätigkeit (<ref-ruling>). Die Rechtsprechung hat auch zwischen Unterbruch einer Ausbildung und Abbruch einer Ausbildung mit Aufnahme einer anderen Ausbildung unterschieden, wobei nur in solchen Fällen der Anspruch nicht verloren ging, in welchen die begonnene Ausbildung wieder aufgenommen oder zumindest durch eine solche abgelöst wurde, welche eine normale Fortsetzung der Ausbildung darstellte (<ref-ruling> E. 3 in fine S. 211, auch in: ZAK 1977 S. 265).
4.2.3 Das BSV hat sich auch in seinen Erläuterungen zur Verordnung über die Familienzulagen vom 31. Oktober 2007 zum Begriff der Ausbildung in Zusammenhang mit den Ausbildungszulagen geäussert. Unter den Begriff der Ausbildung fallen danach ordentliche Lehrverhältnisse sowie Tätigkeiten zum Erwerb von Vorkenntnissen für ein Lehrverhältnis, aber auch Kurs- und Schulbesuche, wenn sie der berufsbezogenen Vorbereitung auf eine Ausbildung oder der späteren Berufsausübung dienen. Bei Kurs- und Schulbesuchen sind Art der Lehranstalt und Ausbildungsziel unerheblich, soweit diese im Rahmen eines ordnungsgemässen, (faktisch oder rechtlich) anerkannten Lehrganges eine systematische Vorbereitung auf das jeweilige Ziel bieten. Danach gilt nur als Bestandteil der Ausbildung, wenn zwischen diesem und dem Berufsziel ein Zusammenhang besteht.
4.3 Mit der Erlangung der Matura ist in der Regel die Ausbildung nicht abgeschlossen, sondern sie ist ein erster Schritt auf dem Weg zu einem Hochschulstudium (vgl. dazu etwa <ref-ruling>; Urteil der AHV-Rekurskommission des Kantons Zürich vom 13. Juli 1993, in: SVR 1994 KZ Nr. 5 S. 9 oder Urteil 9C_910/2008 vom 28. Januar 2009). Wird nach der Matura kein Studium aufgenommen, sondern eine Berufslehre absolviert, so kann die Matura insofern als erster Schritt einer kontinuierlichen Ausbildung betrachtet werden, wenn sie im Rahmen der weiteren Ausbildung wenigstens eine gewisse Anerkennung findet. Dies trifft zu, wenn sie auf die weitere Ausbildung einen konkreten Einfluss hat. Somit liegt ein Unterbruch in der Ausbildung vor, wenn sich die Matura als erster Schritt einer planmässigen Ausbildung auf diese auswirkt, etwa indem sie anstelle einer bereits abgeschlossenen ersten Berufslehre Voraussetzung für den Beginn eines Ausbildungsziels ist (z.B. bei Berufen in Gesundheitswesen oder Hotellerie) oder wenn sich die Ausbildungsdauer infolge der Matura verkürzt; hingegen liegen ein Abbruch und eine Wiederaufnahme der Ausbildung vor, wenn die Matura, welche zwar ein gute Allgemeinbildung vermittelt, keinen Niederschlag im Ablauf oder in der Dauer der Ausbildung findet.
4.4 Die ordentliche Lehre als Tierpfleger setzt eine abgeschlossene Grundschule voraus und dauert drei Jahre, wobei nebst der praktischen Ausbildung im Lehrbetrieb der Besuch der Berufsfachschule sowie von überbetrieblichen Kursen obligatorisch ist. Eine verkürzte Lehre von ein bis zwei Jahren ist möglich, sofern die auszubildende Person über einen Abschluss in einem verwandten Beruf verfügt. Bei "Quereinsteigern" beträgt die Ausbildungsdauer ein bis drei Jahre, wobei die praktische Ausbildung im Rahmen eines Praktikums oder in einem Lehrbetrieb absolviert wird und der Besuch der Berufsfachschule sowie der überbetrieblichen Kurse freiwillig erfolgt; Voraussetzung für "Quereinsteiger" sind ein Berufsabschluss (Lehre oder Matura), fünf Jahre Berufserfahrung (einschliesslich der Lehre) sowie drei Jahre Erfahrung in der Tierpflege im Zeitpunkt der Abschlussprüfung.
4.5 Für die hier vorzunehmende Abgrenzung zwischen Unterbruch einer (kontinuierlichen) Ausbildung einerseits und Abbruch einer Ausbildung und Aufnahme einer neuen Ausbildung andererseits spielt der Grund der "Lücke" in der Ausbildung keine Rolle. Insofern ist unerheblich, ob diese "Lücke" durch die Absolvierung der Rekrutenschule entsteht oder aus anderen Gründen. Denn ein Leistungsanspruch während der Absolvierung von Militär- oder Zivildienst besteht nach konstanter Praxis nicht grundsätzlich, sondern nur, wenn die begonnene Ausbildung nach Leistung des Militär- oder Zivildienstes bei der nächstmöglichen Gelegenheit fortgesetzt wird (vgl. etwa Urteil 9C_283/2010 vom 17. Dezember 2010 E. 3.2 mit Verweis auf ZAK 1967 S. 550). Dabei ist unbeachtlich, ob die Ausbildung nach der Matura mit einem Hochschulstudium oder einem anderen Lehrgang fortgesetzt wird; massgebend ist jedoch, dass es sich insgesamt um eine kontinuierliche Ausbildung handelt (vgl. E. 4.3 sowie Urteil 9C_910/2008 vom 28. Januar 2009 E. 3, wo von der "erforderlichen Kontinuität der Ausbildung" die Rede ist).
5. Die vom Sohn des Beschwerdeführers begonnene Lehre als Tierpfleger dauert drei Jahre und umfasst nebst der praktischen Tätigkeit im Lehrbetrieb auch den Besuch der berufsspezifischen Fächer der Berufsschule; hingegen ist er vom Besuch der allgemeinbildenden Fächer angesichts der bestandenen Matura dispensiert. Somit profitiert der Sohn des Beschwerdeführers von seiner Matura insofern, als ihm ein Teil der schulischen Ausbildung während der Lehre erlassen wird. An der gesamten Ausbildungszeit ändert sich jedoch nichts, da er - zusätzlich zu einem einjährigen Praktikum - die ordentliche Zeit von drei Jahren Lehre absolviert. Demnach unterscheidet sich seine Lehre nicht wesentlich von der ordentlichen Lehre zum Tierpfleger einer Person, die lediglich über einen Grundschulabschluss verfügt, und es kann nicht gesagt werden, er habe von seiner Vorbildung (Matura) erheblich profitiert, etwa durch eine Verkürzung der Ausbildungsdauer, wie es angesichts der anwendbaren Bestimmungen grundsätzlich möglich und unter Berücksichtigung des einjährigen Praktikums im Lehrbetrieb vor Antritt der Lehre auch bezüglich der notwendigen praktischen Voraussetzungen zu erwarten wäre. Damit stellen die Matura und die Lehre zum Tierpfleger keine kontinuierliche Ausbildung dar, sondern es liegt ein Abbruch der Ausbildung mit Aufnahme einer neuen Ausbildung nach Absolvierung der Rekrutenschule vor. Dies wird denn auch dadurch bestätigt, dass der Beschwerdeführer in seinem Leistungsgesuch vom 24. Oktober 2009 kein Ausbildungsziel für seinen Sohn angeben konnte. Das Dahinfallen des Anspruchs auf Familienzulage ist denn auch nicht durch die Absolvierung des Militärdienstes begründet, sondern in der fehlenden Kontinuität der Ausbildung. Vorinstanz und Verwaltung haben demnach zu Recht einen Anspruch auf Ausbildungszulagen für die Zeit vom September 2009 bis Februar 2010 verneint.
6. Das Verfahren ist kostenpflichtig. Der unterliegende Beschwerdeführer hat die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 16. Juli 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Riedi Hunold