Faits : A. Par ordonnance pénale du 24 septembre 2013, le Ministère public de la Confédération a reconnu X._ coupable d'infractions aux art. 33 al. 1 let. a et al. 3 de la loi fédérale du 13 décembre 1996 sur le matériel de guerre (LFMG; RS 514.51) et 14 al. 1 let. a de la loi fédérale du 13 décembre 1996 sur le contrôle des biens (LCB; RS 946.202). Il l'a condamné à une peine pécuniaire de 140 jours-amende, à 60 fr. le jour avec sursis pendant deux ans, ainsi qu'à une amende de 1'400 francs. A la suite de l'opposition formée par X._, cette autorité a rendu une nouvelle ordonnance pénale, le 24 juin 2014, le condamnant pour infractions aux art. 33 al. 1 let. a LFMG et 14 al. 1 let. a LCB à 30 jours-amende, à 30 fr. le jour avec sursis pendant deux ans. Elle a en outre prononcé la confiscation du matériel de plongée bloqué en douane et la remise au Service des autorisations de la Police cantonale tessinoise en vue de la libération du séquestre, dans le respect de la législation sur les armes, de plusieurs armes saisies, dont elle a dressé la liste. B. Par ordonnance du 22 octobre 2014, la Cour des affaires pénales du Tribunal pénal fédéral a refusé d'ordonner plusieurs mesures d'instruction requises par X._. Par jugement du 13 novembre 2014, la Cour des affaires pénales du Tribunal pénal fédéral a classé une partie de la procédure, compte tenu de la prescription acquise. Elle a reconnu X._ coupable d'infraction à l'art. 33 al. 1 let. a LFMG pour avoir fait transiter sans autorisation par le port franc de Genève à destination de l'Iran, entre le 23 et le 30 novembre 2007, 50 lunettes de visée de marque Schmidt & Bender 3-12x50 PM II/LP P3L. Elle l'a également reconnu coupable d'infraction à l'art. 14 al. 1 let. a LCB pour avoir exporté sans autorisation du port franc de Chiasso à destination des Émirats Arabes Unis, le 6 octobre 2008, 12 colis contenant des accessoires de matériel de plongée. La Cour des affaires pénales du Tribunal pénal fédéral a condamné X._ à une peine pécuniaire de 20 jours-amende, à 30 fr. le jour avec sursis pendant deux ans, peine complémentaire à celle prononcée par le Kreispräsident Surses du canton des Grisons le 3 août 2009. Les douze colis d'accessoires de matériel de plongée étaient renvoyés à la douane de Chiasso, en vue de la levée du blocage. Les armes saisies, notamment un pistolet de marque " Sig Sauer P232 ", deux magasins garnis de sept cartouches chacun et un holster de marque " Page Pal ", étaient transmis à l'autorité compétente du canton du Tessin pour décision. Les autres objets et documents saisis étaient restitués à X._, les frais de procédure étaient mis à sa charge par 1'700 fr. et une indemnité pour ses frais de défense du même montant lui était octroyée ex aequo et bono. C. X._ forme un recours en matière pénale auprès du Tribunal fédéral contre l'ordonnance du 22 octobre 2014 et le jugement du 13 novembre 2014. Il conclut à l'annulation partielle de ce jugement, à son acquittement du chef d'accusation d'infraction à l'art. 33 al. 1 let. a LFMG et à la restitution du pistolet, des magasins et du holster précités. A titre subsidiaire, il requiert le renvoi de la cause à l'autorité précédente. Dans les deux cas, il sollicite que les frais de la procédure, dont une équitable participation aux frais et honoraires d'avocat en sa faveur, soient mis à la charge de l'autorité précédente. L'autorité précédente a déclaré renoncer à se déterminer, le Ministère public de la Confédération a renoncé à formuler des observations et conclu au rejet du recours dans la mesure de sa recevabilité. Ces écritures ont été transmises à X._.