Faits : A. Par jugement du 10 novembre 2015, le Tribunal de première instance du canton du Jura a reconnu X._ coupable de brigandage, prise d'otage, actes préparatoires délictueux de brigandage, vol d'importance mineure, infraction à la loi fédérale sur les armes et infraction à la LCR. Il l'a condamné à une peine privative de liberté de 36 mois et à une amende contraventionnelle de 200 francs. Les faits à l'origine de cette condamnation sont en substance les suivants. Le 10 juillet 2014, X._ a fait le plein d'essence à une station à Alle et a quitté les lieux sans s'être acquitté de son dû. Le jour même ou la veille il avait dérobé les plaques d'immatriculation d'un véhicule appartenant à un tiers pour les apposer sur sa propre voiture. Le 11 juillet 2014, X._ s'est rendu à l'agence de Courgenay de la Banque Cantonale du Jura muni d'un revolver. Après avoir attendu un certain temps à l'extérieur de la banque, il y est entré à la suite d'une cliente, qu'il a menacée avec son arme en demandant à l'employé de la banque de lui remettre le contenu de la caisse. Ce dernier s'est exécuté et lui a remis un montant de 62'800 fr. ainsi que 8'800 euros environ. Le 22 décembre 2014, X._ a été interpellé par la police alors qu'il circulait en voiture en ville de Delémont. La fouille de son véhicule a permis de découvrir le révolver utilisé lors du brigandage du 11 juillet 2014, la casquette et le sac dont il s'était également servi à cette occasion ainsi que des munitions. B. Statuant le 12 avril 2016 sur appel de X._ et appel joint du ministère public, la Cour pénale du Tribunal cantonal jurassien a réformé le jugement du tribunal de première instance en ce sens qu'elle a porté à 4 ans la durée de la peine privative infligée à X._. C. X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement de la cour pénale. Il ne conteste pas les infractions qui lui sont imputées, son recours portant uniquement sur la quotité de la peine qui lui a été infligée. Il conclut, avec suite de frais et dépens, à l'annulation du jugement attaqué dans la mesure où il lui inflige une peine privative de liberté de 4 ans et à titre principal au renvoi de la cause à la cour cantonale pour qu'elle statue à nouveau. A titre subsidiaire, il conclut à ce que le Tribunal fédéral déclare qu'il doit être condamné à une peine privative de liberté compatible avec l'octroi du sursis partiel. Il sollicite en outre l'assistance judiciaire.