Faits: Faits: A. V._ était administrateur unique avec signature individuelle de la société X._ SA (ci-après: la société), celle-ci était affiliée à la Caisse interprofessionnelle d'assurance vieillesse et survivants de la Fédération romande des syndicats patronaux (ci-après: la caisse). Après avoir obtenu dans un premier temps un sursis concordataire le 2 juin 1999, la société a été déclarée en faillite le 19 mai 2000. Par décision du 12 avril 2001, la caisse a réclamé à V._ le paiement de 22'910 fr. 50 «correspondant aux cotisations AVS/AI/APG/AC et CCAF pour les périodes de février à avril 1999, novembre 1999, et janvier à mai 2000, les décomptes complémentaires 1999 et 2000, ainsi que les frais administratifs, taxes de sommation et intérêts moratoires». Dans le cadre de la faillite, dont la clôture a été prononcée le 23 avril 2002, la caisse a fait valoir une créance (définitive) de 24'536 fr. 10, pour laquelle elle a obtenu un acte de défaut de biens. Par décision du 12 avril 2001, la caisse a réclamé à V._ le paiement de 22'910 fr. 50 «correspondant aux cotisations AVS/AI/APG/AC et CCAF pour les périodes de février à avril 1999, novembre 1999, et janvier à mai 2000, les décomptes complémentaires 1999 et 2000, ainsi que les frais administratifs, taxes de sommation et intérêts moratoires». Dans le cadre de la faillite, dont la clôture a été prononcée le 23 avril 2002, la caisse a fait valoir une créance (définitive) de 24'536 fr. 10, pour laquelle elle a obtenu un acte de défaut de biens. B. V._ ayant fait opposition, la caisse l'a assigné en paiement de 22'910 fr. 50 devant le Tribunal cantonal de la République et canton du Jura, Chambre des assurances. Le tribunal a fait verser au dossier les pièces de la procédure de sursis concordataire et de faillite de la société et requis la caisse de produire différents documents, ce qu'elle a fait, les 24 octobre et 19 novembre 2002. Statuant le 14 mai 2003, il a admis l'action en réparation et condamné l'administrateur au paiement dudit montant. B. V._ ayant fait opposition, la caisse l'a assigné en paiement de 22'910 fr. 50 devant le Tribunal cantonal de la République et canton du Jura, Chambre des assurances. Le tribunal a fait verser au dossier les pièces de la procédure de sursis concordataire et de faillite de la société et requis la caisse de produire différents documents, ce qu'elle a fait, les 24 octobre et 19 novembre 2002. Statuant le 14 mai 2003, il a admis l'action en réparation et condamné l'administrateur au paiement dudit montant. C. V._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation. Sous suite de dépens, il conclut, principalement, au rejet de la demande en réparation et, à titre subsidiaire, au renvoi de la cause à la juridiction cantonale. La caisse ne s'est pas prononcée sur le recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer. La caisse ne s'est pas prononcée sur le recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer. D. Par décision incidente du 28 janvier 2004, le Tribunal fédéral des assurances a rejeté la demande d'assistance judiciaire formée par V._ et requis le versement d'une avance de frais dont celui-ci s'est acquitté.