A.- La société U._ SA était affiliée à la Caisse cantonale neuchâteloise de compensation (ci-après :
la caisse). A partir du 24 janvier 1996, son conseil d'administration a été formé de C._, président, B._, vice-président, et J._, secrétaire. Ce dernier a, par lettre du 15 novembre 1996, résilié son mandat d'administrateur avec effet immédiat, mais ses pouvoirs n'ont pas été radiés du registre du commerce. De son côté, par lettre du 25 juillet 1997, B._ a mis fin au contrat de travail qui le liait à la société U._ SA, pour le 31 octobre 1997.
La faillite de cette dernière a été prononcée par le Président du Tribunal du Val-de-Ruz, avec effet au 2 juin 1998. Le 4 septembre 1998, la caisse a produit des créances pour un montant total de 12 041 fr. 75, correspondant notamment à des cotisations paritaires restées impayées. La faillite a été clôturée le 8 février 1999 et la caisse s'est vu délivrer un acte de défaut de biens pour le montant de sa production.
Par trois décisions séparées du 3 mars 1999, elle a réclamé aux trois prénommés le paiement de la somme de 10 892 fr. 15 représentant le dommage qu'elle a subi jusqu'au jour de la faillite.
B._ et J._ ont fait opposition à la décision les concernant.
B.- Par écriture du 23 avril 1999, la caisse a porté les cas devant le Tribunal administratif du canton de Neuchâtel, en concluant à ce que B._ et J._ soient solidairement condamnés à lui payer la somme de 10 892 fr. 15 ou à réparer le dommage qu'elle a subi dans la faillite, "à tout le moins jusqu'à concurrence du montant resté impayé au jour de la démission effective des administrateurs".
Par jugement du 24 janvier 2000, la juridiction cantonale a partiellement donné suite à la demande. D'une part, elle a admis le principe de la responsabilité solidaire des prénommés envers la caisse jusqu'au 15 novembre 1996 et celui de la responsabilité personnelle de B._ jusqu'à la date de la faillite. D'autre part, elle a renvoyé la cause à la caisse pour qu'elle détermine le montant exact du dommage et rende une nouvelle décision sujette à recours.
C.- B._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation, en concluant, sous suite de frais et dépens, principalement à ce que sa responsabilité dans le dommage de la caisse soit niée. Subsidiairement, il sollicite la réforme du jugement cantonal, en ce sens que sa responsabilité n'est engagée que jusqu'au 31 octobre 1997. Il demande en outre à la Cour de céans d'accorder l'effet suspensif à son recours.
La caisse intimée conclut au rejet du recours. Dans sa détermination du 25 avril 2000, J._ s'est déclaré peu concerné par l'action de la caisse, dès lors que, selon lui, toutes les cotisations paritaires proprement dites étaient payées, à la date où il a résilié son mandat d'administrateur. L'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- La décision litigieuse n'ayant pas pour objet l'octroi ou le refus de prestations d'assurance, le Tribunal fédéral des assurances doit se borner à examiner si les premiers juges ont violé le droit fédéral, y compris par l'excès ou par l'abus de leur pouvoir d'appréciation, ou si les faits pertinents ont été constatés d'une manière manifestement inexacte ou incomplète, ou s'ils ont été établis au mépris de règles essentielles de procédure (art. 132 en corrélation avec les art. 104 let. a et b et 105 al. 2 OJ).
2.- Le jugement entrepris expose de manière exacte et complète les dispositions légales et réglementaires, ainsi que les principes jurisprudentiels applicables au présent cas. Il suffit donc d'y renvoyer.
3.- Le recourant demande tout d'abord au Tribunal fédéral des assurances d'accorder l'effet suspensif à son recours. Il explique que la caisse a rendu, le 2 février 2000, une décision en réparation du dommage à son encontre et que le délai pour recourir contre cet acte administratif échoit le 3 mars 2000. En réalité, le recourant voudrait obtenir la suspension du délai de recours contre la décision que l'intimée lui a notifiée le 2 février 2000, en application du chiffre 2 du dispositif du jugement attaqué.
Or, cette requête sort de l'objet de la contestation, qui est déterminé par la décision de la caisse du 3 mars 1999 dirigée contre lui (cf. <ref-ruling> consid. 1b, 118 V 313 consid. 3b et les références).
Par ailleurs, il n'appartient pas au Tribunal fédéral des assurances de dire s'il était opportun, pour la caisse, de rendre une nouvelle décision alors que le jugement cantonal n'était pas entré en force. De toute manière, le recourant pouvait demander au juge saisi du recours formé contre cette nouvelle décision de suspendre l'instruction jusqu'à droit connu dans la présente procédure.
La requête d'effet suspensif est dès lors sans objet.
4.- a) Le recourant fait valoir en premier lieu le moyen tiré de la péremption du droit de la caisse de lui réclamer la réparation du dommage qu'elle invoque. La cour cantonale aurait violé son droit d'être entendu et abusé de son pouvoir d'appréciation, en considérant que le délai de l'<ref-law> avait été respecté, sans procéder à un examen de cette question.
b) En l'espèce, le recourant avait admis, dans sa réponse du 15 juin 1999 devant la cour cantonale - par son mandataire de l'époque - que la caisse avait bien agi dans le délai légal d'une année à compter du moment à partir duquel elle pouvait avoir connaissance du dommage. Il ne saurait dès lors se prévaloir d'une violation de son droit d'être entendu sur ce point.
Par ailleurs, on doit retenir que, conformément à la règle générale applicable en matière de faillite (<ref-ruling> consid. 3b et les références), la caisse de compensation a eu connaissance de son dommage, au plus tôt, au moment du dépôt de l'état de collocation. Or, le dossier ne contient pas d'information sur la date à laquelle a été colloquée la créance de la caisse. Ce point n'est pas décisif, dès lors que l'administration a agi dans le délai d'une année à partir de l'ouverture même de la faillite (2 juin 1998), dont la date est de toute évidence antérieure à celle de l'état de collocation. En rendant sa décision le 3 mars 1999, la caisse a donc agi dans le délai d'une année prévu par l'<ref-law>.
5.- a) Les premiers juges ont constaté les faits suivants :
J._ a cessé d'exercer les fonctions et responsabilités attachées à son mandat d'administrateur à la date à laquelle il a démissionné du conseil d'administration, soit le 15 novembre 1996, bien que ses pouvoirs n'aient été radiés que plus tard du registre du commerce. En revanche, si B._ a mis fin au contrat de travail le liant à U._ SA pour le 31 octobre 1997, il n'a pas résilié son mandat d'administrateur et l'on doit considérer qu'il n'a jamais cessé d'exercer cette charge.
J._ et B._ ne pouvaient pas (ou n'auraient pas dû) ignorer que les cotisations sociales étaient payées de façon irrégulière, dès lors qu'elles faisaient, depuis plusieurs mois, l'objet de sommations de la part de la caisse. Ils n'ont, cependant, rien entrepris pour remédier à la situation, alors même qu'ils étaient susceptibles, à eux d'eux, d'engager valablement la société. S'ils se trouvaient dans l'incapacité d'agir dans ce sens en raison de l'opposition de C._, ils auraient alors dû démissionner de leur fonction.
Le montant du dommage réclamé par la caisse comprend, à tort, des allocations familiales. Par ailleurs, le détail des postes composant la somme de 10 892 fr. 15 n'est pas précisé. De surcroît, les relevés de compte déposés par la caisse ne permettent pas d'établir exactement la part du dommage dont répondent respectivement J._ et B._.
b) Les allégations du recourant ne sont pas de nature à démontrer que les faits constatés par la juridiction cantonale sont manifestement inexacts ou incomplets, ou qu'ils ont été établis au mépris de règles essentielles de procédure. Par ailleurs, le recourant n'invoque aucun argument apte à infirmer que les conditions de l'<ref-law> sont remplies. Sa seule argumentation sur le fond consiste à dire que la cour cantonale a violé cette disposition en le considérant comme un organe au-delà du 31 octobre 1997.
c) D'après la jurisprudence, la responsabilité de l'administrateur dure, en règle ordinaire, jusqu'au moment de sa sortie (par suite de démission ou de révocation) du conseil d'administration et non jusqu'au moment de la radiation de ses pouvoirs au registre du commerce (arrêt C.
du 19 mai 2000, destiné à la publication, consid. 4a, H 113/99; <ref-ruling> consid. 3a et les références). En l'espèce, J._ et le recourant étaient encore inscrits au registre du commerce comme membres du conseil d'administration au moment de la faillite de la société.
Contrairement à J._, le recourant n'a pas résilié son mandat d'administrateur. On ne saurait donc le suivre dans son argumentation selon laquelle la résiliation de son contrat de travail pour le 31 octobre 1997 impliquait celle (avec effet immédiat) de son mandat d'administrateur. En effet, la régularité d'une démission suppose une manifestation unilatérale de volonté dans ce sens (Kommentar zum Schweizerischen Privatrecht, Obligationenrecht II, [Honsell/Vogt/Watter Éd.], Bâle 1994, Dreifuss/Lebrecht, N. 1 et 2 ad <ref-law>; Bürgi, Zürcher Kommentar, 1969, N. 7 ad <ref-law>). Cette condition n'est pas remplie en l'occurrence, dès lors que la lettre du 25 juillet 1997 du recourant ne se réfère qu'au contrat de travail, par ses termes et son contenu. L'allégué de son précédent mandataire selon lequel "à tort il était convaincu en effet qu'en résiliant son contrat de travail, il sortait automatiquement du conseil d'administration de la société" confirme bien que la lettre du recourant du 25 juillet 1997 ne constituait pas une manifestation de volonté de sa part de démissionner de ses fonctions d'administrateur (lettre de Me B._ du 20 avril 1999 à la caisse).
d) La situation du recourant doit être distinguée de celle de l'arrêt C. du 19 mai 2000, déjà cité, où le contrat de travail avait été résilié par l'employeur, dans un contexte litigieux. Dans ce dernier cas, le Tribunal fédéral des assurances a jugé que n'était pas soumis à la responsabilité de l'<ref-law> - dans le cadre d'une faillite survenue en 1994 - l'employé dont le contrat de travail avait été résilié par la société en 1981, sans que le mandat d'administrateur de l'intéressé ait été révoqué. La Cour de céans a admis que dans une telle situation, si la société avait procédé à une réélection formelle, le mandat de l'administrateur concerné n'aurait de toute évidence pas été renouvelé; on pouvait dès lors considérer qu'il avait pris fin à l'expiration de la durée (statutaire ou légale) des fonctions de l'intéressé qui suivait la fin du contrat de travail (consid. 4b de l'arrêt précité).
e) Par ailleurs, contrairement à ce que soutient le recourant, la cour cantonale n'a pas statué ultra petita, dans la mesure où l'intimée a conclu à ce que B._ et J._ soient condamnés solidairement à lui payer soit le montant de 10 892 fr. 15 ou (alternativement) le montant resté impayé au jour de leur démission effective de leur fonction.
Sur le vu des constatations de la juridiction cantonale, qui lient le Tribunal fédéral des assurances, force est dès lors de considérer que le recourant a gravement violé les devoirs que lui imposait son mandat de membre du conseil d'administration. Cela étant, sa responsabilité est engagée sous l'angle de l'<ref-law>, jusqu'à la date de la faillite de la société. Le recours se révèle dès lors mal fondé.
6.- La procédure n'est pas gratuite (art. 134 OJ a contrario). Le recourant, qui succombe, supportera les frais de justice (art. 156 al. 1 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. La requête d'effet suspensif est irrecevable.
II. Le recours est rejeté.
III. Les frais de justice, d'un montant total de 1000 fr., sont mis à la charge du recourant et sont compensés avec l'avance de frais qu'il a effectuée.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal administratif de la République et canton de Neuchâtel, à l'Office fédéral des assurances sociales
et à J._.
Lucerne, le 11 septembre 2000
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe chambre :
La Greffière :