Faits: A. Le 15 avril 1998, une information pénale a été ouverte par le Procureur général de l'Etat de Genève à l'encontre notamment de AX._, citoyen allemand d'origine russe vivant à Rome, et de son épouse, B._, sur la base d'un rapport permettant de suspecter des opérations importantes de blanchiment d'argent. Le 2 juin 1998, le juge d'instruction genevois en charge de l'affaire a fait saisir les comptes dont les époux X._ étaient titulaires, ayants droit économiques ou fondés de procuration, ainsi que plusieurs comptes appartenant à deux sociétés, qui ont été par la suite dissoutes, à savoir D._ et E._ SA. Au cours de l'instruction, les prévenus ont déposé de multiples requêtes auprès du juge d'instruction tendant à la libération des avoirs saisis. Contre les décisions de refus de ce magistrat, ils ont recouru auprès de la Chambre d'accusation de la Cour de justice du canton de Genève (ci-après: la Chambre d'accusation), qui a rejeté leurs recours par ordonnances successives. Les intéressés n'ont pas attaqué ces ordonnances auprès du Tribunal fédéral. Finalement, le 29 novembre 2000, la Chambre d'accusation, faisant suite au dernier recours interjeté au début du mois de juin 2000 par les époux X._, a ordonné la levée immédiate de toutes les saisies opérées jusqu'alors dans la procédure pénale. B. Le 9 avril 2002, AX._, BX._, ainsi que les sociétés D._ et E._ SA ont ouvert, solidairement entre eux, une action en justice à l'encontre de l'Etat de Genève. Ils réclamaient le paiement d'un montant total de 39'994'646,26 fr. plus intérêts moratoires en réparation du dommage causé par la saisie conservatoire de leurs comptes bancaires. Ils soutenaient que les mesures de saisie les avaient placés dans une situation économique extrêmement difficile, tant en ce qui concernait leur famille que les activités du groupe F._. En cours de procédure, les deux sociétés demanderesses ont été dissoutes et rayées du rôle. Sur proposition de l'autorité de première instance, les parties ont accepté que l'instruction se limite, dans un premier temps, au principe de la responsabilité de l'Etat. Par jugement du 16 mars 2006, le Tribunal de première instance du canton de Genève a débouté les demandeurs de l'ensemble de leurs conclusions. Il a notamment considéré que ni le juge d'instruction ni la Chambre d'accusation n'avaient violé un devoir essentiel de leurs fonctions en maintenant en vigueur pendant plus de deux ans le séquestre pénal. Les demandeurs ont été condamnés aux dépens comprenant une indemnité de procédure de 900'000 fr. au profit de l'Etat de Genève. Les époux X._ ont appelé de ce jugement en persistant dans leurs prétentions et en dénonçant le caractère excessif de l'indemnité de procédure allouée à l'Etat de Genève. Par arrêt du 16 novembre 2007, la Chambre civile de la Cour de justice du canton de Genève (ci-après : la Cour de justice) a confirmé le jugement du 16 mars 2006, sous réserve de l'indemnité de procédure pour les dépens de première instance, qu'elle a arrêtée à 750'000 fr., sous déduction de 150'000 fr. versés à titre de sûretés et acquises à l'Etat de Genève. Elle a par ailleurs condamné les époux X._, solidairement entre eux, à une indemnité de procédure de 100'000 fr. à titre de participation aux honoraires de l'avocat de l'Etat de Genève pour la procédure d'appel. C. Contre cet arrêt, AX._ et BX._ forment un recours en matière de droit public au Tribunal fédéral. Invoquant l'arbitraire dans l'appréciation des faits et dans l'application du droit cantonal, ils concluent, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué, à ce qu'il soit constaté que la responsabilité de l'Etat de Genève est engagée et à ce qu'aucune indemnité de procédure ne soit allouée à ce dernier. Subsidiairement, ils proposent le renvoi de l'affaire à la Cour de justice pour qu'elle statue à nouveau dans le sens des considérants. D. Par ordonnance du 28 janvier 2008, le Président de la IIe Cour de droit public a rejeté la requête formée par l'Etat de Genève tendant à la fourniture de sûretés en garantie des dépens. Par ordonnance du même jour, il a aussi rejeté la requête d'effet suspensif formée par les époux X._. L'Etat de Genève conclut, avec suite de frais et dépens, à ce que le recours en matière de droit public soit déclaré irrecevable ou à ce qu'il soit rejeté et à ce que l'arrêt du 16 novembre 2007 soit confirmé. La cour cantonale se réfère à ses considérants.