Faits :
A.
A.a. Suite à une plainte pénale déposée par la société Y._ Sàrl, X._ a été entendu par la police en date du 19 février 2004, puis inculpé par le juge d'instruction le 27 avril 2004 d'accès indu à un système informatique et de détérioration de données. Le 2 mai 2005, la procédure pénale contre X._ a été classée par le Procureur général, sous réserve de faits nouveaux.
A la suite d'un rapport de police du 30 juin 2005 relatant l'audition de divers témoins dont celle de Z._, qui mettait en cause X._, le Procureur a retourné la procédure au juge d'instruction pour complément d'enquête. Six audiences d'instruction se sont tenues entre 2005 et fin 2007.
Par jugement du 5 mai 2009, le Tribunal de police a acquitté X._ des accusations d'accès indu à un système informatique et de détérioration de données, retenant que les problèmes techniques soulevés par la défense, que l'inspecteur en charge de l'enquête avait admis ne pas maîtriser, ébranlaient sa conviction.
A.b. Le 21 mai 2010, X._ a saisi le Tribunal d'application des peines et des mesures du canton de Genève (TAPEM) d'une requête en indemnisation dirigée contre l'Etat de Genève, concluant au versement de 100'975 fr. 50 avec intérêts à 5% dès le 5 mai 2009. Par jugement du 12 octobre 2010, le TAPEM a condamné l'Etat de Genève à verser à X._ la somme de 10'000 fr.-, avec intérêts à 5% dès le 5 mai 2009, à titre d'indemnité globale pour le préjudice matériel et le tort moral résultant de la procédure pénale.
B.
Le 10 septembre 2012, X._ a déposé une demande en indemnisation contre l'Etat de Genève, concluant à la condamnation de celui-ci à lui verser 90'975 fr. 50 avec intérêts à 5% dès le 5 mai 2009. Par jugement du 30 janvier 2014, le Tribunal de première instance du canton de Genève (ci-après: le Tribunal de première instance) a condamné l'Etat de Genève à verser à X._ la somme de 79'443 fr. plus intérêts moratoires. Il a retenu en substance qu'aucun acte illicite ne pouvait être retenu, de sorte que l'art. 2 al. 1 de la loi cantonale genevoise du 24 février 1989 sur la responsabilité de l'Etat et des communes (LREC; RSG A 2 40) était inapplicable. En revanche, il a considéré que l'équité commandait de faire application de l'<ref-law> (responsabilité pour acte licite).
Par arrêt du 7 novembre 2014, la Chambre civile de la Cour de justice du canton de Genève (ci-après: la Cour de justice) a admis l'appel interjeté par l'Etat de Genève et débouté X._ de toutes ses conclusions.
C.
A l'encontre de cet arrêt, X._ a interjeté un recours en matière civile au Tribunal fédéral. Il conclut, sous suite de frais et dépens, principalement, à l'annulation de l'arrêt de la Cour de justice du 7 novembre 2014 et à la condamnation de l'Etat de Genève au versement de la somme de 90'975 fr. 50 avec intérêts à 5 % dès le 5 mai 2009, subsidiairement, au renvoi de la cause à l'instance précédente pour nouvelle décision dans le sens des considérants.
L'Etat de Genève s'en rapporte à justice quant à la recevabilité du recours et conclut au fond au rejet du recours de l'intéressé, sous suite de frais. X._ a déposé des observations complémentaires.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 103).
1.1. La présente cause, qui porte sur l'éventuelle responsabilité de l'Etat de Genève à l'égard du recourant, relève du droit public. Sous réserve des décisions relatives à la responsabilité de l'Etat pour les activités médicales, qui peuvent exceptionnellement faire l'objet d'un recours en matière civile (<ref-law> en relation avec l'art. 31 al. 1 let. d du règlement du 20 novembre 2006 du Tribunal fédéral [RTF; RS 173.110.131]), les litiges en matière de responsabilité de l'Etat doivent être portés devant le Tribunal fédéral par la voie du recours en matière de droit public (art. 82 let. a et 86 al. 1 let. d LTF en relation avec l'art. 30 al. 1 let. c ch. 1 RTF). Il importe peu que, sur le plan cantonal, la compétence relève des autorités judiciaires civiles (cf. <ref-ruling> consid. 2.1 p. 465; arrêt 2C_860/2008 du 20 novembre 2009 consid. 1.1).
1.2. Le recourant a interjeté un recours en matière civile, se fiant à la voie de droit erronée indiquée dans l'arrêt attaqué. Cette fausse indication n'entraîne aucun préjudice pour le recourant. En effet, selon la jurisprudence, l'intitulé erroné d'un recours n'influence pas sa recevabilité, pour autant que l'écriture remplisse les conditions formelles de la voie de droit qui est ouverte (cf. <ref-ruling> consid. 1.2 p. 302 s.; <ref-ruling> p. 148 consid. 2.1; arrêt 2C_814/2012 du 7 mai 2013 consid. 1.1), ce qui est le cas en l'espèce.
1.3. L'arrêt entrepris constate que la responsabilité de l'Etat n'est pas engagée et déboute le recourant de toutes ses conclusions. Il s'agit ainsi d'une décision finale (<ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF). La valeur litigieuse minimale de l'<ref-law> est par ailleurs dépassée. Déposé en temps utile (<ref-law>) et dans les formes requises (<ref-law>) par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à l'annulation ou à la modification de celui-ci (<ref-law>), le recours, envisagé comme un recours en matière de droit public, est en principe recevable.
2.
2.1. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine d'office le droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF). Sauf exceptions non pertinentes en l'espèce (cf. art. 95 let. c, d et e LTF), l'on ne peut invoquer la violation du droit cantonal en tant que tel devant le Tribunal fédéral (<ref-law> a contrario). Il est néanmoins possible de faire valoir que son application consacre une violation du droit fédéral, comme la protection contre l'arbitraire au sens de l'art. 9 Cst. ou la garantie d'autres droits constitutionnels. Le Tribunal fédéral n'examine cependant de tels moyens que s'ils sont formulés conformément aux exigences de motivation qualifiée prévues à l'<ref-law> (<ref-ruling> consid. 2.5 p. 314; arrêt 2C_668/2013 du 19 juin 2014 consid. 2.1).
D'après la jurisprudence, une décision est arbitraire lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité; il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit annulée, encore faut-il qu'elle se révèle arbitraire, non seulement dans ses motifs, mais aussi dans son résultat (<ref-ruling> consid. 2.1 p. 211).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (cf. <ref-law>). Le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>), ce que la partie recourante doit démontrer d'une manière circonstanciée, conformément aux exigences de motivation de l'<ref-law> (cf. <ref-ruling> consid. 1.4.3 p. 254 s.). La notion de "manifestement inexacte" correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.1 p. 450).
3.
Le recourant se plaint tout d'abord d'une application arbitraire de l'<ref-law>. Il estime que c'est à tort que la Cour de justice a nié un comportement illicite de l'inspecteur et du juge d'instruction. Il fonde son argumentation essentiellement sur le manque de connaissances techniques de l'inspecteur, qui n'a notamment pas été en mesure de répondre à certaines questions lors de son audition devant le Tribunal de police. Il se plaint également d'un manque d'indépendance de l'inspecteur.
3.1. Dans le canton de Genève, la responsabilité de l'Etat est régie par la LREC. En vertu de l'<ref-law>, l'Etat de Genève et les communes du canton sont tenus de réparer le dommage résultant pour des tiers d'actes illicites commis soit intentionnellement, soit par négligence ou imprudence par leurs fonctionnaires ou agents dans l'accomplissement de leur travail. L'application de l'<ref-law> suppose notamment qu'un acte illicite ait été commis par un agent ou un fonctionnaire (cf. arrêt 2C_860/2008 du 20 novembre 2009 consid. 3.1).
3.2. Selon la jurisprudence, le comportement d'un magistrat ou d'un fonctionnaire est illicite lorsqu'il viole des injonctions ou des interdictions de l'ordre juridique destinées à protéger le bien lésé. Est également considérée comme illicite la violation par un fonctionnaire des principes généraux du droit ou le fait, pour un fonctionnaire, de commettre un excès ou un abus qualifié du pouvoir d'appréciation qui lui est conféré par la loi ("im Sinne eines qualifizierten Ermessensfehlers"; cf. <ref-ruling> consid. 3.2 p. 456 s.; arrêt 2C.1/1998 du 21 février 2000 consid. 3a).
Par ailleurs, si le fait dommageable porte atteinte à un droit absolu (comme la vie ou la santé humaines, ou le droit de propriété), l'illicéité est d'emblée réalisée, sans qu'il soit nécessaire de rechercher si et de quelle manière l'auteur a violé une norme de comportement spécifique; on parle à ce propos d'illicéité par le résultat ("Erfolgsunrecht"). Si, en revanche, le fait dommageable constitue une atteinte à un autre droit (par exemple le patrimoine), l'illicéité suppose qu'il existe un "rapport d'illicéité", soit que l'auteur ait violé une norme de comportement ayant pour but de protéger le bien juridique en cause; c'est ce qu'on appelle l'illicéité par le comportement ("Verhaltensunrecht"). La simple lésion d'un droit patrimonial d'autrui ne représente donc pas, en tant que telle, un acte illicite; il faut encore qu'une règle de comportement figurant dans l'ordre juridique interdise une telle atteinte et que cette règle ait pour but la protection du bien lésé (<ref-ruling> consid. 4.2 p. 141).
3.3. En l'espèce, la Cour de justice a retenu - à l'instar du Tribunal de première instance - qu'aucun acte illicite ne pouvait être reproché au juge d'instruction ou à l'inspecteur en charge de la procédure qui a abouti à l'acquittement du recourant. Les arguments avancés par le recourant pour contester l'illicéité ne peuvent être suivis. En effet, la Cour de justice pouvait sans arbitraire retenir que le manque allégué de connaissances techniques de l'inspecteur ne constituait pas un acte illicite au sens de la jurisprudence susmentionnée. De même, il n'est pas insoutenable de retenir que le seul fait que les autorités pénales n'aient pas mandaté un expert externe ne suffit pas à fonder l'illicéité de la conduite de l'instruction. Il ressort en effet du dossier que les autorités pénales ont conduit une instruction fouillée, qui a notamment inclus l'analyse de divers objets perquisitionnés et l'audition de nombreux témoins.
C'est également en vain que le recourant invoque un manque d'indépendance de l'inspecteur "compte tenu des nombreux liens préexistants" entre celui-ci et le recourant. En effet, d'une part, les liens dont il fait état ne ressortent pas des faits établis par l'autorité précédente qui lient le Tribunal fédéral. D'autre part, comme le relève à juste titre l'instance précédente, pendant les cinq années de procédure, le recourant n'a jamais demandé la récusation de l'inspecteur.
3.4. Le recourant invoque devant le Tribunal de céans que l'Etat de Genève aurait commis un acte illicite en raison d'un manque d'organisation interne et d'un défaut d'encadrement adéquat de ses agents, en particulier par rapport à l'inspecteur en charge du dossier.
Il ressort de l'état de fait retenu dans l'arrêt attaqué que l'inspecteur A._ ne maîtrisait pas tous les problèmes techniques soulevés par la défense. Or, on ne voit pas en quoi le fait qu'un agent de l'Etat ne soit pas en mesure de répondre à toutes les questions techniques posées par la défense lors de son audition devant le Tribunal de police permettrait de conclure à un manque d'organisation au sein de la police ou à une absence de contrôle des compétences des agents. Le grief du recourant est infondé.
Compte tenu de ce qui précède, le grief tiré de l'arbitraire dans l'application de l'<ref-law> est rejeté.
4.
Le recourant invoque encore une application arbitraire de l'<ref-law>.
4.1. Aux termes de l'<ref-law>, "l'Etat de Genève et les communes du canton ne sont tenus de réparer le dommage résultant pour des tiers d'actes licites commis par leurs magistrats, fonctionnaires ou agents dans l'exercice de leurs fonctions ou dans l'accomplissement de leur travail que si l'équité l'exige." Les conditions de l'indemnisation sont un dommage spécial, grave et causé par un acte qui n'avait pas pour but de protéger spécialement le lésé (cf. arrêt 2C.1/1998 du 21 février 2000 consid. 5 et THIERRY TANQUEREL, La responsabilité de l'Etat sous l'angle de la loi genevoise sur la responsabilité de l'Etat et des communes du 24 février 1989, SJ 1997 p. 345, 362-363).
En l'occurrence, contrairement au Tribunal de première instance, la Cour de justice a considéré que l'<ref-law> n'était pas applicable lorsqu'une personne poursuivie à tort avait obtenu une indemnisation en application de l'art. 379 du Code de procédure pénale genevois du 29 septembre 1977 (dans sa teneur en vigueur jusqu'au 31 décembre 2010; aCPP/GE; E 4 20). Elle a jugé en substance que la disposition de l'art. 379 al. 7 aCPP/GE - qui réserve le droit d'obtenir réparation civile du préjudice subi - n'était applicable qu'en cas d'acte illicite de l'Etat, ce qui n'a pas été retenu en l'espèce. Le recourant soutient que la Cour de justice aurait dû suivre une interprétation littérale de cette disposition, qui ne limite pas expressément l'indemnisation de l'Etat à la commission d'un acte illicite.
4.2. Selon la jurisprudence du Tribunal fédéral relative à l'art. 379 aCPP/GE, "l'indemnisation du prévenu injustement poursuivi découle exclusivement du droit public cantonal. En effet, ni les garanties constitutionnelles, ni les art. 5 par. 5 CEDH et 9 par. 5 Pacte ONU II n'exigent de l'Etat qu'il indemnise les personnes victimes d'une incarcération en soi licite, mais injustifiée (cf. arrêts 6B_474/2009 du 27 août 2009 consid. 4.1 et 6B_434/2008 du 29 octobre 2008 consid. 2.1 et les arrêts cités). Il en va a fortiori de même s'agissant des autres préjudices subis en relation avec la procédure pénale close par un non-lieu ou un acquittement et, en particulier, des frais de défense (cf. arrêt 6B_434/2008 du 29 octobre 2008 consid. 2.1 non publié in <ref-ruling> et les arrêts cités).
4.3. Aux termes de l'art. 379 aCPP/GE, appartenant au titre VII intitulé "indemnisation des personnes détenues ou poursuivies à tort", une indemnité peut être attribuée, sur demande, pour préjudice résultant de la détention ou d'autres actes de l'instruction, à l'accusé qui a bénéficié d'un non-lieu ou d'un acquittement dans la procédure de jugement ou après révision (al. 1). Le juge détermine l'indemnité dont le montant ne peut dépasser 10'000 francs. Si des circonstances particulières l'exigent, notamment en raison d'une détention prolongée, d'une instruction compliquée ou de l'ampleur des débats, l'autorité de jugement peut - dans les cas de détention - allouer à titre exceptionnel une indemnité supplémentaire. Le juge peut décider d'un autre mode de réparation du préjudice subi ou de tout autre appui nécessaire au requérant (al. 2). L'indemnité est à la charge de l'Etat (al. 3). Est réservé le droit d'obtenir réparation civile du préjudice subi (al. 7).
4.4. Le recourant ne saurait être suivi lorsqu'il soutient que l'art. 429 du code de procédure fédéral (CPP; RS 312.0) suit la "logique instaurée par l'ancien CPP/GE" dont l'esprit serait de "permettre à celui qui avait été détenu ou poursuivi à tort de réclamer l'intégralité du préjudice subi aux responsables" (cf. mémoire de recours, p. 22). Il ressort en effet des travaux parlementaires relatifs à l'indemnisation ainsi prévue que le législateur genevois n'a pas voulu instituer le droit à une réparation complète du préjudice subi (arrêts 6B_78/2007 du 4 juin 2007 consid. 2.1.2 et 1P.498/2001 du 29 novembre 2001 consid. 2.2; cf. DOMINIQUE PONCET, Le nouveau code de procédure pénale genevois annoté, 1978, p. 453 et ss; voir aussi LOUIS GAILLARD, L'indemnisation des personnes détenues ou poursuivies à tort, RPS 1982 p. 200) mais une indemnité équitable dont l'évaluation appartient au juge, qui dispose d'un large pouvoir d'appréciation (cf. GRÉGOIRE REY, Procédure pénale genevoise, 2005, n° 1.5 ad <ref-law> p. 409; cf. aussi HARARI/ROTH/STRÄULI, Chronique de procédure pénale genevoise (1986-1989), in SJ 1990 p. 417, 479).
Selon la jurisprudence du Tribunal fédéral relative à l'art. 379 aCPP/GE, la solution des maxima qui était consacrée dans la loi genevoise fixe une limite objective aux prestations de l'Etat. Le Tribunal fédéral a jugé que quand bien même le système consacré en droit genevois, qui conférait à l'autorité d'indemnisation un très large pouvoir d'appréciation, pouvait conduire à des solutions rigoureuses, notamment dans les cas de détention de longue durée, celui-ci ne violait pas en soi les droits fondamentaux. La loi permettait d'ailleurs d'atténuer la rigueur du système d'indemnisation, en prévoyant que le montant de 10'000 fr. pouvait exceptionnellement être dépassé, en particulier dans les cas de détention prolongée (cf. arrêts 6B_474/2009 du 27 août 2009 consid. 4.2 et 6B_78/2007 du 4 juin 2007 consid. 2.1.2 et les arrêts cités). La jurisprudence du Tribunal fédéral a par ailleurs relevé en relation avec l'art. 379 aCPP/GE qu'une réparation incomplète, prévue par le droit cantonal pour une détention qui se révèle finalement injustifiée, ne violait pas le droit constitutionnel (cf. arrêt 6B_474/2009 du 27 août 2009 consid. 4.2).
4.5. En l'espèce, la Cour de justice a jugé à juste titre que la question de savoir si le TAPEM aurait dû, dans le présent cas, allouer à l'intimé un montant supérieur à 10'000.- fr. en application de l'art. 379 al. 2 aCPP/GE n'avait pas à être tranchée en l'espèce; le recourant n'ayant en effet pas recouru contre le jugement du TAPEM du 12 octobre 2010, celui-ci était devenu définitif.
La question litigieuse est en effet celle de savoir si une indemnité peut être allouée sur la base de l'<ref-law> pour le préjudice qui n'a pas été couvert par les 10'000 fr. alloués au recourant par le TAPEM en application de l'art. 379 aCPP/GE. Il n'est pas contesté qu'en cas d'acte illicite de l'Etat, une indemnité peut, le cas échéant, être versée au recourant poursuivi à tort en application de l'<ref-law> (cf. supra consid. 3). En revanche, contrairement à ce que soutient le recourant, la question de savoir si une telle indemnité doit être allouée en l'absence d'illicéité, en application de l'<ref-law>, ne ressort pas expressément du texte de l'art. 379 al. 7 aCPP/GE. Il ressort au contraire de la jurisprudence et la doctrine qui seront exposées ci-dessous que l'art. 379 al. 7 aCPP/GE semble uniquement viser la réparation du dommage en cas d'acte illicite.
4.5.1. En effet, selon la jurisprudence du Tribunal fédéral et la doctrine, le prévenu acquitté peut dans tous les cas se plaindre, le cas échéant, d'un acte illicite et réclamer une réparation intégrale devant la juridiction ordinairement compétente pour connaître des prétentions élevées contre le canton de Genève, même lorsqu'une indemnité lui a été refusée dans la procédure de l'art. 379 aCPP/GE (arrêts 6B_690/2007 du 14 avril 2008 consid. 4.4.1 et 1P.498/2001 du 29 novembre 2001 consid. 2.2; cf. REY, op. cit., art. 379, n. 1.5; PONCET, op. cit., p. 461 s.; cf. également HARARI/ROTH/STRÄULI, op. cit., 479 qui considèrent que la réparation intégrale du dommage subi "relève de l'action civile ordinaire, réservée par l'<ref-law>"). Cette conclusion découle de la réserve exprimée par l'<ref-law>/GE en faveur du droit d'obtenir réparation civile du préjudice subi (arrêt 6B_690/2007 du 14 avril 2008 consid. 4.4.1). Dans le même sens, un auteur considère que la réglementation spéciale des art. 379 et 380 aCPP/GE, qui prévoient une telle indemnisation pour le dommage résultant de la détention ou d'autres actes d'instruction pour l'accusé ayant bénéficié d'un non-lieu ou d'un acquittement, est indépendante d'un éventuel acte illicite des magistrats ou fonctionnaires ayant provoqué l'arrestation ou la détention, mais elle n'empêche pas le bénéficiaire de l'indemnité de réclamer une réparation intégrale fondée sur les art. 1 ou 2 LREC en cas de détention illicite (cf. TANQUEREL, op. cit., 363).
4.5.2. En l'espèce, la Cour de justice a considéré qu'un prévenu acquitté ne pouvait pas, par le biais de l'<ref-law>, se voir allouer des montants supplémentaires en couverture de son dommage en l'absence d'acte illicite de l'Etat. Selon elle, une telle solution contreviendrait au système spécial prévu par l'ancien CPP/GE - qui admet la réparation partielle du dommage, en l'absence d'acte illicite de l'Etat - et viderait dès lors cette disposition de toute sa substance.
Compte tenu de la jurisprudence et la doctrine précitées (cf. supra consid. 4.4 et 4.5.1), la solution retenue par la Cour de justice n'apparaît arbitraire ni dans sa motivation ni dans son résultat. En réalité, le recourant se borne à opposer sa propre appréciation à celle de la Cour de justice; or, il ne suffit pas qu'une autre solution soit concevable, voire préférable pour qu'une décision soit annulée pour cause d'arbitraire (cf. supra consid. 2.1).
Le grief tiré de l'application arbitraire de l'<ref-law> est également rejeté.
5.
Sur le vu de ce qui précède, le recours sera rejeté.
Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>). Aucun dépens ne sera alloué (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Conseil d'Etat de la République et canton de Genève et à la Cour de justice du canton de Genève, Chambre civile.
Lausanne, le 9 juin 2015
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Zünd
La Greffière : Thalmann