Faits: Faits: A. En 2003, une enquête pénale a été ouverte dans le canton de Neuchâtel contre A._ et de nombreux autres prévenus. Par une ordonnance pénale rendue le 8 décembre 2005 dans le cadre de cette affaire, le Procureur général du canton de Neuchâtel B._(ci-après: le Procureur général) a condamné C._ à vingt jours d'emprisonnement avec sursis pendant deux ans pour faux dans les titres. Cette ordonnance retenait les faits suivants: "A la Chaux-de-Fonds ou en tout autre lieu, en 1994, C._ a, de concert avec A._, acquitté deux factures inexactes le mentionnant faussement comme créancier de A._ SA, la première du 8 août 1994 indiquant faussement qu'il avait reçu Fr. 138'000.- et une commission de Fr. 2'000.- pour un lot de fournitures anciennes et la seconde, du 15 décembre 1994, indiquant faussement qu'il avait reçu Fr. 50'000.- pour vingt montres réveil à réviser [...]." C._ n'ayant pas formé opposition contre cette ordonnance, elle est devenue exécutoire le 25 janvier 2006. C._ n'ayant pas formé opposition contre cette ordonnance, elle est devenue exécutoire le 25 janvier 2006. B. Par courrier du 10 mars 2006, A._ a demandé au Procureur général d'annuler cette ordonnance pénale ou de se récuser dans "l'affaire A._". Il faisait notamment valoir que la force de chose jugée de cette ordonnance avait pour conséquence "l'anéantissement de la présomption d'innocence" en ce qui le concerne et se plaignait du fait que le Procureur général était "juge et partie". Par courrier du 14 mars 2006, celui-ci a répondu qu'il ne pouvait annuler l'ordonnance pénale rendue contre C._ et qu'il n'estimait pas devoir se récuser. Il a transmis une copie de sa lettre à la Chambre d'accusation du Tribunal cantonal du canton de Neuchâtel (ci-après: le Tribunal cantonal) pour qu'elle statue. Le 17 mars 2006, A._ a complété sa demande. Par arrêt du 10 avril 2006, le Tribunal cantonal a déclaré la demande de A._ irrecevable en ce qui concerne l'annulation de l'ordonnance pénale et mal fondée en ce qui concerne la récusation du Procureur général. En substance, ce tribunal a considéré qu'aucune disposition du Code de procédure pénale neuchâtelois du 19 avril 1945 (CPP/NE; RS 322.0) ne prévoyait un recours contre une ordonnance pénale et que A._ n'avait pas qualité pour former opposition au sens de l'art. 12 CPP/NE, ni pour recourir contre une décision d'irrecevabilité de l'opposition au sens de l'art. 14 CPP/NE. Relevant que l'on ne pouvait pas exiger d'un procureur la même impartialité que d'un juge, le Tribunal cantonal a également considéré que le Procureur général n'était pas récusable en raison du fait qu'il avait fonctionné à un autre titre dans la même affaire. Enfin, les juges cantonaux ont considéré que l'entrée en force de l'ordonnance rendue contre C._ ne portait pas préjudice à la présomption d'innocence de A._, dès lors que le tribunal appelé à le juger ne serait pas lié par cette ordonnance en ce qui concerne les faits et le droit. Par arrêt du 10 avril 2006, le Tribunal cantonal a déclaré la demande de A._ irrecevable en ce qui concerne l'annulation de l'ordonnance pénale et mal fondée en ce qui concerne la récusation du Procureur général. En substance, ce tribunal a considéré qu'aucune disposition du Code de procédure pénale neuchâtelois du 19 avril 1945 (CPP/NE; RS 322.0) ne prévoyait un recours contre une ordonnance pénale et que A._ n'avait pas qualité pour former opposition au sens de l'art. 12 CPP/NE, ni pour recourir contre une décision d'irrecevabilité de l'opposition au sens de l'art. 14 CPP/NE. Relevant que l'on ne pouvait pas exiger d'un procureur la même impartialité que d'un juge, le Tribunal cantonal a également considéré que le Procureur général n'était pas récusable en raison du fait qu'il avait fonctionné à un autre titre dans la même affaire. Enfin, les juges cantonaux ont considéré que l'entrée en force de l'ordonnance rendue contre C._ ne portait pas préjudice à la présomption d'innocence de A._, dès lors que le tribunal appelé à le juger ne serait pas lié par cette ordonnance en ce qui concerne les faits et le droit. C. Agissant par la voie du recours de droit public, A._ demande au Tribunal fédéral d'annuler cet arrêt. Il invoque les art. 9 et 32 Cst. ainsi que l'art. 6 CEDH pour se plaindre d'arbitraire dans la constatation des faits, d'abus du pouvoir d'appréciation, de fausse application de la loi et de violations du droit à un procès équitable et des principes de l'égalité des armes et de la présomption d'innocence. Le Procureur général, le Ministère public et le Tribunal cantonal ont renoncé à présenter des observations.