Faits:
A. Sur réquisition de B._, l'Office des poursuites du canton de Genève (ci-après: l'Office) a notifié le 22 mai 2012 à A._ (ci-après: le recourant), dans la poursuite n° xxxx, un commandement de payer les montants de 400 fr. et 980 fr., avec intérêts à 5% dès le 10 février 2012, ainsi qu'un montant de 7'743'241 fr. 81 avec intérêts à 5% dès le 5 mai 2010, indiquant comme cause de l'obligation: "frais judiciaires et dépens sel. arrêt de la Cour de justice du 10 février 2012", "frais de cdp et d'encaissement" et respectivement "gestion déloyale et abus de confiance (...), l'argent retiré sans droit des comptes de C._ SA".
B. B.a A._ a formé opposition au commandement de payer et porté plainte auprès de la Chambre de surveillance des Offices des poursuites et faillites de la Cour de justice du canton de Genève (ci-après: autorité de surveillance), faisant valoir, pour l'essentiel, que la poursuite dont il faisait l'objet constituait un abus de droit dès lors qu'elle aurait été intentée dans le seul but de lui nuire et de porter atteinte à sa réputation. Il concluait de ce fait à ce que la nullité du commandement de payer soit constatée et à ce qu'il soit ordonné à l'Office de radier la poursuite n° xxxx de ses registres.
B.b Statuant le 26 juillet 2012, l'autorité de surveillance a rejeté la plainte formée par A._.
C. Le 17 août 2012, A._ forme un recours en matière civile auprès du Tribunal fédéral contre cette décision. Il conclut principalement à l'annulation de la décision entreprise et à ce que la nullité de la poursuite n° xxxx soit constatée et, subsidiairement, à ce que la poursuite n° xxxx soit annulée et à ce qu'il soit ordonné à l'Office des poursuites de radier dite poursuite.
L'intimé n'a pas été invité à répondre.

Considérant en droit:
1. Interjeté dans le délai légal (art. 100 al. 2 let. a LTF) par une partie qui a succombé dans ses conclusions prises devant l'autorité précédente (art. 76 al. 1 LTF) et dirigé contre une décision finale (art. 90 LTF) rendue en matière de poursuite pour dettes et de faillite (art. 72 al. 2 let. a LTF) par une autorité cantonale de surveillance de dernière instance (art. 75 al. 1 LTF), le recours est en principe recevable, et ce indépendamment de la valeur litigieuse (art. 74 al. 2 let. c LTF).
2. 2.1 Le recours en matière civile peut être formé pour violation du droit fédéral, lequel comprend les droits constitutionnels (art. 95 let. a LTF; <ref-ruling> consid. 3.1, 462 consid. 2.3). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties (<ref-ruling> consid. 1.4; <ref-ruling> consid. 1.1).
Le recourant doit exposer succinctement dans son mémoire en quoi l'acte attaqué viole le droit (art. 42 al. 2 LTF), c'est-à-dire discuter les motifs de la décision entreprise et indiquer en quoi il estime que l'autorité précédente a méconnu le droit (<ref-ruling> consid. 1.4.1; <ref-ruling> consid. 1.4). S'agissant de la violation des droits fondamentaux, le grief doit être exposé de manière claire et détaillée ("principe d'allégation"; art. 106 al. 2 LTF; <ref-ruling> consid. 3.2; <ref-ruling> consid. 1.4.2); le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 2).
2.2 Saisi d'un recours en matière civile, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Le recourant qui entend se plaindre d'un établissement manifestement inexact - c'est-à-dire arbitraire (art. 9 Cst.; <ref-ruling> consid. 1.5; <ref-ruling> consid. 1.5; <ref-ruling> consid. 8.1) - des faits doit satisfaire au principe d'allégation susmentionné (cf. supra consid. 2.1).
3. 3.1 L'autorité de surveillance a retenu que les faits suivants ressortaient de l'instruction de la cause:
Le poursuivant (intimé dans la présente procédure) et le poursuivi (recourant dans la présente procédure) sont en litige au sujet de la société C._ SA, dont le poursuivant allègue être l'un des fondateurs et détenir 98% du capital-actions. Le poursuivi est, quant à lui, inscrit au registre du commerce en qualité d'administrateur de dite société depuis le 10 septembre 2010. Le poursuivi fait valoir que le poursuivant, en particulier, aurait vidé les comptes de la société dans le courant de l'année 2009. Des procédures civile (demande en paiement) et pénale (plainte pour gestion déloyale) ont été introduites contre ce dernier et sont actuellement pendantes à Genève. Le poursuivant soutient, pour sa part, qu'un tiers représentant C._ SA en Pologne, aurait volé plus de 7,7 millions d'un compte de cette société dans ce pays, qu'il se serait illégitimement approprié l'un des certificats d'actions de la société représentant 76% du capital-actions et aurait ainsi procédé à la nomination contestée du poursuivi en qualité d'administrateur. Une procédure pénale dirigée contre ce représentant polonais est également pendante en Pologne. Le poursuivant soutient que le poursuivi, en sa qualité de "prétendu" administrateur, devait veiller aux intérêts pécuniaires de C._ SA, mais qu'il n'aurait, malgré les nombreuses demandes du poursuivant en ce sens, jamais fait auditer la société ni entrepris les démarches pour récupérer l'argent "volé" par le représentant polonais; il aurait au contraire tout fait pour "couvrir l'activité illicite" de ce dernier, causant à C._ SA tout comme à lui-même en sa qualité d'unique ayant droit économique de la société, un énorme préjudice.
L'autorité de surveillance a rejeté la plainte du poursuivi estimant que, dans un tel contexte, elle ne disposait pas d'éléments ou d'indices convergents démontrant de façon patente que l'institution du droit de l'exécution forcée aurait été détournée de sa finalité, ce d'autant plus que le poursuivant avait déclaré dans ses observations avoir agi par voie de poursuite pour éviter que des procédures pour gestion déloyale et abus de confiance qu'il envisagerait d'introduire contre le poursuivi et qui seraient en préparation ne se prescrivent.
S'agissant des montants de 400 fr. et 980 fr. qui figurent également sur le commandement de payer litigieux et qui correspondent respectivement à des frais judiciaires et des dépens dus par C._ SA en vertu d'un arrêt de la Cour de justice du canton de Genève du 10 février 2012, ainsi qu'aux frais de poursuite avancés par le poursuivant, l'autorité cantonale a considéré qu'en l'absence d'un abus manifeste de droit il ne lui appartenait pas, au risque de se substituer au juge de la mainlevée ou du fond, de décider si ces prétentions étaient exigées à bon droit.
3.2 Le recourant reproche à l'autorité cantonale d'avoir retenu "la possibilité hypothétique de l'existence des créances mentionnées par B._ et reproduites sur le commandement de payer" alors qu'il soutient ne pouvoir être le débiteur de dites créances. S'agissant des deux premiers montants de 400 fr. et 980 fr. pour lesquels il est poursuivi, ils correspondraient à des frais et dépens judiciaires dus par C._ SA selon un arrêt de la Cour de justice du 10 février 2012, de sorte que le recourant soutient ne pas être personnellement débiteur de ces sommes. En ce qui concerne le montant de 7'743'241 fr. 81 apparaissant également sur le commandement de payer litigieux et pour lequel figure comme cause de l'obligation: "gestion déloyale et abus de confiance (...), l'argent retiré sans droit des comptes de C._ SA", le recourant affirme qu'il est impossible qu'il réponde en quoi que ce soit du retrait sans droit de cet argent des comptes de C._ SA comme le soutient l'intimé, étant donné qu'il aurait été inscrit comme administrateur de la société au mois de septembre 2010 seulement et qu'au 31 décembre 2009 les comptes de C._ SA présentaient déjà un solde de zéro francs, de sorte que si une quelconque somme avait été retirée indûment des comptes de la société, il ne pouvait en être tenu pour responsable dès lors qu'il n'en était alors pas encore l'administrateur. Se plaignant finalement du préjudice que lui occasionnerait une telle poursuite, notamment d'un point de vue professionnel, le recourant conclut à ce que la nullité de dite poursuite soit constatée ou subsidiairement à ce qu'elle soit annulée et radiée des registres de l'Office.
4. Selon la jurisprudence, la nullité d'une poursuite pour abus de droit ne peut être admise par les autorités de surveillance que dans des cas exceptionnels, en particulier lorsqu'il est manifeste que le poursuivant agit dans un but sans le moindre rapport avec la procédure de poursuite ou pour tourmenter délibérément le poursuivi; en principe, une telle éventualité est réalisée lorsque le poursuivant fait notifier plusieurs commandements de payer fondés sur la même cause et pour des sommes importantes, sans jamais demander la mainlevée de l'opposition ni la reconnaissance judiciaire de sa créance, lorsqu'il procède par voie de poursuite contre une personne dans l'unique but de détruire sa bonne réputation, ou encore lorsqu'il reconnaît, devant l'office des poursuites ou le poursuivi lui-même, qu'il n'agit pas envers le véritable débiteur (<ref-ruling> consid. 3b p. 21). En revanche, la procédure de plainte des art. 17 ss LP ne permet pas d'obtenir l'annulation de la poursuite en se prévalant de l'art. 2 CC, dans la mesure où le grief pris de l'abus de droit est invoqué à l'encontre de la prétention litigieuse, la décision sur ce point étant réservée au juge ordinaire. En effet, c'est une particularité du droit suisse que de permettre l'introduction d'une poursuite sans devoir prouver l'existence de la créance; le titre exécutoire n'est pas la créance elle-même ni le titre qui l'incorpore éventuellement, mais seulement le commandement de payer passé en force (<ref-ruling> consid. 2b p. 3; arrêts 5A_588/2011 du 18 novembre 2011 consid. 3.2; 5A_250/2007 du 19 septembre 2007 consid. 3.1; cf. aussi: GILLIÉRON, Poursuite pour dettes, faillite et concordat, 4e éd., n° 108, avec d'autres citations).
5. En l'espèce, force est de constater que le recourant s'en prend uniquement à la prétention litigieuse lorsqu'il soutient ne pouvoir être tenu pour responsable d'un prétendu prélèvement illicite effectué sur les comptes de C._ SA. Or, il ressort des constatations de fait cantonales que des procédures tant civiles que pénales ayant précisément pour objet le prétendu prélèvement illicite susmentionné ont été introduites par les deux parties en cause réciproquement l'une contre l'autre ou sont en cours de préparation. L'autorité de surveillance ne pouvait par conséquent pas admettre pour ce motif le caractère abusif de la poursuite sauf à se substituer aux juges du fond compétents auxquels sont ou seront soumises les différentes procédures civiles et pénales introduites par les parties. C'est par conséquent à juste titre que l'autorité de surveillance a rejeté la plainte du recourant.
Il en va de même s'agissant des montants de 400 fr. et 980 fr. également objets de la poursuite litigieuse. En effet, comme le relève le recourant, il ressort des faits retenus par l'autorité cantonale que le montant de 400 fr. réclamé correspond à des frais judiciaires et des dépens dus en vertu d'un arrêt de la Cour de justice et dont C._ SA est la débitrice. L'autorité de surveillance a toutefois estimé à juste titre ne pas pouvoir déterminer si ces prétentions sont exigées à bon droit du recourant sans se substituer au juge de la mainlevée, respectivement au juge du fond. Il n'appartient en effet pas à l'autorité de surveillance de déterminer si le recourant doit, notamment en sa qualité d'administrateur de la société, répondre ou non des dettes de cette dernière. S'agissant finalement du montant de 980 fr. correspondant aux frais de poursuite avancés par le créancier, l'art. 68 al. 1 LP précise que ces frais sont à la charge du débiteur. Dans la mesure où le Tribunal de céans, à l'instar de l'autorité de surveillance, ne peut pas se déterminer sur la qualité de débiteur du recourant en ce qui concerne le montant de 7'743'241 fr. 81 qui lui est réclamé sans se substituer ainsi au juge du fond, il en va par conséquent de même pour les frais de poursuite qui en découlent. En conséquence, aucun abus de droit ne pouvant être constaté en lien avec la poursuite litigieuse, le grief du recourant sera rejeté tant en ce qui concerne les montants de 400 fr. et 980 fr., que le montant de 7'743'241 fr. 81.
En dernier lieu, le recourant ne peut être suivi dans son argumentation lorsqu'il soutient que le Tribunal de céans devrait modifier sa jurisprudence en ce sens qu'une poursuite ne peut être introduite que si le créancier a préalablement rendu l'existence de sa créance vraisemblable, compte tenu précisément de la particularité susmentionnée du droit suisse qui permet d'introduire une poursuite sans devoir prouver l'existence de la créance et ce d'autant plus que le droit suisse offre au prétendu débiteur d'autres moyens de se défendre si la prétention du prétendu créancier est mal fondée ou même imaginaire (cf. <ref-ruling> consid. 2b p. 4).
6. En définitive, le recours se révèle mal fondé et doit être rejeté. Vu l'issue du recours, les frais judiciaires doivent être mis à la charge du recourant qui succombe (art. 66 al. 1 LTF). Il n'y a pas lieu d'allouer de dépens à l'intimé, une réponse n'ayant pas été requise (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 1'200 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à l'Office des poursuites de Genève et à la Cour de justice du canton de Genève, Chambre de surveillance des Offices des poursuites et faillites.
Lausanne, le 24 octobre 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Hildbrand