Sachverhalt:
A. X._ wird unter anderem vorgeworfen, vermutlich am 10. Februar 2008 in Winterthur von A.A._ 1 kg Heroin mit einem Reinheitsgrad von 25 % zum Preis von Fr. 20'000.-- zur Weiterveräusserung entgegengenommen zu haben.
X._ bestreitet diesen Sachverhalt.
B. Das Kantonsgericht des Kantons Schwyz sprach X._ am 13. Dezember 2011 zweitinstanzlich auf Berufung der Oberstaatsanwaltschaft des Kantons Schwyz hin schuldig der mehrfachen qualifizierten Widerhandlung gegen das Betäubungsmittelgesetz gemäss Art. 19 Ziff. 1 Abs. 4-6 i.V.m. Ziff. 2 lit. a aBetmG sowie des Vergehens gegen das Waffengesetz gemäss Art. 33 Abs. 1 lit. a aWG. Es verurteilte ihn zu einer Freiheitsstrafe von 45 Monaten, unter Anrechnung von 195 Tagen Untersuchungshaft.
C. Gegen dieses Urteil führt X._ Beschwerde in Strafsachen. Er beantragt, das Urteil des Kantonsgerichts sei betreffend den von ihm bestrittenen Vorwurf der qualifizierten Widerhandlung gegen das Betäubungsmittelgesetz aufzuheben.

Erwägungen:
1. Der Beschwerdeführer rügt, die Vorinstanz habe gegen Bundes- beziehungsweise Bundesverfassungsrecht (<ref-law> i.V.m. Art. 9 und <ref-law>) sowie gegen Völkerrecht (<ref-law> i.V.m. Art. 6 Ziff. 2 EMRK und Art. 14 Ziff. 2 UNO-Pakt II) verstossen. Sie habe den Sachverhalt unrichtig festgestellt respektive die spärlichen Indizienbeweise willkürlich gewürdigt (Art. 97 i.V.m. Art. 95 lit. a und b BGG). Insbesondere habe sie mit ihrer Beweiswürdigung den Grundsatz "in dubio pro reo" (<ref-law> und Art. 6 Ziff. 2 EMRK) verletzt.
1.1 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>, vgl. auch <ref-law>). Offensichtlich unrichtig im Sinne von <ref-law> ist die Sachverhaltsfeststellung, wenn sie willkürlich ist (<ref-ruling> E. 1.4.1 S. 39).
Willkür in der Beweiswürdigung nach <ref-law> liegt vor, wenn die Behörde in ihrem Entscheid von Tatsachen ausgeht, die mit der tatsächlichen Situation in klarem Widerspruch stehen oder auf einem offenkundigen Fehler beruhen. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass das angefochtene Urteil mit der Darstellung des Beschwerdeführers nicht übereinstimmt oder eine andere Lösung oder Würdigung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre, genügt für die Annahme von Willkür nicht (<ref-ruling> E. 5.4 S. 148; <ref-ruling> E. 2b S. 56; je mit Hinweisen).
1.2 Aus der in <ref-law> und Art. 6 Ziff. 2 EMRK sowie nunmehr auch in <ref-law> verankerten Unschuldsvermutung wird die Rechtsregel "in dubio pro reo" abgeleitet. In seiner vom Beschwerdeführer angerufenen Funktion als Beweiswürdigungsregel besagt dieser Grundsatz, dass sich der Strafrichter nicht von einem für den Beschuldigten ungünstigen Sachverhalt überzeugt erklären darf, wenn bei objektiver Betrachtung erhebliche und nicht zu unterdrückende Zweifel bestehen, ob sich der Sachverhalt so verwirklicht hat. Der Unschuldsvermutung als Beweiswürdigungsregel kommt keine über das Willkürverbot von <ref-law> hinausgehende selbständige Bedeutung zu (<ref-ruling> E. 7 S. 81 f. mit Hinweisen).
1.3 Wird die Verletzung von Grundrechten (einschliesslich der willkürlichen Anwendung von kantonalem Recht und Willkür bei der Sachverhaltsfeststellung) gerügt, gelten qualifizierte Anforderungen an die Begründung. Eine solche Rüge prüft das Bundesgericht nur, wenn sie in der Beschwerde substanziiert begründet worden ist. Das bedeutet, dass klar und detailliert anhand der Erwägungen des angefochtenen Entscheids darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (<ref-law>; <ref-ruling> E. 4.2.3 S. 5; <ref-ruling> E. 1.3.1 S. 68; je mit Hinweisen).
1.3 Wird die Verletzung von Grundrechten (einschliesslich der willkürlichen Anwendung von kantonalem Recht und Willkür bei der Sachverhaltsfeststellung) gerügt, gelten qualifizierte Anforderungen an die Begründung. Eine solche Rüge prüft das Bundesgericht nur, wenn sie in der Beschwerde substanziiert begründet worden ist. Das bedeutet, dass klar und detailliert anhand der Erwägungen des angefochtenen Entscheids darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (<ref-law>; <ref-ruling> E. 4.2.3 S. 5; <ref-ruling> E. 1.3.1 S. 68; je mit Hinweisen).
1.4 1.4.1 Die Vorinstanz stützt die dem angefochtenen Schuldspruch zugrunde liegenden tatsächlichen Feststellungen einerseits auf die Aufzeichnungen zweier Telefonate vom 3. und 10. Februar 2008 zwischen dem Beschwerdeführer und A.A._ und andererseits auf die Aussagen von A.A._ und B.A._. Die Vorinstanz setzt sich auch mit entlastenden Umständen auseinander.
1.4.2 Der Beschwerdeführer geht auf die vorinstanzlichen Erwägungen nur teilweise ein. Er beschränkt sich weitgehend darauf, seine Sicht der Dinge vorzutragen respektive darzulegen, welche Faktoren die Vorinstanz ebenfalls in ihre Erwägungen hätte miteinbeziehen müssen, anstatt sich detailliert und argumentativ mit den vorinstanzlichen Erwägungen auseinanderzusetzen. So nimmt er beispielsweise nur unzureichend Bezug auf die Ausführungen der Vorinstanz betreffend den Reinheitsgehalt des in Frage stehenden Heroins beziehungsweise Heroingemischs. Diese stellt fest, dass A.A._ anlässlich des Telefonats vom 3. Februar 2008 mit dem Beschwerdeführer noch von "sehr guter" Ware gesprochen habe und auch aufgrund der Entschädigung von Fr. 500.-- für den Kurier C._ von einem entsprechend wertvollen Inhalt auszugehen sei (Entscheid, S. 16; Beschwerde, S. 16-18, 27 f.). Des Weiteren beanstandet er etwa die vorinstanzlichen Ausführungen zu seinem Aussageverhalten nur in unvollständiger Weise, ohne hinreichend auf die Erwägungen der Vorinstanz einzugehen, welche sich mit seinen Aussagen zum angeblichen Käufer des Audis eingehend auseinandersetzt (Entscheid, S. 14 f.; Beschwerde, S. 25 f.). Auf die appellatorische Kritik ist nicht einzutreten.
1.4.3 Soweit der Beschwerdeführer vorbringt, die Vorinstanz ignoriere die entlastenden Tatsachen, vor allem den Umstand, dass keiner der angeblichen Mitbeteiligten ihn habe identifizieren können, obwohl diese ansonsten detailgetreu über sämtliche Vorgänge Auskunft gegeben und sich auch gegenseitig belastet hätten (Beschwerde, S. 22), ist seine Rüge unbegründet. Die Vorinstanz setzt sich mit dem Umstand der Nichtidentifikationen namentlich durch A.A._ auseinander und erklärt ihn damit, dass dieser sowie die weiteren am Drogengeschäft Beteiligten ein Interesse an einem für sie bestmöglichen Verfahrensausgang gehabt haben dürften (Entscheid, S. 13 f.). Dem Beschwerdeführer ist zwar beizupflichten, dass nicht klar ist, inwiefern den Mitbeteiligten eine Nichtidentifikation verfahrensrechtliche Vorteile hätte bringen sollen. Dessen ungeachtet durfte die Vorinstanz aber aufgrund der den Beschwerdeführer belastenden gesamten Umstände ohne Willkür darauf schliessen, dass es sich bei ihm um den Käufer des Kilogramms Heroin beziehungsweise Heroingemisch handelte. Die Vorinstanz durfte die zwischen dem Beschwerdeführer und A.A._ geführten Telefonate vom 3. und 10. Februar 2008 als erheblich belastend werten. Aus dem Zusammenhang des Gesprächs vom 3. Februar 2008 ergibt sich, dass mit "Mädchen" nicht im Sinne der eigentlichen Wortbedeutung eine junge Person weiblichen Geschlechts gemeint sein konnte. Aus dem Telefonat vom 10. Februar 2008 folgt, dass es dabei um ein konkretes und ernst gemeintes Angebot an den Beschwerdeführer ging, das am 31. Januar 2008 von unbekannten Drogenlieferanten übernommene Kilogramm Heroin beziehungsweise Heroingemisch zu erwerben. Die Vorinstanz durfte auch die Tatsache, dass A.A._ seinen damaligen Telefon-Gesprächspartner als den Käufer des Heroins respektive Heroingemischs bezeichnete (Entscheid, S. 13), ohne Willkür als erheblich belastenden Umstand werten, wirkte sich doch diese Aussage faktisch wie eine Identifikation aus, wobei sich A.A._ im Übrigen selber erheblich belastete. Schliesslich durfte die Vorinstanz aufgrund der im angefochtenen Entscheid (S. 16) genannten Umstände ohne Willkür zum Schluss gelangen, dass es sich bei der dem Beschwerdeführer übergebenen Ware nicht bloss um Streckmittel, sondern um Heroin von durchschnittlicher Qualität handelte. Dafür spricht auch der zwischen A.A._ und den Drogenlieferanten offenbar ursprünglich vereinbarte Kaufpreis von Fr. 37'000.-- beziehungsweise Fr. 38'000.--.
2. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens sind die Kosten dem Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Kantonsgericht des Kantons Schwyz, Strafkammer, schriftlich mitgeteilt.
Lausanne, 2. Oktober 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Adamczyk