Sachverhalt:
A. A.a X._, geb. 1941, werden gemäss Anklageschrift sexuelle Übergriffe auf Y._, das Enkelkind seiner Lebenspartnerin, zur Last gelegt. Er veranlasste Y._ ab deren sechsten Altersjahr mehrmals, sein entblösstes Glied zu reiben, bis es steif wurde. Anschliessend befriedigte er sich selbst. Teilweise kam er vor ihren Augen zum Samenerguss. Diese Handlungen ereigneten sich insgesamt ca. 15 bis 20 Mal in den Jahren 2002 und 2003. Tatorte waren die Wohnung von X._ und seiner Lebenspartnerin (Hobby- bzw. Geräteraum, Esszimmer, Korridor), eine Toilette, der Garten und die Garage zweier weiterer Liegenschaften in Schaffhausen/Neuhausen. X._ fasste Y._ überdies mehrfach über den Kleidern zwischen ihre Beine und bewegte dabei seine Finger. Nach den Handlungen steckte er ihr ein Stück Schokolade in den Mund und sagte, das Ganze bleibe ihr gemeinsames Geheimnis.
A.b Die Untersuchungsbehörden befragten Y._ am 4. April 2007 und am 30. April 2008 im Alter von elf bzw. zwölf Jahren zu den Vorfällen. Die Befragungen erfolgten nach den Vorgaben des Opferhilfegesetzes (OHG; SR 312.5) und wurden auf DVD aufgezeichnet.
B. B.a Das Kantonsgericht Schaffhausen verurteilte X._ am 2. September 2009 wegen mehrfacher sexueller Handlungen mit einem Kind und mehrfacher Schändung. Es bestrafte ihn mit einer bedingten Freiheitsstrafe von zwei Jahren. Gegen dieses Urteil erhob X._ Berufung.
B.b Mit Beschluss vom 13. August 2010 lehnte das Obergericht des Kantons Schaffhausen den Antrag von X._ auf Einholung eines Glaubhaftigkeitsgutachtens ab. Am 26. Oktober 2010 wies es die Berufung ab und bestätigte das erstinstanzliche Urteil.
C. X._ beantragt mit Beschwerde in Strafsachen, das Urteil des Obergerichts vom 26. Oktober 2010 sei aufzuheben, und die Sache sei, unter Zusprechung einer Parteientschädigung, zur neuen Entscheidung an die Vorinstanz zurückzuweisen.
Erwägungen:
1. 1.1 Vor- und Zwischenentscheide sind mit Beschwerde gegen den Endentscheid anfechtbar, sofern sie sich auf dessen Inhalt auswirken und nicht selbstständig angefochten wurden bzw. angefochten werden konnten (Art. 93 Abs. 3 BGG).
1.2 Der Beschwerdeführer ficht mit dem Endentscheid in der Sache den Beschluss der Vorinstanz vom 13. August 2010 an. Mit diesem wurde sein Beweisantrag auf ein Glaubhaftigkeitsgutachten abgewiesen. Auch wenn er keinen formellen Antrag um Aufhebung des Beschlusses stellt, so ergibt sich aus seiner Begründung, dass er sich gleichzeitig gegen den Zwischenentscheid und den Endentscheid richtet (Beschwerde S. 8 unten). Da sich die Ablehnung der Glaubhaftigkeitsbegutachtung von Y._ (nachfolgend Beschwerdegegnerin genannt) auf den Inhalt des Endentscheids auswirken kann, ist auch auf die Beschwerde hinsichtlich des Zwischenentscheids einzutreten (vgl. Urteil 1C_100/2008 vom 18. Juni 2008 E. 1 mit Hinweisen).
2. 2.1 Der Beschwerdeführer bestreitet die ihm zur Last gelegten sexuellen Handlungen zum Nachteil der Beschwerdegegnerin vollumfänglich. Die Vorinstanz hole zu Unrecht kein Glaubhaftigkeitsgutachten zum Verhalten der Beschwerdegegnerin ein, welche trotz der angeblichen sexuellen Übergriffe weiterhin freiwillig alleine zu ihm bzw. mit ihm an die Tatorte gegangen sei. Die vorinstanzliche Beweiswürdigung sei willkürlich (Art. 9 BV). Sie verletze den Grundsatz "in dubio pro reo", den Anspruch auf rechtliches Gehör nach Art. 29 Abs. 2 BV sowie Art. 125 der Strafprozessordnung des Kantons Schaffhausen vom 15. Dezember 1986 (ausser Kraft seit 1. Januar 2011, übergangsrechtlich noch anwendbar gestützt auf Art. 453 Abs. 1 StPO; SR 312).
2. 2.1 Der Beschwerdeführer bestreitet die ihm zur Last gelegten sexuellen Handlungen zum Nachteil der Beschwerdegegnerin vollumfänglich. Die Vorinstanz hole zu Unrecht kein Glaubhaftigkeitsgutachten zum Verhalten der Beschwerdegegnerin ein, welche trotz der angeblichen sexuellen Übergriffe weiterhin freiwillig alleine zu ihm bzw. mit ihm an die Tatorte gegangen sei. Die vorinstanzliche Beweiswürdigung sei willkürlich (Art. 9 BV). Sie verletze den Grundsatz "in dubio pro reo", den Anspruch auf rechtliches Gehör nach Art. 29 Abs. 2 BV sowie Art. 125 der Strafprozessordnung des Kantons Schaffhausen vom 15. Dezember 1986 (ausser Kraft seit 1. Januar 2011, übergangsrechtlich noch anwendbar gestützt auf Art. 453 Abs. 1 StPO; SR 312).
2.2 2.2.1 Die Vorinstanz wies den Antrag auf ein Glaubhaftigkeitsgutachten ab. Der Beschwerdeführer ziehe die Aussagen der Beschwerdegegnerin lediglich aufgrund deren nonverbalen Verhaltens in Zweifel. Die Realkennzeichen würden sich jedoch auf die verbale Aussage beziehen. Der Beschwerdeführer bringe nichts vor, was die Aussagen der Beschwerdegegnerin erschüttern könnte. Es lägen keine besonderen Umstände oder Hinweise vor, aufgrund welcher eine Begutachtung angebracht erschiene (Beschluss vom 13. August 2010 S. 4 f.).
2.2.2 Die Aussagen der Beschwerdegegnerin, wonach sie den Penis des Beschwerdeführers reiben musste, bis er steif wurde, erachtet die Vorinstanz als widerspruchsfrei, plausibel, in sich stimmig, ohne Anzeichen einer Drittbeeinflussung und somit als glaubhaft. Das Verhalten der Beschwerdegegnerin, welche trotz der behaupteten sexuellen Handlungen weiterhin zum Beschwerdeführer gegangen ist, erklärt sie damit, dass diese aufgrund ihres jungen Alters nicht realisierte, worum es sich bei den ihr unangenehmen Sachen handelte. Ferner sah sie im Beschwerdeführer eine Respektsperson. Sie sei gerne zu diesem gegangen, weil sie mit den ihr lieb gewonnenen Hasen spielen wollte. Nichts am Beweisergebnis ändert nach Auffassung der Vorinstanz die Aufklärung durch die Mutter und den Beschwerdeführer im Vorkindergartenalter. Die Beschwerdegegnerin erkannte den Sexualbezug der Handlungen erst zu einem späteren Zeitpunkt. Sie vertraute den Übergriff zunächst ihren Geschwistern an und bat diese, mit der Mutter über die Sache zu sprechen. Die Scham- und Schuldgefühle der Beschwerdegegnerin erachtet die Vorinstanz als Indiz für die Glaubhaftigkeit der Aussage. Auch das Verhalten der Beschwerdegegnerin anlässlich der Befragungen, bei denen sie verlegen, etwas beschämt, ernst und durchaus bedrückt wirke, spreche für die Wahrheit der Schilderungen. Schliesslich berücksichtigt die Vorinstanz das mit der Zeit verblassende Erinnerungsvermögen der Beschwerdegegnerin und schreibt die Mühe zur Präzision zeitlicher und örtlicher Details dem langen Zeitablauf zu (angefochtenes Urteil S. 6 ff.).
2.2.3 Demgegenüber wertet die Vorinstanz die Aussagen des Beschwerdeführers als widersprüchlich. Im Verlauf des Verfahrens sei er dazu übergegangen, die Beschwerdegegnerin und deren Bruder zu beschuldigen, sie hätten ihn "angepeilt", und er sei das Opfer von "Aggressionen", "Sexgriffen" und "Sackschlägen" gewesen. Auch die Definition des Begriffs "Geheimnis" gegenüber der Beschwerdegegnerin, erachtet die Vorinstanz als unglaubhaft. Der Beschwerdeführer habe ihr angeblich erklärt, ein Geheimnis sei "der Einsatz, dass man im Leben arbeiten müsse." Als naheliegender hält die Vorinstanz die Aussage der Beschwerdegegnerin, wonach der Beschwerdeführer sie aufforderte, nichts von den sexuellen Handlungen zu erzählen bzw. diese "geheim" zu halten. Die weiteren Angaben des Beschwerdeführers zur angeblichen Aufklärung der Beschwerdegegnerin durch Zeichnungen, in denen der Penis als Schusswaffe dargestellt wird, würdigt die Vorinstanz als unglaubhaft, weil die Beschwerdegegnerin damals weniger als 5 Jahre alt war. Ausserdem habe der Beschwerdeführer im Laufe des Verfahrens seine diesbezügliche Aussage geändert. Er habe entgegen seinen früheren Erklärungen angegeben, nicht er, sondern die Beschwerdegegnerin habe die Zeichnung erstellt. Er habe diese bloss ergänzt (vgl. angefochtenes Urteil S. 9 f.).
2.2.3 Demgegenüber wertet die Vorinstanz die Aussagen des Beschwerdeführers als widersprüchlich. Im Verlauf des Verfahrens sei er dazu übergegangen, die Beschwerdegegnerin und deren Bruder zu beschuldigen, sie hätten ihn "angepeilt", und er sei das Opfer von "Aggressionen", "Sexgriffen" und "Sackschlägen" gewesen. Auch die Definition des Begriffs "Geheimnis" gegenüber der Beschwerdegegnerin, erachtet die Vorinstanz als unglaubhaft. Der Beschwerdeführer habe ihr angeblich erklärt, ein Geheimnis sei "der Einsatz, dass man im Leben arbeiten müsse." Als naheliegender hält die Vorinstanz die Aussage der Beschwerdegegnerin, wonach der Beschwerdeführer sie aufforderte, nichts von den sexuellen Handlungen zu erzählen bzw. diese "geheim" zu halten. Die weiteren Angaben des Beschwerdeführers zur angeblichen Aufklärung der Beschwerdegegnerin durch Zeichnungen, in denen der Penis als Schusswaffe dargestellt wird, würdigt die Vorinstanz als unglaubhaft, weil die Beschwerdegegnerin damals weniger als 5 Jahre alt war. Ausserdem habe der Beschwerdeführer im Laufe des Verfahrens seine diesbezügliche Aussage geändert. Er habe entgegen seinen früheren Erklärungen angegeben, nicht er, sondern die Beschwerdegegnerin habe die Zeichnung erstellt. Er habe diese bloss ergänzt (vgl. angefochtenes Urteil S. 9 f.).
2.3 2.3.1 Das Recht auf Abnahme der rechtserheblichen Beweise ist Teil des Anspruchs auf rechtliches Gehör nach Art. 29 BV (BGE 129 II 497 E. 2.2 S. 504 f. mit Hinweisen). Nach der Praxis des Bundesgerichtes ist die Prüfung der Glaubhaftigkeit von Beweisaussagen primär Sache der Gerichte (BGE 129 I 49 E. 4 S. 57). Zu prüfen ist, ob die Aussagen verständlich, zusammenhängend und glaubwürdig sind. Ebenso ist abzuklären, ob sie mit den weiteren Beweisen in Einklang stehen (Urteil 1B_36/2010 vom 19. April 2010 E. 3.1 mit Hinweis). Bei Auffälligkeiten in der Person kann ein Glaubwürdigkeitsgutachten als sachlich geboten erscheinen. Bei kindlichen Opferzeugen wird sich ein kinderpsychologisches Aussagegutachten etwa aufdrängen, wenn Anzeichen für eine sprachliche oder kognitive Entwicklungsstörung bestehen, die es dem Gericht erschwert, eine fachgerechte Aussagenanalyse und Beweiswürdigung vorzunehmen. Analoges kann zutreffen, wenn die Opferbefragung nicht professionell erfolgt ist oder wenn bloss rudimentäre oder schwer verständliche Aussagen des Kindes vorliegen, die näherer Interpretation bedürfen (BGE 128 I 81 E. 1 bis E. 3 S. 84 ff.; s. auch BGE 129 I 49 E. 6.1 S. 59 f., je mit Hinweisen). Auch in weiteren Fällen kann eine Begutachtung geboten sein, etwa bei der Würdigung der Aussagen von Kleinkindern, wenn diese bruchstückhaft bzw. schwer interpretierbar sind, oder bei konkreten Hinweisen auf psychische Probleme oder auf eine Beeinflussung durch Dritte (BGE 129 IV 179 E. 184 mit Hinweis).
2.3.2 Dem Gericht steht bei der Beantwortung der Frage, ob aufgrund der konkreten Umstände des Einzelfalles der Beizug eines Sachverständigen zur Glaubwürdigkeitsbegutachtung notwendig ist oder nicht, ein Ermessensspielraum zu (BGE 129 I 49 E. 4 S. 57 mit Hinweis; 129 IV 179 E. 2.4 S. 184 f. mit Hinweisen). In der Regel sind Aussagen von kindlichen Zeugen durch das Gericht selbst zu würdigen, sofern sie klar und verständlich sind und auch ohne besondere kinderpsychologische Fachkenntnisse interpretiert werden können (vgl. BGE 128 I 81 E. 2 und E. 3 S. 84 ff. mit Hinweisen). Eine starre Beweisregel, wonach bei streitigen Aussagen des mutmasslichen Opfers in jedem Fall (unterschiedslos und automatisch) ein Glaubwürdigkeitsgutachten anzuordnen wäre, widerspräche dem Grundsatz der freien richterlichen Beweiswürdigung (Urteile 1B_36/2010 vom 19. April 2010 E. 3.1; 6B_735/2008 vom 19. Februar 2009 E. 3.1; 1P.8/2002 vom 5. März 2002 E. 4.3.1; je mit Hinweisen).
2.3.3 Nach der Rechtsprechung zum Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV) ist zusätzlichen Beweisanträgen nur Folge zu leisten, falls weitere Abklärungen entscheiderheblich erscheinen und sich als sachlich geboten aufdrängen. Der Richter kann das Beweisverfahren hingegen schliessen, wenn er in willkürfreier antizipierter Beweiswürdigung davon ausgehen darf, weitere Ergänzungen vermöchten am relevanten Beweisergebnis nichts Entscheidendes mehr zu ändern (BGE 136 I 229 E. 5.3 S. 236 f. mit Hinweisen).
2.4 Soweit der Beschwerdeführer die Beweise sinngemäss oder ausdrücklich anders als die Vorinstanz würdigt, ohne anhand des angefochtenen Urteils Willkür darzulegen, ist auf seine Beschwerde nicht einzutreten (Art. 97 Abs. 1 BGG; BGE 136 I 49 E. 1.4.1 S. 53 mit Hinweisen). Er übt appellatorische Kritik, wenn er ausführt, entgegen der Auffassung der Vorinstanz sei es nicht von Bedeutung, ob die Beschwerdegegnerin den sexuellen Charakter der Handlungen erkenne; sie wäre nicht mehr freiwillig zu ihm gekommen, wenn sich die sexuellen Handlungen tatsächlich zugetragen hätten, weil ihr diese unangenehm gewesen wären; durch die sexuellen Handlungen hätte sich das Vertrauensverhältnis zerstört; es sei unlogisch, dass die Beschwerdegegnerin keine Ausrede gegenüber der Mutter und der Grossmutter erfunden habe, um den Kontakt zu ihm zu vermeiden und die Warnung der Mutter vor sexuellen Übergriffen hätte solche Taten verhindert.
2.4 Soweit der Beschwerdeführer die Beweise sinngemäss oder ausdrücklich anders als die Vorinstanz würdigt, ohne anhand des angefochtenen Urteils Willkür darzulegen, ist auf seine Beschwerde nicht einzutreten (Art. 97 Abs. 1 BGG; BGE 136 I 49 E. 1.4.1 S. 53 mit Hinweisen). Er übt appellatorische Kritik, wenn er ausführt, entgegen der Auffassung der Vorinstanz sei es nicht von Bedeutung, ob die Beschwerdegegnerin den sexuellen Charakter der Handlungen erkenne; sie wäre nicht mehr freiwillig zu ihm gekommen, wenn sich die sexuellen Handlungen tatsächlich zugetragen hätten, weil ihr diese unangenehm gewesen wären; durch die sexuellen Handlungen hätte sich das Vertrauensverhältnis zerstört; es sei unlogisch, dass die Beschwerdegegnerin keine Ausrede gegenüber der Mutter und der Grossmutter erfunden habe, um den Kontakt zu ihm zu vermeiden und die Warnung der Mutter vor sexuellen Übergriffen hätte solche Taten verhindert.
2.5 2.5.1 Für die Würdigung der Aussagen der Beschwerdegegnerin bedarf es entgegen der Auffassung des Beschwerdeführers keiner besonderen Fachkenntnisse. Die Beschwerdegegnerin war im Zeitpunkt ihrer Aussagen elf- bzw. zwölfjährig. Sie wurde zweimal befragt, wobei der Beschwerdeführer seine Ergänzungsfragen vor der zweiten Befragung schriftlich unterbreitete. Es ist nicht ersichtlich und wird vom Beschwerdeführer nicht behauptet, dass die Aussagen der Beschwerdegegnerin durch eine suggestive Fragestellung beeinflusst worden wären. Auch wenn zwischen dem geltend gemachten Missbrauch und der Befragung ein längerer Zeitraum vergangen ist, ging die Beschwerdegegnerin bei den Vorfällen in den grossen Kindergarten bzw. zur Schule. Sie befand sich sowohl im Tatzeitraum als auch im Zeitpunkt ihrer Aussagen in einem Alter, in welchem ein Kind bereits differenzierte Wahrnehmungen macht bzw. diese wiedergeben kann. Der Beschwerdeführer legt nicht dar, dass z.B. der Entwicklungsstand, die geistige Verfassung oder die Qualität der Aussagen der Beschwerdegegnerin Besonderheiten aufweisen würden, welche eine Glaubhaftigkeitsbegutachtung aufdrängten. Gegen diese Notwendigkeit spricht auch die Art, wie die Vorwürfe enthüllt wurden. Die Beschwerdegegnerin weihte zuerst Bruder und Schwester ein und bat sie, die Mutter über die Vorfälle zu orientieren. Sie traute sich nicht, das Erlebte selbst zu berichten, weil sie Schuldgefühle und Angst hatte (angefochtenes Urteil S. 7 f.). Die verständlichen, kohärenten und glaubhaften Aussagen der Beschwerdegegnerin lassen sich zudem im Gegensatz zu jenen des Beschwerdeführers problemlos mit den geschilderten Situationen vereinbaren (vgl. oben E. 2.2). Der Beschwerdeführer bringt kein stichhaltiges Argument vor, welches für eine Begutachtung spricht.
2.5.2 Die Vorinstanz prüft, ob die Aussagen der Beteiligten in Einklang mit ihrem Verhalten stehen und sie sich in den geschilderten Sachverhalt einbetten lassen. Sie hält die Angabe der Beschwerdegegnerin, dass sie trotz der in Frage stehenden Übergriffe freiwillig zum Beschwerdeführer ging, angesichts des von ihr geschilderten Sachverhalts, wonach sie die Hasen streicheln wollte, der Beschwerdeführer als Lebenspartner der Grossmutter eine Autoritätsperson war und sie den Sexualbezug der Handlungen erst etwa ab der dritten Schulklasse erkannte, als nachvollziehbar. Dabei äussert sich die Vorinstanz entgegen der Auffassung des Beschwerdeführers nicht darüber, was eine andere (insbesondere eine erwachsene) Person an der Stelle der Beschwerdegegnerin logischerweise getan hätte. Vielmehr bewertet sie die Aussagen der Beschwerdegegnerin im Hinblick auf den konkreten Fall als stimmig. Sie durfte den Einwand des Beschwerdeführers, die Beschwerdegegnerin wäre im Falle sexueller Handlungen keinesfalls mehr zu ihm gekommen, verwerfen, ohne in Willkür zu verfallen. Auch die Aufklärung durch die Mutter und den Beschwerdeführer vor dem Kindergarten hält die Vorinstanz richtigerweise nicht für entscheidend. Aufgrund ihres jungen Alters war die Beschwerdegegnerin nicht in der Lage, den Sexualbezug solcher Handlungen zu verstehen und abstrakte Warnungen in realen Situation zu befolgen. Die Vorinstanz durfte in antizipierter Beweiswürdigung ein Glaubwürdigkeitsgutachten ablehnen, ohne in Willkür zu verfallen und ohne Bundesrecht (Art. 9 BV, Art. 29 Abs. 2 BV) bzw. kantonales Recht zu verletzen. Die Rüge erweist sich als unbegründet.
3. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Schaffhausen schriftlich mitgeteilt.
Lausanne, 28. Juni 2011
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Mathys Koch