Sachverhalt: A. X._ ist mit Y._ verheiratet. Sie sind die Eltern des Sohnes A._, geb. 2004. Mit Eingabe vom 15. Juni 2013 klagte X._ gegen Y._ vor dem Kantonsgericht Schaffhausen auf Scheidung. Im Scheidungsverfahren sind insbesondere die Kinderbelange streitig. Am 10. September 2013 fand die Einigungsverhandlung statt, an der sich die Parteien jedoch nicht einigen konnten. B. Am 12. Dezember 2013 erliess das Kantonsgericht Schaffhausen zur Frage der Zuteilung der elterlichen Sorge über den Sohn A._ eine Beweisverfügung. Es ordnete ein Gutachten an, ernannte Dr. med. B._, als Gutachter und formulierte die Gutachterfragen. Gegen diese Beweisverfügung legte X._ Beschwerde beim Obergericht des Kantons Schaffhausen ein. Er beantragte im Wesentlichen, es sei ein anderer Gutachter zu ernennen und der Auftrag an den Gutachter sei erst zu erteilen, wenn der Schriftenwechsel durchgeführt sei, alle Zeugen einvernommen seien und ein erwachsenenpsychiatrisches Gutachten über die Mutter, eventuell auch über ihn selbst vorliege. Zudem seien dem Gutachter andere Fragen zu stellen. Mit Entscheid vom 4. Februar 2014 trat das Obergericht auf die Beschwerde nicht ein. C. Gegen diesen Entscheid gelangt X._ mit Beschwerde vom 7. März 2014 an das Bundesgericht. Er stellt das Begehren, den angefochtenen Entscheid aufzuheben und die Sache mit der Anweisung, auf die Beschwerde einzutreten, an die Vorinstanz zurückzuweisen. Gleichzeitig beantragt er, der Beschwerde die aufschiebende Wirkung zu erteilen. Auf Antrag von Y._ (Beschwerdegegnerin) hat das Bundesgericht den Rechtsvertreter des Beschwerdeführers aufgefordert, noch ein rechtsgültig unterschriebenes Exemplar der Beschwerdeschrift einzureichen, was inzwischen erfolgt ist. Mit Verfügung vom 1. April 2014 hat der Präsident der II. zivilrechtlichen Abteilung des Bundesgerichts der Beschwerde aufschiebende Wirkung erteilt. Im Übrigen hat sich das Bundesgericht die kantonalen Akten überweisen lassen, in der Sache aber keine Vernehmlassungen eingeholt.