Aufenthaltsbewilligung, hat sich ergeben:
A.- A._, geboren 1971, Staatsangehöriger der Bundesrepublik Jugoslawien/Kosovo, gelangte am 18. Juni 1996 in die Schweiz und stellte ein Asylgesuch, das durch Urteil der Schweizerischen Asylrekurskommission vom 12. Mai 1997 in letzter Instanz abgewiesen wurde. Am 15. Mai 1997 setzte das Bundesamt für Flüchtlinge A._ eine Frist zur Ausreise bis 31. August 1997 an.
A._ verliess die Schweiz nicht. Er heiratete am 15. Oktober 1997 in St. Gallen die Schweizer Bürgerin B._, geboren 1965. Am 13. Februar 1998 erteilte ihm die Fremdenpolizei (heute Ausländeramt) des Kantons St. Gallen eine Jahresaufenthaltsbewilligung.
B.- Am 20. August 1998 ersuchte A._ um Verlängerung der Bewilligung. In der Folge traf die Fremdenpolizei Abklärungen, weil Anhaltspunkte aufgetaucht waren, dass die Ehe zwischen A._ und B._ nicht in einer Lebensgemeinschaft bestand.
Mit Verfügung vom 26. Juli 1999 verweigerte die Fremdenpolizei die Verlängerung der Aufenthaltsbewilligung.
Ein Rekurs an das kantonale Justiz- und Polizeidepartement war erfolglos. Mit Urteil vom 6. Juli 2000 wies auch das Verwaltungsgericht des Kantons St. Gallen die von A._ eingereichte Beschwerde ab.
C.- A._ hat mit Eingabe vom 8. September 2000 Verwaltungsgerichtsbeschwerde an das Bundesgericht erhoben.
Er beantragt, das Urteil des Verwaltungsgerichts vom 6. Juli 2000 aufzuheben und das Ausländeramt des Kantons St. Gallen anzuweisen, die Aufenthaltsbewilligung zu verlängern, eventuell die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Das Justiz- und Polizeidepartement des Kantons St. Gallen, das kantonale Verwaltungsgericht und das Bundesamt für Ausländerfragen beantragen übereinstimmend, die Verwaltungsgerichtsbeschwerde abzuweisen.
D.- Mit Verfügung vom 9. Oktober 2000 hat der Präsident der II. öffentlichrechtlichen Abteilung der Beschwerde aufschiebende Wirkung beigelegt.

Das Bundesgericht zieht in Erwägung:
1.- a) Nach Art. 100 Abs. 1 lit. b Ziff. 3 OG ist die Verwaltungsgerichtsbeschwerde auf dem Gebiete der Fremdenpolizei unzulässig gegen die Erteilung oder Verweigerung von Bewilligungen, auf die das Bundesrecht keinen Anspruch einräumt.
Gemäss Art. 4 ANAG entscheidet die zuständige Behörde, im Rahmen der gesetzlichen Vorschriften und der Verträge mit dem Ausland, nach freiem Ermessen über die Bewilligung von Aufenthalt oder Niederlassung. Es besteht damit grundsätzlich kein Anspruch auf Erteilung einer Aufenthaltsbewilligung, es sei denn, der Ausländer könne sich auf eine Sondernorm des Bundesrechts oder eines Staatsvertrags berufen (<ref-ruling> E. 2a S. 291; <ref-ruling> E. 1a S. 363 f., mit Hinweisen).
b) Gemäss Art. 7 Abs. 1 Satz 1 ANAG hat der ausländische Ehegatte eines Schweizer Bürgers Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung. Für die Eintretensfrage ist im Zusammenhang mit Art. 7 ANAG einzig darauf abzustellen, ob formell eine eheliche Beziehung besteht. Die Frage, ob im konkreten Fall die Voraussetzungen zur Verfolgung des Anspruches erfüllt sind, namentlich ob wegen einer Scheinehe eine Ausnahme vorliegt, ist materieller Natur (<ref-ruling> E. 2a S. 291; vgl. auch <ref-ruling> E. 1b S. 292). Auf die vorliegende Verwaltungsgerichtsbeschwerde ist mithin einzutreten.
c) Da als Vorinstanz eine richterliche Behörde entschieden hat, ist das Bundesgericht an die Feststellung des Sachverhalts gebunden, soweit dieser nicht offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen ermittelt worden ist (Art. 105 Abs. 2 OG). Ohne Beschränkung der Kognition ist demgegenüber zu prüfen, ob das angefochtene Urteil Bundesrecht verletzt. Die Abgrenzung von Rechts- und Tatfrage ist im vorliegenden Zusammenhang nicht ganz einfach, jedoch im Blick auf die unterschiedliche Kognition des Bundesgerichts notwendig (<ref-ruling> E. 6a S. 54). Feststellungen über innere, psychische Vorgänge betreffen nach der Rechtsprechung tatsächliche Verhältnisse (<ref-ruling> E. 2c S. 248; <ref-ruling> E. 1 S. 146); Rechtsfrage und damit frei überprüfbar ist dagegen, ob die festgestellten Tatsachen - innere Tatsachen inbegriffen - darauf schliessen lassen, die Ehe sei zwecks Umgehung fremdenpolizeilicher Vorschriften eingegangen worden (vgl.
<ref-ruling> E. 2a S. 6 f.).
2.- a) Der Beschwerdeführer macht zunächst geltend, der Sachverhalt sei unter Verletzung wesentlicher Verfahrensvorschriften festgestellt worden. Die Ehefrau des Beschwerdeführers sei bei ihrer ersten Befragung durch die Fremdenpolizei am 4. November 1998 nicht auf das Zeugnisverweigerungsrecht aufmerksam gemacht worden. Indessen war sie damals nicht als Zeugin, sondern als Auskunftsperson befragt worden, ohne dass sie auf strafrechtliche Folgen falscher Aussage hingewiesen worden wäre. Das Verwaltungsverfahrensrecht sieht solche Auskünfte als Beweismittel ausdrücklich vor (Art. 12 VRG/SG). Es verweist für das Beweismittel der Zeugenaussage auf die Vorschriften des Zivilprozesses (Art. 13 VRG/SG). Die Bestimmung von <ref-law>/SG, wonach Aussagen nicht berücksichtigt werden dürfen, die ohne Kenntnis des Zeugnisverweigerungsrechts gemacht und nach Kenntnisnahme nicht mehr bestätigt wurden, ist Ausdruck des Verbots, rechtswidrig erlangte Beweismittel zu verwerten (siehe auch <ref-law>/SG). Die Aussage einer Auskunftsperson - ohne Strafandrohung - ist im Verwaltungsverfahren kein rechtswidriges, sondern ein ausdrücklich vorgesehenes und damit zulässiges Beweismittel. Das Verwaltungsgericht hat daher keine Verfahrensvorschriften verletzt, wenn es sämtliche Aussagen der Beschwerdeführerin berücksichtigte.
b) Weiter macht der Beschwerdeführer geltend, das Verwaltungsgericht hätte ihn persönlich befragen müssen.
Er sei nur ein einziges Mal, nämlich am 16. November 1998, durch die Fremdenpolizei einvernommen worden. Damals sei die Ehesituation erheblich belastet gewesen. Die Ehefrau habe ihre ursprünglichen Aussagen später, in der Befragung vom 27. Mai 1999, relativiert. Die veränderten Umstände hätten eine ergänzende Befragung des Beschwerdeführers selber erforderlich gemacht, um ein ganzheitliches Bild zu erhalten.
Das Verwaltungsgericht hat diesen Beweisantrag verworfen, weil es sich davon keine zusätzlichen Erkenntnisse versprach.
Der verfassungsrechtliche Gehörsanspruch gebietet, rechtzeitig und formrichtig angebotene Beweismittel abzunehmen, es sei denn, diese beträfen eine nicht erhebliche Tatsache oder seien offensichtlich untauglich, über die streitige Tatsache Beweis zu erbringen (<ref-ruling> E. 2 S. 242; <ref-ruling> E. 4b S. 268 f.). Eine vorweggenommene Beweiswürdigung wird dadurch nicht ausgeschlossen; der Richter kann das Beweisverfahren schliessen, wenn er aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener Beweiswürdigung annehmen kann, dass diese seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde (<ref-ruling> E. 4a S. 469; <ref-ruling> E. 5b bb S. 505; <ref-ruling> E. 5b S. 100 f., mit Hinweisen).
Der Beschwerdeführer ist am 16. November 1998 befragt worden, seine Ehefrau zuvor am 4. November 1998 und - auf Antrag des Beschwerdeführers - ein weiteres Mal am 27. Mai 1999. Die Befragung des Beschwerdeführers war ausführlich und umfassend. Seine Sicht ist hinreichend zum Ausdruck gekommen. Die zweite Befragung der Ehefrau hat keine Gesichtspunkte hervorgebracht, die eine weitere Klärung durch Befragung des Beschwerdeführers erforderlich gemacht hätten. Das Verwaltungsgericht durfte daher, ohne das rechtliche Gehör zu verletzen, davon absehen, den Beschwerdeführer ein zweites Mal zu befragen.
3.- a) Der ausländische Ehegatte eines Schweizer Bürgers hat nach Art. 7 Abs. 2 ANAG dann keinen Anspruch auf die ihm nach Abs. 1 dieser Bestimmung grundsätzlich zustehende Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn die Ehe eingegangen worden ist, um die Vorschriften über Aufenthalt und Niederlassung von Ausländern zu umgehen. Dass Ehegatten mit der Heirat nicht eine eheliche Lebensgemeinschaft begründen, sondern die Vorschriften über Aufenthalt und Niederlassung von Ausländern umgehen wollen, entzieht sich in der Regel dem direkten Beweis und kann diesfalls, wie das bereits früher bei der Bürgerrechtsehe zutraf (vgl. dazu <ref-ruling>), nur durch Indizien nachgewiesen werden. Ein solches Indiz lässt sich darin erblicken, dass dem Ausländer die Wegweisung drohte, etwa weil er ohne Heirat keine Aufenthaltsbewilligung erhalten hätte oder sie ihm nicht verlängert worden wäre. Für das Vorliegen einer Ausländerrechtsehe können sodann die Umstände und die kurze Dauer der Bekanntschaft sprechen sowie insbesondere die Tatsache, dass die Ehegatten eine Wohngemeinschaft gar nie aufgenommen haben. Dasselbe gilt, wenn für die Heirat eine Bezahlung vereinbart wurde. Dass die Begründung einer wirklichen Lebensgemeinschaft gewollt war, kann umgekehrt nicht schon daraus abgeleitet werden, dass die Ehegatten während einer gewissen Zeit zusammenlebten und intime Beziehungen unterhielten; ein derartiges Verhalten kann auch nur vorgespiegelt sein, um die Behörden zu täuschen (<ref-ruling> E. 2b S. 295, mit Hinweisen).
Für die Anwendbarkeit von Art. 7 Abs. 2 ANAG genügt es freilich nicht, dass die Ehe abgeschlossen wurde, um dem ausländischen Ehegatten den Aufenthalt in der Schweiz zu ermöglichen; erforderlich ist vielmehr, dass die eheliche Gemeinschaft nicht wirklich gewollt war; auf die Motive der Heirat kommt es mit anderen Worten nicht an, sofern der Wille vorhanden ist, eine Lebensgemeinschaft zu begründen (<ref-ruling> E. 3b in fine S. 102; vgl. <ref-ruling> E. 1b S. 5).
b) Das Verwaltungsgericht trifft im angefochtenen Urteil folgende Feststellungen, welche dafür sprechen, dass der Beschwerdeführer die Ehe zwecks Umgehung der ausländerrechtlichen Vorschriften einging:
- Der Beschwerdeführer hat geheiratet, nachdem sein Asylgesuch abgewiesen worden war und er die Schweiz hätte verlassen müssen.
- Die Heirat erfolgte nach kurzer Bekanntschaftszeit.
Die Eheleute haben sich frühestens im März 1997 kennengelernt.
Sie heirateten am 15. Oktober 1997.
- Die Eltern der Ehefrau waren bei der Trauung nicht anwesend. Ihnen sollte die Ehe verschwiegen werden.
Sie hätten, wie sich die Ehefrau ausdrückte, "nicht in diese Sache hineingezogen werden" sollen.
- Über die Trauzeugen konnte die Ehefrau nur lückenhafte Angaben machen. Den Namen eines Trauzeugen konnte sie nicht richtig nennen. Sie hat auch sonst keinen persönlichen Kontakt zu ihnen.
- Die Familienangehörigen ihres Mannes sind der Ehefrau nicht vorgestellt worden.
- Der Ehemann wohnte nie bei seiner Frau, obwohl diese die Bereitschaft äusserte, ihn bei sich wohnen zu lassen. Eine Lebensgemeinschaft ist nicht aufgenommen worden.
- Die Ehe ist von Drittpersonen vermittelt worden.
- Die aussereheliche Beziehung der Ehefrau zu ihrem früheren Freund störte den Beschwerdeführer nicht.
Diese Indizien sprechen in der Tat dafür, dass die Ehe - aus der Sicht des Beschwerdeführers - zwar formal gewollt war, nicht aber als Lebensgemeinschaft. Der Beschwerdeführer hält dem vom Verwaltungsgericht gezogenen Schluss im Wesentlichen folgendes entgegen: Er habe eine eheliche Gemeinschaft begründen und leben wollen, es sei ihm aber erst relativ spät bewusst geworden, welch problembehaftete Situation sich ihm zeigte. Seine Frau habe in die Ehe die Hoffnung gesetzt, dass sie ihre bei Pflegeeltern untergebrachte Tochter wieder zu sich nehmen könnte. Dass dies gleichwohl nicht möglich gewesen sei, habe sie ihm angelastet.
Hinzugekommen sei alsdann die Drittbeziehung der Ehefrau, ferner die verschiedenen Arbeitsorte der Ehegatten.
Die Ehefrau habe, ohne ihm dies zuvor mitzuteilen, hohe Erwartungen in die Ehe gesetzt, die der Beschwerdeführer - zumindest vorerst - nicht habe erfüllen können. Die Ehegatten seien aber nach wie vor bestrebt, ihre Probleme zu bewältigen.
Die Argumente der Vorinstanz müssten im Lichte des Zeitpunkts der ersten Befragung gewürdigt werden, als die Ehefrau gerade erst das später nicht mehr weiterverfolgte Scheidungsbegehren eingereicht hatte.
c) Die Argumentation des Beschwerdeführers ist nicht geeignet, den vom Verwaltungsgericht aus den festgestellten Indizien gezogenen Schluss auf das Vorliegen einer Scheinehe in Frage zu stellen. Zunächst ist festzuhalten, dass die Ehefrau bei der Befragung am 27. Mai 1999 die früheren Aussagen bestätigt hat. Sie hat erklärt, bei den früheren Einvernahmen die Wahrheit gesagt zu haben. Sie hat diese Antwort ohne jede Einschränkung und ohne jeden Vorbehalt gegeben. Darüber hinaus hat sie sogar die Gegenfrage gestellt, weshalb sie bei den früheren Einvernahmen denn nicht die Wahrheit gesagt haben sollte. Dem Verwaltungsgericht kann daher jedenfalls nicht offensichtlich unrichtige Feststellung des rechtserheblichen Sachverhalts vorgeworfen werden, wenn es die Aussagen der Ehefrau für glaubwürdig erachtete. Es mag sodann durchaus sein, dass die Lebenssituation der Ehefrau eine Belastung der Ehe darstellen konnte, ebenso die Tatsache ihrer Fremdbeziehung oder die verschiedenen Arbeitsorte. Doch war dem Beschwerdeführer die Fremdbeziehung gerade gleichgültig, wie das Verwaltungsgericht gestützt auf seine eigenen Aussagen feststellte.
Die Indizien, welche das Verwaltungsgericht für das Vorliegen einer Scheinehe anführte, lassen sich sodann nicht mit blossen ehelichen Schwierigkeiten erklären und entkräften.
Sie sind vielmehr als Ausdruck der fehlenden und nicht gewollten Lebensgemeinschaft zu verstehen. Es sei nur auf die Umstände des Eheschlusses hingewiesen, darauf, dass die Eltern der Ehefrau davon nicht einmal wussten und "nicht hineingezogen werden" sollten, dass der Ehefrau die Familienangehörigen des Mannes nicht vorgestellt wurden und dass die Ehe von Dritten vermittelt wurde. Das sind nicht Indizien für eine Ehekrise, sondern dafür, dass eine Lebensgemeinschaft gar nicht entstanden ist. Das Verwaltungsgericht hat mithin Bundesrecht nicht verletzt, wenn es die Verlängerung der Aufenthaltsbewilligung wegen Vorliegens einer Scheinehe ablehnte.
4.- Die Verwaltungsgerichtsbeschwerde erweist sich demnach als unbegründet.
Entsprechend diesem Verfahrensausgang sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerle-gen (Art. 156 Abs. 1 OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 2'000.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer, dem Justiz- und Polizeidepartement und dem Verwaltungsgericht des Kantons St. Gallen sowie dem Bundesamt für Ausländerfragen schriftlich mitgeteilt.
_
Lausanne, 1. Dezember 2000
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Die Gerichtsschreiberin: