日本語の起源
方法に関する問題
日本語の起源・系統関係を分析するにあたって、様々なアプローチがある。
日本語学・国語学
日本語の起源に関する議論は、新井白石『東雅』や本居宣長らの研究を嚆矢とするが、それ以前にも言語学的な研究は行なわれていた。しかし意識的に「起源」つまり「日本語」の総体を歴史的に分析していこうとしたのはとりわけ本居宣長らの国学派であった。以来、今日に至る「国語学」も江戸以来の膨大な研究蓄積を基礎にしている。西欧の比較言語学が輸入されてからは相互に批判・対立もあったが、近年は双方の方法を折衷しながら、いまだ決着の着かない「日本語」の由来について研究が進んでいる。
比較言語学
日本語の起源を解明するための方法の一つとして、比較言語学が用いられる。比較言語学は歴史言語学のうち印欧語族の起源を明らかにするなかで発展してきたものである。主な手法は、「祖語」を仮説的に想定し、それに沿って言語変化の規則を比較・対照することによって言語間の系統関係を導き出すという方法である。文献資料のないオーストロネシア語族に適用しても数多くの業績が出ているので、8世紀頃までのものしか文献資料が見つかっていない日本語にも、ある程度は適用可能とされてきた。
しかし、例えば比較言語学者高津春繁も、セム・ハム語族の研究においてすら、印欧語族の比較方法をそのまま用いることは無理であるとしている。
言語類型論
しかしながら印欧語族の系統樹と東アジア諸言語の系統樹とは当然異なるものであり、近年は比較言語学の通時主義を包摂する形で地理的背景にも配慮する言語類型論などの観点からも研究が行なわれている。
比較神話学
比較言語学と連携して進められた比較神話学の方法も大林太良や吉田敦彦らによって進められてきた。比較神話学は基本的には神話や説話の構造や特性を比較分析するものであるが、要素の単位をどこまで限定できるかという問題がある。構造神話学者クロード・レヴィ＝ストロースは言語学の音素概念に影響された「神話素」概念を創造し使用しているが、分析概念としての有効性は未確定である。しかしながら参考となる知見も当然あり、比較神話学的分析によれば日本神話は北方民族（北東ユーラシア）と南方民族（東南アジア、太平洋諸島ポリネシア等）との混合とされ、日本語の起源に関する言語学的研究の成果との対応がみられる。
考古学・民俗学
より新しい時代に起源を求める場合には、考古学的遺物・遺構や習俗の類似も日本語の起源の傍証となる場合がある。大野晋などの主張によれば、言語と文化は一致するものではないにせよ、完全に無関係のものとして分けきれないものである。
分子人類学
日本語の担い手である日本人の人類学的ルーツを探ることで、日本語の起源を探ろうとするアプローチである。この分野は学術的な調査が進行している状況であり、学会の統一された見解は存在しない。このアプローチによる主張は、言語学的手法に沿ってなされているわけではなく、遺伝子における共通性から文化や言語などにおいて類似性も見られるグループは存在している可能性があるのではないか、という事を示唆するものである。
これまでに唱えられた主要な学説
以下、これまでに言語学的見地から唱えられた主要な説について解説する。
アルタイ語族説
日本語をアルタイ系言語、アルタイ諸語の一つとする説。ただしアルタイ語族説の基盤を築いたグスターフ・ラムステッドやエフゲニー・ポリワーノフ、 ニコラス・ポッペら自身もこの仮説があくまで仮説にすぎないことを強調していた。この説の基礎理論的な課題は、ツングース諸語、朝鮮語（古代朝鮮語）の内的再構がどの程度まで可能かである。
アルタイ諸語に属するとする説は、明治時代末から特に注目されてきた。その根拠として、古代の日本語（大和言葉）において語頭にr音が立たないこと、一種の母音調和がみられることなどが挙げられる。ただし、アルタイ諸語に属するとされるそれぞれの言語自体、互いの親族関係が証明されているわけではなく、したがって、古代日本語に上記の特徴がみられることは、日本語が類型として「アルタイ型」の言語であるという以上の意味をもたない。またかつてウラル・アルタイ語族という分類がなされていた時代には、それと日本語をつなげる見方もあったが、これもその後、ウラル・アルタイ語族という分類自体が無いとする考えが支持されている。
ロイ・アンドリュー・ミラー『日本語』(1967)『日本語とアルタイ諸語』(1971)と  は、サミュエル・マーティンの日本・朝鮮共通祖語を元に、モンゴル語、テュルク諸語、ツングース語の語形も参照しながら分析を展開している。他には、カール・H・メンゲス『日本語とアルタイ語』やロシアのセルゲイ・スタロスティン、辞典では"Etymological Dictionary of the Altaic Languages"などがある。日本においては服部四郎、野村正良、池上二良等がいる。彼らは日本語の系統問題には慎重ではあったが、日本語をアルタイ系の言語とする仮説に沿って研究を進めていた。また南島（オーストロネシア）語研究で知られる泉井久之助も、日本語の系統はアルタイ系とみなしていた。
しかしながら研究者間で意見の一致が見られる比較例は、全般的な統語論的特徴（タイポロジー）、いくつかの音韻論的要素、人称・指示代名詞システム、動詞や形容詞の活用形の一部、助詞の一部、高々数十の語彙などにとどまっており、いまだ日本語＝アルタイ語族説は十分に実証されていない。ポッペのアルタイ祖語の音韻の再構についても批判的に検討され、アルタイ仮説は破綻したと見る研究者もいる。
現在は、より包括的な大語族または超語族という概念で分類を再考している流れもある（マクロアルタイ説・ユーラシア大語族説・ノストラティック大語族説など）。しかしこの包括理論によって日本語の系統の解明が進む可能性は低いとされている。これに対してツングース諸語・満州語・日本語・朝鮮語に対象領域を縮小し比較の精度を上げる研究の流れもある（米国のA. ボビン〈2003年〉）。
朝鮮語同系説
朝鮮語と日本語の関係についての議論は、日本では江戸時代に遡る古い歴史がある。儒学者の新井白石は、「東雅」（1717年）において、百済語の「熊」=クマ、「海」=ホタイを日本語と比べた。後にウィリアム・ジョージ・アストン（1879年）や白鳥庫吉（1897年）などにより、語彙を中心とした比較が行われた。比較言語学の手法に基づく初めての本格的な研究は、金沢庄三郎『日韓両国語同系論』（1910年）である。なお金沢の著作は「日鮮同祖論」（1929年）をはじめ大日本帝国時代に朝鮮半島政策の正当性を証明する根拠としてひろく引用されたため、戦後は糾弾の対象として嫌悪され、忘却されたが、金沢自身はあくまで学術的な関心として研究し、政治的意図を持っていなかった。
サミュエル・マーティンは両言語の音対応の法則性から日本・朝鮮共通祖語を再構し、この音対応法則は後にミラーやジョン・ホイットマンらによって大きく改良された。ただし、再構に2言語だけを使用したこと、対応しない語彙が多すぎること、対応するとされる語彙が借用である可能性があることなどの問題がある。一方で、A. ボビン（2003年）のように、日本語と朝鮮語間でいくつかの文法的要素が一致する事を根拠に、系統的に同一のものと主張される場合もある。ほか、研究としては宋敏『韓国語と日本語のあいだ』（草風館、1999年）がある。
高句麗語同系説
朝鮮の歴史書「三国史記」に記された高句麗の故地名の音訓併用表記から推測される、いわゆる「高句麗語」が、日本語と組織的に顕著な類似性を示す事を初めて指摘したのは、新村出である（1916年）。新村は、「三」「五」「七」「十」の4つの数詞が日本語と類似することなどを指摘したが、日本語アルタイ起源説と関連させてこの類似を更に深く追究したのは、李基文（イ・ギムン）（1961年-1967年）、村山七郎（1961-1963年）である。最新の論考には板橋義三のものがある（2003年）が、どのような語彙を抽出し、どのような音価を当てるかは論者によって異なる。更に、抽出された語彙の解釈については大きな見解の相違がある。例えば、金芳漢（1985年）は、語彙数を80語とし、ツングース系と解釈されるものは10数語を超えないとするのに対し、板橋は111語を抽出してツングース系語彙は21語とする。また、マズールや村山七郎の説（1979年）を継承してオーストロネシア起源の語彙が含まれるとする。
いずれにしても、数詞に加え、「口（古次）」「海（波且）」「深（伏）」「白（尸臘）」「兎（烏斯含）」「猪（烏）」「谷（旦）」などの類似は印象的であり、更に興味深いのは、中期朝鮮語よりも上代日本語との方が、類似語が見出される割合が大きい（板橋によれば30%と42%）事である。
ただし古代朝鮮半島から旧南満州における言語分布状況がどのようなものだったかは不明な点が多い。そもそも再構された「高句麗語」が、本当に高句麗の言語だったかについても疑問がある。「魏志東夷伝」や「後漢書」などから推測すると、3世紀後半に鴨緑江以北を本拠地としていた夫余・高句麗の言語がツングース系だった可能性は高いが（村山説: 1979年）、肝心の朝鮮半島北部から中部にかけて、3世紀当時どのような言語が分布していたかについては、「魏志東夷伝」などの「中国史書」には全く言及がないのである（金芳漢: 1985年）。
「高句麗語」と日本語との系統関係についてもいまだ十分に実証されていない。
百済語起源説
近年において、韓国の金容雲らによって日本語は百済語が起源であるという説が提唱されている。ただし百済語は高句麗語以上に実態不明であり、根拠薄弱という批判がある。
扶余諸語起源説
朝鮮半島の国家、百済は高句麗の王族によって建てられ、その先祖は扶余に遡ると考えられている。百済は後に、大和時代の日本と密接な関係を持つようになり、クリストファー・I. ベックウィズは、この時点の日本語には、まだ扶余語との関連性が認められると指摘する。ベックウィズは、古代の地名から140の高句麗語の単語を再構築した。この中には、属格「-の」や形容詞連体形「-し」のように、日本語と機能が類似し同一起源と見なせる文法的形態素が多く含まれる。
オーストロネシア語族説
オーストロネシア語族が日本祖語を形成した言語のひとつだったとする説。現在、主流な説は、日本語がアルタイ系言語と南島語の混合語起源とするものであるが、「混合」の定義・プロセスについては、論者の間で見解の相違がある。日本人の民族学人類学的な特徴が混合的なものであることは、古くから指摘されてきた所であるが、言語学者の間では日本語アルタイ起源説が19世紀以来、定説とみなされてきた。
国語学の観点
日本語と南方系言語との関係は、昭和中期までは、主に国語学者によって論じられた。新村出は、日本語と南方系言語との関係を論じ、「ウルチ（粳）」をインドネシア語の「ブラス」と比較した（1930年）。この時期の先駆者として、北里闌や奥寺将健がいる。また昭和30年代には、日本語学者の大野晋が、日本語の母音の終わりの音韻構造をポリネシア語起源とし、身体語彙にインドネシア語と類似するものが多いと主張した（1957年）。
オーストロネシア比較言語学の観点
オーストロネシア比較言語学は、1938年、ドイツのオットー・デンプヴォルフによって基礎が確立された。祖語が再構されたことにより、古代日本語と南島諸語の比較を行う前提条件が整い、音韻体系や語彙に関する類似が指摘された。しかし、いまだ系統関係は実証されたとはいいがたく、逆に従来指摘されていた類似性が必ずしも成り立たないことも判明してきた。例えば上記の「（粳）ウルチ」の例では、現代インドネシア語で「粳」は「ブラス」に類似した発音であるが、祖語に遡れば、むしろ「ブハス」に近い発音であった。またポリネシア諸語の母音終わりの特徴も、子音終わりを許す祖形からの発展である事が証明された。
再構された南島祖語と上代日本語の比較を初めて組織的に行ったのは、言語学者の泉井久之助である。泉井は約50語を取り上げて音韻対応則の検討を行ったが、日本語と南島語の系統的な関係については懐疑的であり、両者間の類似語の存在は借用によるとみなした。
日本語と南島諸語が系統関係にある可能性を指摘したのは、ロシアの言語学者、E. ポリワーノフである。ポリワーノフは、日本語の接頭辞が南島諸語起源と考えられる事、日本語のピッチ（高低）アクセントや、重複形による強調表現などがフィリピンのタガログ語やメラネシア語と類似している事などを指摘し、日本語が南島諸語と系統的な関係にあることの証明を試みた。
また、オーストロ・タイ語の研究で世界的に知られるポール・K・ベネディクトは、晩年に日本語とオーストロネシア語を同系とする論を発表した。
アイヌ語起源説
片山龍峯は、日本語とアイヌ語の語彙には共通の語根があるとし、日本語の活用形の起源もアイヌ語で説明できるとした。また、民族学者の梅原猛などは日本語の基層にアイヌ語の存在を想定している。
ドラヴィダ語族・タミル語説
日本語とドラヴィダ語族との関係を主張する説もあり、とりわけ大野晋による、ドラヴィダ語族のひとつのタミル語との対応関係研究があるが、批判も多く、学説としては定着していない。ドラヴィダ語族との対応関係については、文法構造が膠着語であること、そして語彙の対応があることを芝烝や藤原明、江実らが提起した。
大野晋はインド南方やスリランカで用いられているタミル語と日本語との基礎語彙を比較し、日本語が語彙・文法などの点でタミル語と共通点をもつとの説を唱えるが、比較言語学の方法上の問題から批判が多い。後に大野は批判をうけ、系統論を放棄し、日本語はクレオールタミル語であるとする説を唱えた。
日本語とタミル語の共通項は多岐にわたっており、天文、人事、生活、社会、自然、祭事などあまねく対応する。ただし、魚の名や植物名の対応は非常に少ない。
東夷語説
フィンランドの、ユハ・ヤンフネンは、先日本祖語 (Pre-Proto Japanese) がシナ語派と同様の類型論的特徴（単音節の声調言語）を持っており、山東半島近くの沿岸にいた東夷の一種の言語であったが、朝鮮半島に進入して、そこで高句麗語のような言語と接触してアルタイ語的な類型論的特徴を獲得した後、九州から日本に入ったという仮説を提出している。
アルタイ・南島語混合説
ロシアの言語学者、エフゲニー・ポリワーノフは、特に日本語のアクセント史に関する研究を基に、日本語がオーストロネシア諸語とアルタイ系言語との混合言語であるという説を初めて提唱した。例えば、「朝」のアクセントは京都方言では a_(低)sa^(高低) という形をしているが、後半の特徴的なピッチの下降は、朝鮮語の「朝」 achΛm との比較から語末鼻音 m の痕跡と解釈される事、また「朝顔」(asagawo) のような合成語に見られる連濁現象（k からg への有声音化）も asam+kawo > asaNkawo > asagawo のような過程から生じた語末鼻音の痕跡であるとし、日本語の古形が子音終わりを許すものであったと主張した。更にポリワーノフは、日本語のピッチアクセントを、アルタイ系言語における位置固定のストレスアクセントとは根本的に異なるものと考え、その起源をフィリピン諸語に求めた。また、日本語の「真っ黒」(makkuro < ma+ku+kuro) は、接頭辞 ma を伴う形容詞 kuro の不完全重複形で、同一の形式がフィリピンやメラネシア諸語にも見られる事を指摘し、日本語は起源的に「オーストロネシア要素と大陸的なアルタイ的諸言語との混合物（アマルガム）」であると主張した。
村山七郎はポリワーノフの先駆的研究を再発見し、混合言語説を展開した。村山は元来、アルタイ比較言語学の立場から日本語系統問題を考究していたが、日本語にはアルタイ起源では説明がつかない語彙があまりに多いという見解に達し、南島語と日本語の比較に注目するようになった。村山によれば、いわゆる基礎語彙の約35%、文法要素の一部が南島語起源であり、このような深い浸透は借用と言えるレベルを超えたもので、日本語はアルタイ系言語と南島語の混合言語であると主張した（1973年-1988年）。この見解は、南島言語学の崎山理や板橋義三に継承されている。
現在、主流の見解は、南島語を基層とし、アルタイ系言語が上層として重なって日本語が形成されたとするものだが、安本美典や川本崇雄（1990年）は、逆にアルタイ系言語が基層で南島語が上層言語であったと主張する。アルタイ単独起源説を主張するS. スタロスティン（2002年）ですら、南島語の基礎語彙への浸透を認めていることから分かるように、古代日本語の形成に南島語が重要な役割を演じたことについては、多くの論者が同意している。しかし、それを単なる借用とみなすのか、系統関係の証拠と見るかについてはまだ合意に至っていない。
「古極東語」および周辺言語混合説
計量言語学者の安本美典は、アイヌ語や朝鮮基層語と祖先を同一にする「古極東語」を日本語の基層言語と想定したうえで、その後インドネシア系言語、カンボジア系言語、ビルマ系言語、中国語など複数系統の言語が順次、日本列島に流入・混合して日本語が成立したとする「流入混合説」を唱えている。
ウラル語族および周辺言語混合説
金平譲司は、日本語はウラル語族と同系であり、その他の言語の語彙を混合しながら成立したとする説を提唱している。漢語流入前の日本語の語彙は、ウラル語族（遼河文明の言語）との共通語彙、黄河文明の言語との共通語彙、長江文明の言語との共通語彙、その他の語彙（1.日本語が大陸にいたときの取り入れたもので前の3つに含まれないもの、2.縄文時代の日本列島の言語から取り入れたもの）の5系統が存在するとしている。
オーストロアジア語族説
日本語、特に弥生人の話した言語はオーストロアジア語族の言語であったとする説もある。本説を唱えるVovinによれば、稲作関連語彙を中心にオーストロアジア語族との共通性が見られる。Vovinは、日本列島に渡る前の中国南部で、日本祖語がオーストロネシア語族やタイ・カダイ語族とも接触したと推定している。日本祖語はオーストロアジア語族の特徴である単音節、SVOの語順、そして孤立語という特徴を備えていた可能性がある。また、アイヌ語（族）がオーストロアジア語族に、深層で接続するのではないかという仮説がある。Jäger (2015) は、古い時代の言葉を再構築する語源学的方法によらず、ジョーゼフ・グリーンバーグの提案した計算言語学的方法、すなわち、大量の語彙同士を比較する統計的かつ自動的な方法論により、当該仮説に肯定的な結果を得た。Jäger (2015) によると、ユーラシア全体の言語を分類する目的で上記方法論を用いた場合、オーストロアジア語族とアイヌ語と日本語族は同一のスーパークレードに分類される可能性がある。