最通用的一种语言是日语，在日本国内具有共通语的地位。然而，在琉球群岛，存在着一系列与日语难以互通的琉球语。而在北海道，原住民阿伊努人所说的阿伊努语同样与日语无法互通。此外，在大日本帝国曾经领有的桦太岛（今俄罗斯萨哈林岛）南还存在鄂罗克语、鄂温克语、尼夫赫语等原住民语言。苏联攻佔萨哈林岛之后，这些原住民被强制迁移到日本本土，其语言环境也不断受到威胁而成为濒危语言。一些外国语言在日本也比较有影响力，例如汉语和在日朝鲜语。
历史.有证据证明日本列岛的先民在旧石器时代移居到日本列岛