在更古老的冰川时期，日本岛两端有许多地方还和亚洲大陆紧密地连在一起的，那时日本就如朝鲜半岛一样，也是属于亚洲大陆的一部分，所以有人推测，可能日本也出现过更古老的猿人或其他人类，这些人群有可能是从亚洲大陆转移过去的。
但是也有日本学者认为日本人是在日本本土上产生的，再融合了亚欧其他地区的原始移民而逐渐转化的人类。
至于日本的旧石器时代，虽然已发现千余个旧石器时代遗址，但有人骨化石出土的还不足10处。因而有史学家认为有可能因为原来的海岸线消失，从而失去了一些可靠的实证。
现在考古学家们能够明确的只是在公元前一万年之后，日本本岛上已有不少的原始人类居住点。这些居住点因为原始人的长期定居，在他们建造的竖穴住居周围，丢弃了许多的贝壳和食物碎屑，从而形成了贝冢文化遗址。
像这样的遗址已发现了不少于1900处，其中绝大部分属于绳文时代的贝冢。所谓绳文，是指从这些贝冢中出土的陶器上使用了绳索制作的花纹。从列岛南端的长崎县的福井洞穴、泉福寺洞穴到本州东北的小濑则洞穴，均有绳纹陶器被发掘出来。
根据这些土陶的外形和绳纹的图形，又可以将绳文时代划分为不同的时期。开始的时候，最早发现的土器距今只有一万年——八千年左右。后来，在长野县发现了一具距今15000年的土器，当时日本宣称它是世界上最早的陶器。
又因为大量出土的陶器比较精美，——“它游弋在丰富的关于形状和装饰的构思中，是任何一个地方或任何一个时代无法比拟的。”（N.G.芒罗博士的《史前日本》），因而一些日本学者坚称，“从武器和工具制造技术以及陶器设计与装饰 的原创性看，这种文化是世界新石器时代众文化中最先进的”。
但是2012年，在我国中国江西万年县仙人洞遗址出土的陶器，距今已有2万年。《科学》杂志认为：“这是世界上最早的陶器”，“这也意味着时代更早的陶器可能会在中国南方发现”。
至于关于陶器的艺术性，是否也从另一方面说明日本作为一个岛国，如果没有外来文明的促进，与大陆相比发展的就缓慢了许多。在绳文文明最辉煌的时期（四五千年前），其他地区已经有了相当发达的农耕文明 ，有些地方原始社会已经开始瓦解，母系氏族已经向父系氏族转变，大陆一些地方都已经迈向了青铜器时代了。
