日本现存最早的史书是成书于712年的《古事记》和720年的《日本书纪》（都是中国唐玄宗时期）。前者的风格更近于民间传说，可信度较低，而后者可算是日本第一部正史。据两书记载，日本的第一代天皇是神武天皇，他是天照大神后裔，降生于高天原，从九州东征大和，于公元前660年建立了统一的日本国家，此后天皇血脉代代相传至今。然而，此故事近乎神话，真实性无法确定。有人认为神武天皇即是秦始皇派遣东渡的徐福，也有人认为他是吴越后裔，但都缺乏证据。
据现代考古研究，大约3万年前就有智人到达日本，当时日本列岛与大陆相连。距今约1.4万年前，由于海面上升，日本列岛与大陆断开。此后长期与大陆缺乏交流，文明发展极慢，称为“绳文时代”（因制作的陶器上有绳状纹路而得名）。大约从距今3000年前（中国西周）开始，很可能有中国居民渡海来到日本，使日本开始大范围种植水稻，称为“弥生时代”。这时日本并未掌握铜矿冶炼技术，但已有中国产的青铜兵器出现，想必亦是由移民携带而来。——从分子人类学的Y染色体DNA分析来看，现代日本人中D型和O2、O3型的比重都相当高，可能是O型的弥生移民与D型的绳文原住民长期混血的结果。此后日本不断学习中国文化，在数百年里完成了从石器时代到铁器时代的飞跃，学会了炼铁、养蚕、织布、酿酒等技术。另外，不知何时开始，日本也发展出自己的宗教，是一种多神崇拜的原始信仰，后来被称为神道教。神道教与天皇祖先的传说结合起来，历经数千年沧桑，经过佛教和基督教的冲击，今天仍是日本民众的主流信仰。
大约从250年开始，日本出现了一些巨大的古坟，并且有很多保留至今。最大的大仙陵古坟占地46万平方米，大约是秦始皇陵的两倍。如此规模的陵墓意味着当时已经出现相当强大的统治力量，然而由于日本禁止发掘天皇陵墓，我们无法考古探寻其中的真相。在这一时期，日本也第一次出现在文明信史之中：据陈寿（233~297年）所编的《三国志·魏书》记载，从狗邪韩国（今韩国）渡海经过对马国（今对马岛）可到倭人所居的邪马台国（即“大和”，发音为Yamato），其统治者是一位女王卑弥呼。《魏书》对倭人生活风俗的描绘相当可靠，但唯有卑弥呼女王，在日本史书中没有任何记载，成为一个千古之谜。
大化改新
《三国志》之后又过了约三百年，日本的历史记载才进入相对可信时期。据《日本书纪》，倭国一度占据了朝鲜半岛南端的任那地区。541~562年间，倭国的钦明王与朝鲜半岛上的百济国联合攻击新罗国，却被新罗打败，丢失了任那。日本侵占朝鲜的首次尝试遭到失败。然而，这一联盟产生了另一个后果，佛教从百济传入倭国。
这时的倭国实行由世袭豪族联合执政的“三权分立”制度：大君（王族）是祭祀之主，地位最高，但并不掌握实权；大臣是行政最高长官，由苏我氏世袭；大连是军事长官，由物部氏世袭。佛教传入后，崇佛的苏我氏与反佛的物部氏发生冲突。587年，作为钦明王外戚的大臣苏我马子兴兵消灭物部氏，从此终结大连之位。苏我马子进而推举自己姐姐与钦明王所生之女继位，称为推古天皇（日本史上第一位女天皇，592~628年在位）。推古天皇并不实际执掌政事，委任其侄子（也是苏我马子的外甥）厩户王子摄政。厩户王子执掌国家近30年（593~622年，隋朝时期），学习中国制度，对国家体制进行了大量改革，定国名为“日本”，改“大君”称号为“天皇”，意图建立以天皇为核心的中央集权。他还大力弘扬佛法，兴建了大阪的四天王寺。厩户王子奠定了日本国家的基础，因而被后世称为“圣德太子”。
推古天皇和圣德太子先后去世后，苏我氏张扬跋扈，架空皇室。645年，皇室中大兄皇子（后成为天智天皇）联合贵族中臣镰足（后赐姓藤原）发动政变，刺杀了掌权的苏我入鹿，其父苏我虾夷被逼自杀。皇室重新掌握政权。646年，孝德天皇发布《改新之诏》，废除贵族世袭特权，将土地、军队一律收归国有，贵族拥有的部民成为国家公民。这使得日本真正成为中央集权的封建国家，史称“大化改新”。同时，天皇还发布了“薄葬令”，日本的修坟风俗从此终止。
朝鲜之争
在日本海的对面，朝鲜半岛更靠近中华文明，因此发展更早一些。其早期历史上大致存在两个文化圈，北部的朝鲜文化圈受华夏民族影响较大，而南部的辰韩文化圈则更多的是以原住民为主。
在朝鲜神话传说中，开国之王名号檀君，以平壤为都，统治了1500年之后让位给箕子，然后成为山神——此事显然不足为信。朝鲜最早见于文字是在中国《史记》、《尚书大传》等史书中。据记载，周武王灭商（前1046年）之后，从狱中释放了纣王囚禁的商朝贤臣箕子。箕子不愿事周，率商朝移民出走东方的朝鲜，武王便以朝鲜封之。箕子把中原的教化礼仪带到朝鲜，其国家延续了一千多年，在战国时期被燕国夺走大片领土。汉高祖刘邦时，汉将卫满叛逃至朝鲜，被朝鲜王收留。卫满却篡位取代了箕子朝鲜（前194年），自立为王。前108年，汉朝攻灭卫满朝鲜，在此置立乐浪等四郡。而据《后汉书》、《三国志》记载，这个时期半岛南端有辰韩、马韩、弁韩三部并存，合称“三韩”。
在中国东北，前37年（西汉时期），扶余人朱蒙建立了高句丽国。他的长子继承了高句丽，三子出走到朝鲜半岛西南端创立了百济国，并与高句丽敌对。大约同时，三韩后裔在朝鲜半岛的东南端建立了另一个国家新罗。高句丽迅速扩张，与汉四郡之间频繁战争，互有胜负。汉末三国时期，公孙度家族割据辽东，并大破高句丽。魏国先与高句丽联盟，238年司马懿远征辽东，平定公孙；246年毋丘俭又进攻高句丽，破其都城，大胜而还。然而，高句丽王躲入山中，待毋丘俭撤军后又重建都城，此后继续与中国为敌。313年，高句丽终于趁中国五胡乱华之际占领了乐浪郡，中国从此丧失了对朝鲜半岛的统治，朝鲜进入高句丽、百济、新罗三国争霸时代。
在朝鲜半岛三国中，高句丽国力最强，占据了半岛北部和中国辽东部分地区，百济和新罗分列半岛东南、西南两端。三国之间征战不休，而中国（南北朝时期）的前燕、后燕都曾与高句丽交战，日本倭国也开始扩张，插足半岛南部。百济还一度与倭国结盟对抗新罗，但并未取得成功。
隋朝统一中国后，隋炀帝（604~618年在位）三次攻伐高句丽，但由于策略失当，不仅未能征服高句丽，反而导致隋朝国力大伤，成为隋朝灭亡的重要原因。唐太宗消灭东突厥之后，吸取前朝教训，与新罗结盟共同征伐高句丽，在几次战争中削弱了高句丽的国力。660年，唐高宗派苏定方从山东渡海登陆朝鲜半岛南端，与新罗联合攻破了百济都城，然后又和新罗一起，从南北两方夹攻高句丽。高句丽和百济残部遂向日本求救。为了保护日本在半岛的利益，刚刚完成了大化改新的日本天智天皇（中大兄）倾全国之力出兵朝鲜。663年8月，日本舰队抵达朝鲜，与大唐水师在白江口展开海战。这是中日之间的第一场战争。日军船只数量是唐军三倍，但唐军凭借高大坚固的战舰和杰出的指挥水平完胜对手，日本舰队全军覆没。数日后，百济残部投降，日本撤军。五年后，大唐终于由李勣（徐茂功）、薛仁贵等攻灭高句丽，与新罗以大同江为界分治朝鲜半岛。这时的半岛南部称为“统一新罗时代”，通常被视为统一朝鲜国家的开始。此后近千年时间，日本不敢再对朝鲜用兵。
遣唐使
白江口一战，使日本认识到与大唐的实力差距；而新罗统一半岛南部，断绝了日本从百济学习中国文化的途径。日本痛定思痛，决定亲善大唐，大规模派出遣唐使到中国留学。
早在隋朝时期，日本（可能是圣德太子开始）就派出使者前往中国，但当时是从朝鲜半岛登陆，然后沿陆路进入中国；而百济覆灭后，日本只能由海路前来。由于早期的日本远洋航海技术不足，在横渡大海的过程中常有海难发生（包括著名的晁衡也曾遇到海难），但一代又一代遣唐使前仆后继，在两百多年间共有数千人来到中国，使得日本的文化和技术在这个时期迅速发展起来。在此期间，文武天皇于701年颁布《大宝律令》，它是日本第一部成文法典，仿照大唐《永徽律令》而制定，标志着日本从奴隶社会进入封建社会，并企图建立以天皇为核心的中央集权制度。而大唐高僧鉴真（688~763年）亦不辞艰险，经过六次努力，终于以花甲之年远渡重洋，来到日本传播佛教。鉴真在奈良的东大寺授法，使日本佛教从此走上正轨，并对日本的书法、医药等都有很大贡献。
遣唐使行动一直贯穿了几乎整个唐朝，但到了后期，日本认为费用消耗太高，同时也觉得可以汲取的东西都已基本学习完毕。而且唐朝自安史之乱以后逐渐衰颓，尤其是875年，唐朝发生黄巢起义，长安洛阳都被攻陷。日本于894年决定暂停遣唐使，不久，907年大唐灭亡，日本遣唐使行动也随之画上句号。此后将近一千年里，日本基本停止了与外界的交流，回到孤立发展状态。
在朝鲜半岛上，随着唐朝的衰落，中央政府无力再维持对此地的统治。在中国东北，靺鞨族于698年建立了渤海国，然后逐渐占领了东北松花江到朝鲜半岛北部的区域，直到926年被契丹所灭。而半岛南部的统一新罗时代持续到892年，出现了一段分裂和混乱时期，直到918年，新罗叛军武将王建自立为王，取国号为高丽，重新统一了半岛南部，这个王朝成为今日朝鲜的前身。此后朝鲜历经朝代更迭，但基本保持统一，直到1910年被日本强占。