Pe baza descoperirilor arheologice, s-a postulat că hominid activitatea din Japonia poate să dateze încă de 200.000 Î.Hr. când insulele erau conectate cu continentul asiatic. Deși unii cercetători se îndoiesc de această dată timpurie pentru locuire, cei mai mulți sunt de acord că în jur de 40.000 î.Hr. glaciația a reconectat insulele cu continentul.
Populând Țara Japoniei
Pe baza dovezilor arheologice, aceștia sunt de acord și că între 35.000 și 30.000 î.Hr. Homo sapiens migraseră spre insule din estul și sud-estul Asiei și aveau modele bine stabilite de vânătoare, adunare și confecționare de unelte din piatră. Instrumente de piatră, situri de locuire și fosile umane din această perioadă au fost găsite în toate insulele Japoniei.
Perioada Jomon
Modele de viață mai stabile au dat naștere cu aproximativ 10.000 î.C. la Neolitic sau, după cum susțin unii savanți, mezolitic cultură. Strămoși posibil îndepărtați ai poporului aborigen Ainu din Japonia modernă, membri ai culturii Jomon eterogene (cca. 10.000-300 î.C.) a lăsat cea mai clară evidență arheologică. Până la 3000 î.Hr., poporul Jomon făcea figuri de lut și vase decorate cu modele realizate prin impresionarea argilă umedă cu cordon împletit sau neîntrerupt și bastoane (Jomon înseamnă „modele de cordon împletit”) cu creștere rafinament. Acești oameni foloseau de asemenea unelte de piatră cioplită, capcane și arcuri și erau vânători, culegători și pescari iscusiți de coastă și de adâncime. Au practicat o formă rudimentară de agricultură și au trăit în peșteri și mai târziu în grupuri fie temporare locuințe cu puțină adâncime sau case de la sol, lăsând mijlocul de bucătărie bogat pentru studiu antropologic modern.
Până la sfârșitul perioadei Jomon, o schimbare dramatică a avut loc conform studiilor arheologice. Cultivarea incipientului a evoluat într-o agricultură sofisticată de orez-ardei și controlul guvernamental. Multe alte elemente ale culturii japoneze pot, de asemenea, să dateze din această perioadă și reflectă o migrație amestecată din continentul asiatic de nord și din zonele din sudul Pacificului. Printre aceste elemente se numără mitologia șintoistă, obiceiurile căsătoriei, stilurile arhitecturale și evoluțiile tehnologice, precum lacurile, textilele, prelucrarea metalelor și fabricarea sticlei.
Perioada Yayoi
Următoarea perioadă culturală, Yayoi (numită după secțiunea din Tokyo unde au fost investigații arheologice i-a descoperit urmele) a înflorit între aproximativ 300 B.C. și A.D. 250 de la sudul Kyushu până la nord Honshu. Primii dintre acești oameni, despre care se crede că au migrat din Coreea în nordul Kyushu și s-au amestecat cu Jomon, au folosit, de asemenea, unelte de piatră cioate. Deși olăria Yayoi era mai avansată din punct de vedere tehnologic, a fost decorată mai simplu decât obiectele lui Jomon.
Yayoi a confecționat clopote ceremoniale, oglinzi și armamente nefuncționale din bronz și, până în secolul I A.D., instrumente și arme agricole de fier. Pe măsură ce populația creștea și societatea devenea mai complexă, ele țeseau pânză, trăiau în sate agricole permanente, construite clădiri din lemn și piatră, au acumulat bogăție prin proprietatea asupra pământului și prin depozitarea cerealelor și au dezvoltat socialuri distincte clase. Cultura lor de orez irigată a fost similară cu cea a Chinei centrale și de sud, necesitând aporturi grele a muncii umane, care a dus la dezvoltarea și la creșterea eventuală a unei societăți agrare, foarte sedentare.
Spre deosebire de China, care a trebuit să întreprindă lucrări publice masive și proiecte de control al apei, ceea ce duce la un guvern extrem de centralizat, Japonia avea apă abundentă. Atunci, în Japonia, evoluțiile politice și sociale locale au fost relativ mai importante decât activitățile autorității centrale și ale unei societăți stratificate.
Primele înregistrări scrise despre Japonia provin din surse chineze din această perioadă. Wa (pronunția japoneză a unui nume chinezesc timpuriu pentru Japonia) a fost menționată pentru prima dată în A.D. 57. Istoricii chinezi timpurii l-au descris pe Wa ca un pământ de sute de comunități tribale împrăștiate, nu din țară un teren unificat, cu o tradiție de 700 de ani, așa cum este stabilit în Nihongi, care pune bazele Japoniei 660 B.C.
Surse chineze din secolul al III-lea au raportat că oamenii din Wa trăiau din legume crude, orez și pește servit pe tăvi de bambus și lemn, aveau relații vasal-maestru, colectau impozite, aveau grenierele și piețele provinciale, și-au bătut mâna în închinare (ceva care se mai făcea în sfinții sintoți), au avut lupte de succesiune violentă, au construit movile de pământ, și au observat doliu. Himiko, o femeie conducătoare a unei federații politice timpurii cunoscută sub numele de Yamatai, a înflorit în secolul al treilea. În timp ce Himiko a domnit ca lider spiritual, fratele ei mai mic a desfășurat afaceri de stat, care au inclus relații diplomatice cu curtea dinastiei Wei Chineze (A.D. 220-65).