Alla Japans kärnkraftverk stängdes gradvis efter en rad härdsmältor vid anläggningen i Fukushima som utlöstes av tsunamin och jordbävningen.
Men efter att ha genomgått stränga nya säkerhetstester, startade Kyushu Electric Power om reaktor nummer ett vid sin Sendai-anläggning på tisdagsmorgonen.
Det råder fortfarande stor oro bland allmänheten när det gäller en återgång till kärnkraft.
Protester har ägt rum utanför Sendaifabriken och i premiärminister Shinzo Abes residens i Tokyo, omkring 1.000 kilometer bort.
BBC: s Rupert Wingfield-Hayes i Tokyo säger att efter att ha fått höra en katastrof som Fukushima aldrig skulle kunna hända, har allmänhetens förtroende skakats.
Totalt 25 anläggningar har ansökt om att starta om, säger han, men alla står inför rättsliga utmaningar från berörda lokala aktörer.
Vad händer i Sendaireaktorn?
Kyushu sade reaktor nr 1 vid Sendai började fungera igen vid 10:30 lokal tid (01:30 GMT).
TV - bilder visade anläggningens kontrollrum när arbetarna satte på reaktorn igen.
Kyushu Electric talesman Tomomitsu Sakata sade reaktorn hade gått tillbaka online utan några problem.
Det kommer att ta cirka 24 timmar innan en fullständig reaktion sker, och anläggningen förväntas börja generera kraft till fredag. Det kommer att nå full kapacitet någon gång nästa månad.
Premiärminister Abe sade i måndags att reaktorerna hade klarat "världens tuffaste säkerhetskontroll".
"Jag vill att Kyushu Electric sätter säkerheten först och vidtar största försiktighetsåtgärder för omstart", sade han.
Sedan alla kärnkraftverk stängdes, har Japan förlitat sig på importerade fossila bränslen för sin energi, till enorma kostnader. Regeringen har sagt att kärnkraften måste återupptas för att minska både importräkningar och ökande koldioxidutsläpp.
Experter har också varnat för att reaktorer som varit oanvända i åratal har en tendens att drabbas av barnproblem och att en sådan massomstart av vilande reaktorer aldrig har gjorts tidigare, säger vår korrespondent.
Japans myndighet för reglering av kärnkraften godkände två reaktorer vid Sendai-anläggningen i september förra året enligt strängare säkerhetsbestämmelser. Den andra reaktorn ska startas om i oktober.
Mer än $ 100m (Â £ 64m) har spenderats på att montera nya säkerhetssystem på Sendai anläggningen.
Men lokalbefolkningen säger att de nya säkerhetsbestämmelserna inte är tillräckligt stränga - de oroar sig för potentiella faror från aktiva vulkaner i regionen.
Protesterna samlades av Naoto Kan, premiärminister vid tiden för Fukushima-krisen, som sa till publiken: "Vi behöver inte kärnkraftverk."
Han sade att katastrofen i Fukushima hade "utgjort myten om säker och billig kärnkraft, som visade sig vara farlig och dyr".
En av de kraftigaste jordbävningar som någonsin registrerats inträffade utanför Japans kust i mars 2011, vilket utlöste en enorm tsunami som skadade kärnkraftverket i Fukushima, vilket ledde till härdsmälta.
Nästan 16.000 människor dog och mer än 2.500 saknas fortfarande, även om ingen av dödsfallen har kopplats till kärnkraftskatastrofen.
Omkring 160.000 människor evakuerades från de omgivande områdena under de följande veckorna - fortsatt höga strålningsnivåer innebär att de flesta aldrig har kunnat återvända hem.
Japan har återupptagit sin första kärnreaktor enligt nya säkerhetsbestämmelser efter katastrofen i Fukushima 2011.