Tusentals firas på gatorna efter att ha hört slutresultatet var 61,3% "Nej", mot 38,7% "Ja".
Men EU:s tjänstemän varnade för att landet kunde kastas ut ur euroområdet och euron föll över hela linjen på de asiatiska marknaderna på måndagen.
Greklands finansminister, som ofta råkade i konflikt med borgenärerna, har avgått.
Yanis Varoufakis skrev på sin blogg att han hade blivit "medveten om en viss preferens av vissa Eurogruppens deltagare, och diverse "partners", för min... "frånvaro" från sina möten".
Senaste uppdateringar
Premiärministern hade bedömt detta vara "potentiellt till hjälp för honom att nå en överenskommelse", konstaterade han och tillade: "Jag skall bära borgenärernas avsky med stolthet."
Greklands styrande Syriza parti hade kämpat för ett "nej", säger att räddningsvillkoren var förödmjukande.
Mr Tsipras sa sent på söndagen att grekerna hade bevisat att "demokratin inte kommer att utpressas".
Han talade i en TV-adress och sade: "Med tanke på de ogynnsamma förhållandena förra veckan har ni gjort ett mycket modigt val."
"Men jag är medveten om att det mandat ni gav mig inte är ett mandat för bristning."
Han sade att Grekland skulle gå tillbaka till förhandlingsbordet på måndagen och tillade att en utvärdering av Internationella valutafonden (IMF) som offentliggjordes denna vecka bekräftade att omstruktureringen av grekiska skulder var nödvändig.
Men vissa europeiska tjänstemän hade redan varnat för att borgenärerna kunde rösta nej för att grekerna hade avvisat ytterligare samtal.
De europeiska ledarna var olika öppna för fler samtal med Grekland efter omröstningen.
Tysklands vice förbundskansler Sigmar Gabriel berättade för lokala medier att de förnyade förhandlingarna med Grekland var "svåra att föreställa sig" och att Tsipras hade "slitit ner broarna" mellan Grekland och Europa.
Italiens och Belgiens ministrar var dock mer försonliga, och Belgiens finansminister sade att dörren förblev öppen för att återuppta samtalen "bokstavligen, inom några timmar".
Jeroen Dijsselbloem, som leder euroområdets grupp av finansministrar, sade att resultatet av folkomröstningen var "mycket beklagligt" för Greklands framtid.
Samtidigt varnade Europaparlamentets talman Martin Schulz för att EU gick in i "en mycket svår och till och med dramatisk tid" om inte den grekiska regeringen lade fram "betydande" förslag under de kommande timmarna.
Grekland hade varit låst i förhandlingar med sina fordringsägare i månader när den grekiska regeringen oväntat kallade en folkomröstning på de villkor som erbjöds landet.
Det dammrenande svärdet som hänger över Grekland är att bankerna kommer att få slut på pengar på bara några dagar.
Vilket innebär att ett beslut om vilken typ av begränsad tjänst bankerna kan tillhandahålla, som ska göras av den grekiska regeringen, helt kommer att bero på om Europeiska centralbankens (ECB) styrelse beslutar att frysa, skära ned eller öka tillhandahållandet av akut likviditetsstöd eller nödlån till Grekland.
När det gäller ECB vill den inte betraktas som Greklands domare Dredd. Den kommer att ta ledningen från varje uttalande från euroområdets regering om huruvida det finns en realistisk chans till en ny uppgörelse för att rädda den sjuka grekiska statens finanser.
Så Greklands öde ligger fast där det alltid gjorde det, i den tyska förbundskanslerns knä, Angela Merkel och hennes medöverhuvuden.
Och här är den fasansfulla analysen av kostnaderna som de måste göra.
Robert Peston: Stora kostnader för Grekland att stanna i eller sluta euron
Kommer "nej" att påskynda Greklands utträde ur euron?
Gavin Hewitt: Grekland röstar nej och spelar framtid
Bankerna har stängts sedan i måndags efter att Europeiska centralbanken avböjt att ge Grekland mer nödfinansiering.
Uttag från bankomater har begränsats till 60 euro per dag. Greklands senaste räddningsaktion löpte ut på tisdagen och Grekland missade en utbetalning på 1,6 miljarder euro (1,1 miljarder pund) till IMF.
Grekiska regeringstjänstemän har insisterat på att ett förkastande av villkoren för räddningsaktionen skulle hjälpa dem att förhandla fram ett bättre avtal med internationella borgenärer.
Varoufakis skrev att folkomröstningen "nej" var ett "majestiskt, stort ja till ett demokratiskt Europa". Tidigare sade han att bankerna skulle öppna igen på tisdag.
De kommande dagarna kommer det att bli en uppsjö av krismöten över hela Europa.
Europeiska kommissionens ordförande Jean-Claude Juncker sade att han skulle ha ett möte med viktiga EU-tjänstemän och ECB på måndag morgon.
Frankrikes president Francois Hollande och förbundskansler Angela Merkel är planerade att träffas i Paris på måndag. Ett toppmöte för euroområdets statschefer har arrangerats på tisdag.
Europeiska kommissionen – en av fordringsägarnas trojka tillsammans med IMF och ECB – ville att Aten skulle höja skatterna och minska välfärdsutgifterna för att uppfylla sina skuldåtaganden.
Greklands Syriza-ledda regering, som valdes i januari på en anti-austerity plattform, sade borgenärer hade försökt använda rädsla för att sätta press på greker.
Premiärminister Alexis Tsipras har sagt att greker gjorde ett "brave val" i att rösta för att förkasta villkoren för en internationell räddningsaktion i söndags folkomröstning.