Sheikh Nimr Baqir al-Nimrs bror sade att han befanns skyldig till att söka "främmande inblandning" i riket, "förakta" sina härskare och ta till vapen mot säkerhetsstyrkorna.
Prästen var en högljudd anhängare av de massprotester mot regeringen som utbröt i östra provinsen 2011.
Gripandet av honom för två år sedan, då han sköts, utlöste oroligheter.
Oljerik östra provinsen är hem för en Shia majoritet som länge har klagat på marginalisering i händerna på Sunni kungafamiljen.
Protester började där i februari 2011 efter början av demokratiupproret i grannlandet Bahrain, som har en shiamajoritet och en sunniisk kungafamilj.
De saudiska myndigheterna förnekar att Shia diskrimineras och skyller på Iran för att ha väckt missnöje.
Sheikh Nimrs bror Mohammed sade på Twitter att han hade dömts till döden av Riyadhs specialdomstol, som prövar terroristfall, på onsdag morgon.
Ett uttalande av prästens familj beskrev domen som "diskretitionär", enligt vilket domaren hade möjlighet att utdöma ett lindrigare straff, enligt Associated Press. Det varnade också för att rättegången hade varit "politisk" och hade skapat ett "farligt prejudikat under årtionden framöver".
När Sheikh Nimr, som innehar ayatollahs rang, ställdes inför rätta i mars 2013 krävde åklagare att han skulle avrättas genom "korsfästning", ett straff som i Saudiarabien innebär halshuggning följt av offentlig uppvisning av den halshuggna kroppen.
Gruppen för mänskliga rättigheter uttryckte sin oro över att han inte skulle få en rättvis rättegång. De sade också att han fortfarande inte hade fått tillgång till tillräcklig medicinsk vård för skottskador han fick under sitt gripande i juli 2012, något som förnekas av myndigheterna.
Polisen sköt Sheikh Nimr i benet fyra gånger under omtvistade omständigheter när de häktade honom efter en biljakt i östra provinsen Qatif-distriktet.
Polisen sa att han rammade ett säkerhetsfordon, vilket ledde till en vapenstrid. Men hans familj ifrågasatte påståendet att han motsatte sig gripandet och insisterade på att han inte ägde något vapen.
Prästen hölls i åtta månader innan han åtalades och uppges ha tillbringat de fyra första i en isoleringscell på ett fängelsesjukhus i Riyadh.
Aktivister och släktingar säger Sheikh Nimr, som har en bred anhängare bland Shia i östra provinsen och andra stater, stödde endast fredliga protester och undvek allt våldsamt motstånd mot regeringen.
2011 berättade han för BBC att han stödde "rytandet av ordet mot myndigheter snarare än vapen... ordets vapen är starkare än kulor, eftersom myndigheterna kommer att dra nytta av en strid om vapen".
Gripandet föranledde dagar av protester där tre personer dödades.
Human Rights Watch sa att mer än 1 040 personer hade arresterats vid Shia protester mellan februari 2011 och augusti 2014. Åtminstone 240 tros fortfarande vara kvarhållna.
"Jag tror att saudierna säger: "Vi kommer att arrestera vem som helst. Vi bryr oss inte om hur hög profil de är... ingen är över det här. Vi har ingen tolerans. Vi har ingen flexibilitet,"" HRW Mellanöstern forskaren Adam Coogle berättade för AP efter Sheikh Nimr dömande.
En domstol i Saudiarabien har dömt shia präst Sheikh Nimr Baqir al-Nimr till döden, säger hans familj.