Kung Salmans dekret innebär också att prins Mohammed bin Salman, 31, blir vice premiärminister medan han fortsätter som försvarsminister.
Prins Mohammed bin Nayef, 57, har tagits bort från sin roll som chef för inrikes säkerhet, säger statliga medier.
Han har lovat trohet till den nye kronprinsen, hans yngre kusin.
Saudiarabien har vanligtvis styrts av kungar i 70 - eller 80 - årsåldern.
Prins Mohammed bin Salmans snabba uppstigning ses av den yngre generationen som ett tecken på att saker och ting förändras.
Före sin senaste befordran var han ansvarig för att leda Saudiarabiens krig i Jemen, övervaka rikets energipolitik och ekonomiska reformer.
Han måste redan ha rört en hel del fjädrar i en kunglig familj som var van vid att ledas av en rad äldre män, BBC: s Mellanöstern redaktör Jeremy Bowen rapporterar.
Hans far, kung Salman, är 81 år och sägs inte ha den bästa hälsan, tillägger vår korrespondent.
Prins Mohammed bin Salman skulle kunna leda Saudiarabien i årtionden och förebåda en lång period av inre stabilitet.
Men den nya kronprinsen är nära USA:s president Donald Trump, och skulle kunna sätta press på Iran - vilket skulle öka spänningarna i regionen.
Uppkomsten av prins Mohammed bin Salman har varit meteorisk.
När jag träffade honom i Jeddah 2013 beskrev han sig själv som helt enkelt "en advokat". Idag är han ett hjärtslag bort från att styra det mäktigaste landet i arabvärlden.
Trots att han är den drivande kraften bakom Saudiarabiens skadliga och oavslutade militära kampanj i Jemen är han till stor del populär hemma, särskilt hos yngre saudier.
Han har sopat bort många av de ineffektiva tidsservrarna på regeringskontoret och ersatt dem med unga, västutbildade teknokrater. Han har lagt fram en eventuellt överambitiös utvecklingsplan, "Vision 2030", och tillkännagett planer på att sälja en del av det stora statsägda oljebolaget, Saudi Aramco.
Han har också smidt band med Washington och Trump administrationen.
Men hans största och mest riskfyllda drag kan ännu visa sig vara hans försök att stävja det konservativa religiösa etablissemangets makt. Washington gillar det här draget, men andra närmare hemmet gör det inte.
Saudiarabisk grundare, kung Abdulaziz (känd som Ibn Saud), hade dussintals söner, och det finns så många som 15.000 prinsar och prinsessor i den kungliga familjen.
År 2006 antogs ett dekret om inrättande av en kommitté med ansvar för att välja kung och kronprins. Kommittén består av höga prinsar av Al Saud kungafamiljen och är känd som Alegiance Council.
Mohammed bin Salmans nya befordran till kronprins godkändes av 31 av 34 medlemmar av rådet.
Analytiker säger att de som har makten tenderar att utse sina söner till roller som kommer att öka deras chanser att bli befordrade - så när monarker och kronprinsar förändras, kan söner komma in i och av nåd.
Kung Salman, son till kung Abdulaziz, anslöt sig till tronen i januari 2015 efter hans halvbror Abdullah bin Abdul Aziz död.
Han lanserade sin första stora kabinett omblandning några månader senare, främja Mohammed bin Nayef till kronprins och Mohammed bin Salman, som var relativt okänd på den tiden, till vice kronprins.
Experter säger att den andra omvälvningen har minskat osäkerheten kring tronföljden, och betyder att kungen har avvärjt en potentiell maktkamp mellan sin son och sin brorson.
Dekretet som främjar Mohammed bin Salman innehåller en klausul som hindrar honom från att utse en av sina egna söner till arvinge.
Det är det mest inflytelserika arabiska landet - och en viktig allierad av västmakter, inklusive USA och Storbritannien.
Kungadömet är också världens näst största oljeproducent - och den saudiska kungafamiljen tros vara en av de rikaste härskande familjerna i världen.
Det är väktare av de två mest heliga platserna i Islam, och betraktar sig som ledare för Sunni samhället över hela världen.
Kungadömet är en viktig aktör i Sunni försök att blockera Shia Iranian inflytande i Mellanöstern.
Den har inlett flyganfall mot Jemen för att bekämpa Houthi-rebeller, som Saudiarabien tror stöds av Iran. Kampanjen har dock kritiserats för kränkningar av de mänskliga rättigheterna - inklusive dödandet av många civila.
Nyligen deltog Saudiarabien också i ansträngningarna att införa en blockad mot Qatar.
Prins Mohammed bin Nayef var rikets säkerhetschef i många år och var känd för sin starka hållning mot jihadistiska militanter.
Som biträdande premiärminister och inrikesminister var han chef för antiterroristportföljen och hade också goda förbindelser med Saudiarabiens västliga allierade.
Statsmedia sänder bilder som visar Mohammed bin Nayef träffa Mohammed bin Salman efter att successionen tillkännagavs.
Den före detta kronprinsen sa "Jag är nöjd" och "Jag kommer att vila nu. Må Gud hjälpa er, medan den nye arvingen svarade: "Må Gud hjälpa er. Jag kommer aldrig att klara mig utan ditt råd."
Reaktionen på utnämningen av den nya kronprinsen var till stor del (och föga förvånande) firande, även om Saudiarabiens regionala rivaler tog tillfället i akt att kritisera riket.
Saudi-finansierad Al-Arabiya TV hade filttäckning och betonade den positiva effekt utnämningen hade på landets börs.  Liknande rapporter förekom i andra vänliga arabstater.
Men i Iran - Saudiarabiens bittra rival - beskrev flera nyhetskanaler utnämningen som en "mjuk kupp".
Liknande språk användes av Pro-Qatari HuffPost Arabi, som kallade utnämningen "en kupp i det kungliga palatset".
Syriska statliga mediers i stort sett neutrala rapport kom med en betydande sting i svansen.
Täckningen slutade med en påminnelse till tittarna om en "tyrannisk regim" som "brister på de mest grundläggande demokratiska principerna" och "stödjer terrorism".
Jihadister på sociala medier firade omväxlingen och förutsåg att förändringarna skulle bana väg för inre stridigheter inom Sauds hus och till slut leda till dess undergång.
Saudiarabiens kung har utsett sin son Mohammed bin Salman till kronprins - som ersätter sin brorson, Mohammed bin Nayef, som först i ledet till tronen.