nlandı ve kariyerlerinden bu yana ilk defa basından olumlu eleştiriler almaya başladılar, Rolling Stone dergisinden Gordon Fletcher, Black Sabbath’ın dört albümünü de berbat olarak niteleyen, bile albümü olağanüstü olarak değerlendirmiştir. Albüm 20 Mart 1974’de Altın albüm ile 1986’da Platin ile ödüllendirildi. Albüm UK Chart'ta 4 Amerika'da 11 numaraya ulaştı. Grup 1974'te dünya turuna başladı tur, California Jam Festivalinde 6 Nisan 1974'te bitti. California Jam Festivalinde Deep Purple, Eagles, Rare Earth, Black Oak Arkansas, Seals and Crofts, Emerson, Lake & Palmer ve Earth, Wind & Fire ile beraber 250.000 kişiye konser verdiler. 
6.ncı albüm için çalışmalara Şubat 1975’de Morgan Stüdyolarında başlanıldı ve Sabotage Temmuz 1975’de yayınlandı. Birleşik Krallık ve ABD'de ilk 20’ye girdi ancak Black Sabbath ilk defa Platin albüm alamamıştır, 16 Haziran 1997’de Altın albüm almaya hak kazanmışlardır. Albümün tek teklisi olan Am I Going Insane (Radio) başarısız olmuştur. Albümde hayranlarının en sevdiği şarkılar ise Hole in the Sky ve Symptom of the Universe’dir. 
Black Sabbath Kiss’in ön grup olduğu turnede turlarlarken, Ozzy Osbourne bir motosiklet kazası sonucu sırtındaki birkaç kası yırtıldı ve tur yarıda kesilmek zorunda kaldı. Aralık 1975’de grubun plak şirketi We Sold Our Soul for Rock 'n' Roll albümü altında Black Sabbath’ın en iyi hitlerini yayınladı, Amerika’da 2 milyondan fazla sattı.
Black Sabbath Haziran 1976 yılında yeni albümleri için Miami'deki Criteria Stüdyolarında çalışmalara başladı. Technical Ectasy'inin kayıtları sırasında Ozzy gruptan sıkılmaya başlamış ve diğer müzisyenler ile birlikte çalışma imkanı olup olmadığını düşünmeye başlamıştı. Technical Ecstasy 25 Eylül 1976 yılında yayınlandı. Albümdeki It’s Alright şarkısını Bill Ward seslendirmiştir. AllMusic albüme iki yıldız verdi ve grubun endişe verici oranda kötüye gittiğini belirtti. Technical Ecstasy Amerika'da ilk 50'ye bile giremedi. Geezer'a göre bu albüm sonun başlangıcıydı. Kasım 1976’da Boston ve Ted Nugent’ın ön grup olduğu konserlerde Amerika’yı, Nisan 1977’de AC/DC ile Avrupa’yı turladılar. 
Turne bittiğinde Ozzy gruptan keni solo projesi için ayrıldı ve grup yeni solist Dave Walker ile stüdyoya girmeden sadece üç gün önce Ozzy gruba geri dönmeye karar verdi ancak Ozzy, Dave Walker için yazılan şarkıları kabul etmedi ve grup stüdyoya geri döndüğünde ellerinde hiçbir şey yoktu. Grup Never Say Die için Kanada'daki Sounds Interchange Stüdyolarında 5 ay geçirdi. Albüm Eylül 1978 yılında yayınlandı. Birleşik Krallık'ta 12 ABD'de 69 numaraya kadar çıkabildi. Grup tam 20 sene sonra Altın albüm ödülü alabildi. Basının albüm için tepkisi olumsuz oldu ve AllMusic'ten Eduardo Rivadavia şöyle demiştir:"Grubun kişisel problemleri ve uyuşturucu kullanımının albümdeki şarkılara yansıdığı açıkça görünüyor." Mayıs 1978'te Van Halen'in ön grup olduğu turneye çıktılar. Eleştirmenler Black Sabbath'ın performansı için yorgun ve sönük olduğunu belirtirken ilk defa dünya turuna çıkan Van Halen'in performansı için diri ve genç yorumu yapıldı. Haziran 1978'deki Hammersmith Odeon'daki konseri filme çekildi daha sonra Never Say Die olarak DVD'si yayınlandı. Turun son gösterisi olan 11 Aralık’daki New Mexico konseri Osbourne'un gruptaki son görünümüydü. (yeniden birleşmeye kadar)
Ozzy’nin aşırı alkol ve uyuşturucu kullanımı artık kötü bir duruma gelmişti sonuç olarak grup Ozzy’nin kovulmasına karar verdi.
Sharon Arden (daha sonra Ozzy Osbourne'un karısı) Black Sabbath'ın menajer'i Don Arden'ın kızıdır. Sharon Arden gruba Rainbow'un solisti Ronnie James Dio'yu önerir. Aynı zamanda Don Arden'da Ozzy'nin yeniden gruba katılması için uğraşmaktadır. Dio resmi olarak Haziran ayında katıldı ve grup hemen bir sonraki albümleri için çalışmalara başladı. Geezer Butler geçici olarak Eylül 1979’da ayrılır yerine Geoff Nicholls gelir. Grup albüm çalışmaları için Kasım’da Criteria Stüdyolarına gitti, Butler’da Ocak 1980’de geri döndü Nicholls ise klavyeye geçti. Heaven and Hell 25 Nisan 1980'de yayınlandı. AllMusic albüm için Black Sabbath'ın en iyi kayıtlarında biri olduğunu grubun yeniden doğduğunu belirtmiştir. Albüm Birleşik Krallık'ta 9 ABD'de 28 numaraya kadar çıktı. Sabotage'dan sonraki listelerdeki en yüksek sıralamaya ulaşmışlarıdır. Albüm Amerika'da bir milyon satmıştır ayrıca 1981 yılında Altın, 1986 yılında da Platin albüm almıştır. Grup Dio'lu ilk dünya turuna Almanya'da 17 Nisan 1980'de başlamıştı. 1980 yılında Blue Öyster Cult ile Black and Blue adı altında Amerika’yı turladılar ve New York’taki gösterileri filme çekildi. 18 Ağustos 1980'de Minneapolis'teki gösteriden sonra Bill Ward, günde 24 saat içtiğini alkolik olduğunu ve Ozzy'siz yapamadığını gerekçe göstererek gruptan ayrıldı. Ward'ın yerine Vinny Appice geldi. Grup Şubat 1981'de turu tamamladı ve tekrar stüdyolara geri döndüler. 
Mob Rules Ekim 1981'de yayınlandı. Rolling Stone eleştirmenlerinden J.D. Considine albüme 1 yıldız verdi. AllMusic’ten Eduardo Rivadavia ise albümün muhteşem bir kayıt olduğunu söyledi. The Mob Rules şarkısı John Lennon'ın Birleşik Krallık'taki eski evinde kaydedildi. Konser albümü Live Evil'in miks aşamasında Iommi ve Butler'ın Dio ile araları bozuldu. Ses mühendisinin yanlış bilgilendirmesi sonucu Dio'nun gece vakti stüdyoya girip şarkılarda vokalleri yükselttiğini düşünen Iommi ve Butler, Dio ile ters düştü. Ayrıca Dio'nun albüm kapaklarına karışmasıyla ortam gerildi. Ronnie James Dio yanına Vinny Appice de alarak Kasım 1982'de gruptan ayrılarak kendi grubunu kurdu. Live Evil Ocak 1983'te yayınlandı ancak Ozzy Osbourne'un Speak of the Devil albümünün gölgesinde kaldı. 
Dio'nun yerine Deep Purple'dan Ian Gillan Aralık 1982'de geldi. Gillan'la farklı bir isim altında birleşmek istiyorlardı ancak plak şirketi Black Sabbath ismini korumalarını istedi. Bill Ward ise Haziran 1983’de gruba geri döndü. Born Again 7 Ağustos 1983’de yayınlandı. Negatif eleştirilere rağmen albüm UK Chart'ta 4 Amerika'da 39 numaraya kadar çıktı. Albüm yayınlandıktan kısa süre sonra Bill Ward yeniden gruptan ayrıldı. Ward’ın yerine Born Again’in 83-84 World Tour’da çalması için Electric Light Orchestra’nın bateristi Bev Bevan alındı.

Mart 1984'de Born Again turu tamamlandıktan sonra Ian Gillan Black Sabbath'ı bıraktı ve Deep Purple'a geri döndü aynı zamanda baterist Bev Bevan’da ayrıldı. Grup daha sonra ismi bilinmeyen Los Angeles'lı solist David Donato'yu gruba aldı. Kısa bir süre sonra da Butler gruptan ayrıldı ve sonrasında geriye tek kalan grubun orijinal üyesi Tony Iommi klavyeci Geoff Nicholls ile solo albümü üzerine çalışmaya başladı vokallerde ise Glenn Hughes vardı. Grup bir yılını stüdyolarda geçirdikten sonra Seventh Star ortaya çıktı. Warner Bros. albümün Tony Iomm'inin solo albümü olarak değil Black Sabbath’ın adı altında çıkması için zorladı. 
Daha sonra grup Black Sabbath adı altında turneye çıkmaya karar verir. Glen Hughes şöyle der: "Ben Tony Iommi'nin projesinin içindeydim, Black Sabbath'ın değil. Black Sabbath olma fikri ne olursa olsun bana hitap etmedi." Turun başlamasına 4 gün kala Glenn Hughes barda prodüksiyon amiriyle kavga etti ve ses telleri zedelendi sonuç olarak turneden çekildi. Yerine Ray Gillen getirildi grup turlara W.A.S.P. ve Anthrax ile devam etti ancak neredeyse yarısına yakın konser, bilet satışlarından dolayı iptal edildi. 
13 Temmuz 1985’te ise Bob Geldof'un davetiyle Live Aid konserleri için orijinal 4'lü bir araya geldi ve üç şarkılık bir konser verdi.
Grup çalışmalara Montserrat’taki Air Stüdyolarında Ekim 1986'da başlar. Bas gitardaki Dave Spitz gruptan çıkar yerine eski Rainbow bas gitarcısı Bob Daisley gelir, Daisley albüm için sololar kaydetti ve şarkı sözleri yazdı albüm daha tamamlanmamışken baterist Eric Singer’ı da yanına alarak Gary Moore’nun grubuna giderler. Ray Gillen’da Black Sabbath’dan ayrılıp Blue Murder’a gider. Tony Martin ve Bev Bevan yarıda kalan kayıtların tamamlanması için çağrılır. Bev Bevan tekrar ayrılır yerine Terry Chimes gelir. 1 seneye yakın yapım sürecinden sonra The Eternal Idol 8 Aralık 1987'de yayınlanır. Dave Splitz de turneden önce ayrılır yerine Jo Burt gelir. Kötü albüm satışlarından dolayı Vertigo Records ve Warner Bros. Records Black Sabbath’dan vazgeçer ve grup I.R.S Records ile anlaşır. 
Iommi gruba eski Rainbow bateristi Cozy Powell ve bas gitarcı Laurance Cottle’ı alır. Headless Cross Nisan 1989’da yayınlanır. Eduardo Rivadavia albüme 4 yıldız verir ve albüm için Ozzy’siz ve Dio’suz en iyi albüm olduğunu belirtir. Albüm Birleşik Krallık'ta 31 ABD'de 115 numaraya kadar çıkar. Iommi’nin yakın arkadaşı olan Queen’in gitaristi Brian May’in When Death Calls şarkısında gitar solosu bulunmaktadır. Albüm yayınlandıktan sonra ayrılan Laurance Cottle’ın yerine turda çalması için Neil Murray gruba dahil edildi. Headless Cross’un Amerika turunun ön gruplarında Kingdom Come ve Silent Rage bulunmaktaydı tur Mayıs 1989’da başlamıştır ancak bilet satışlarının az olmasından dolayı 8 gösteriden sonra diğer konserler iptal edildi. Albümün Avrupa ayağı Eylülde başladı. Grup Girlschool ile Rusya turuna çıktılar. 
Grup stüdyolara Tyr’ı kaydetmek için Şubat 1990’da geri döndü. Albüm teknik açıdan konsept bir albüm değildi ancak albümdeki şarkıların sözleri genel olarak Norse Mythology’sine dayanıyordu. Tyr 6 Ağustos 1990’da yayınlandı. Birleşik Krallık'ta 24 numaraya çıkmıştı ancak albüm Amerika’da Billboard 200’de en fazla 115 numaraya kadar çıktı ve 8 hafta listelerde durdu. ABD'de satışlar kötü olsa da Birleşik Krallık'ta 300.000 satarak Platin albümü kazandılar.
Blender albüm için 1 yıldız verdi, Iommi’nin Black Sabbath ismini pisletmeye devam ettiğini iddia etti. Grup Circus of Power ile Avrupa’yı turladı fakat Birleşik Krallık'taki son yedi konser kötü satışlardan dolayı iptal edildi. Grup ilk defa ABD'de tura çıkmadı.

Ağustos 1990’da Dio Amerika’da Lock Up The Wolves turnesindeyken Minneapolis Forumda sahneye katılarak Geezer Butler ile Neon Knight’ı seslendirdiler. Geezer, Iommi’yi ikna etti ve Neil Murray’nin yerine Geez