בשנת 1976, בעקבות מריבות בין חברי הלהקה והצלחתו הגדולה של להיטו "רוצי שמוליק" (מילים ולחן: שמואל צ'יזיק), שלדעת שאר חברי הלהקה לא התאים לה, עזב זילבר את הלהקה ויצא למסע הופעות שנפסק כעבור זמן לא רב. באותה שנה יצא לאור אלבומו הראשון, "אריאל זילבר", שזכה להצלחה רבה והביא לזכייתו בתואר זמר השנה במצעד הפזמונים העברי השנתי של רשת ג' לשנת תשל"ו. השיר "רוצי שמוליק" זכה באותו מצעד בתואר "שיר השנה". באלבום היו להיטים נוספים, בהם "בטי-בם".
לאחר מכן הקים את להקת ברוש (על שם השיר "ברוש", אותו הלחין) כלהקת ליווי להופעותיו, ואיתה הקליט את אלבומו השני "אריאל זילבר ולהקת ברוש" (1978). בין שירי האלבום היו "תן לי כוח" שאיתו התחרה זילבר בפסטיבל הזמר והפזמון של אותה שנה, "שמש שמש", "ישראלים מצחיקים" מתוך סרט המתיחות בשם זה, וגרסה מחודשת לשירה של להקת תמוז "אהבה שקטה".
כעבור זמן לא רב פרש ממוזיקה לשם מגורים בכפר ועבודה במשתלה, שממנה הגיח לפרקים כדי להלחין מספר שירים לפרסומות כמו "צריך פיס בחיים" ו"פרמה שארפ - סכיני גילוח". בנוסף הופיע בפסטיבלי ילדים בהופעות יחיד.
בשנת 1983 שב למרכז הבמה כאשר הקליט את שירו של שמואל צ'יזיק "בחברה להגנת הטבע", שהיה להיט גדול, יחד עם שירים נוספים כמו "הנה אנו המיואשים", "אני שוכב לי על הגב" (יעקב רוטבליט/גדעון אלרן), "התמהוני" (לחן: להקת באפ הגרמנית) ואחרים. השירים נכללו במיני-אלבום "אריאל זילבר" שיצא באותה שנה. למרות הצלחת השירים העדיף זילבר לשוב ולפרוש ועבר לגור במצפה מתת בגליל, כשהוא מגיח לפרקים להופעות, להופעות איחוד "תמוז" ולכתיבת שירים עבור "הגשש החיוור" לתוכניתם "בעבור חוקן דולרים" שבה נכלל מערכון מוזיקלי שנכתב על ידי יהונתן גפן וזילבר בשם "פסטיבל שירי דיכאון". זילבר הלחין באותה תקופה את השיר "שרית הספרית" ללהקת הנח"ל, ולגלי עטרי הלחין שני שירים למילים של רחל שפירא: "אסמרלדה" ו"נפאל".
בקיץ 1987 הוציא את תקליט השדרים "זאב בודד ביער" שאת מילותיו כתב ביחד עם זאב טנא.
בשנת 1989 הקליט את האלבום "בה-דה-די-דיאה" שבו נכללו ארבעה שירים מעזבונו של שמואל צ'יזיק ובהם "סיפור אהבה" ו"לעולם". להיטי התקליט היו "ואיך שלא" ו"מיליארד סינים" (חידוש לשיר "Et Moi Et Moi Et Moi" של הזמר הצרפתי ז'אק דיטרון), שבקליפ שלו בתוכנית האירוח "סיבה למסיבה" השתתפו רבקה מיכאלי וגבי גזית. שיר בולט נוסף הוא "יש לי מילים", אך בין הפצתו לרדיו ובין הופעת האלבום בשוק עבר זמן רב מדי, והמומנטום אבד. באותה שנה נפטרה אמו של זילבר. תוכניות למופע בעקבות התקליט לא עלו יפה וזילבר המשיך בהלחנת שירים למבצעים אחרים.
בשנת 1990 יצא אוסף התקליטורים הראשון של זילבר בחברת "התקליט חיפה", שהכיל בעיקר שירים מהתקליט השני שלו עם להקת ברוש.
בשנת 1991 יצא אלבומו "שבועיים בעיר זרה". שיר הראפ "להתראות במבול הבא (אוזון דאנס)" (שיר מחאה בנושא איכות הסביבה, אחד משירי הראפ העבריים הראשונים), שאמור היה להיות הלהיט שידחף את האלבום, הופץ לרדיו כשנה לפני כן. בדומה למקרה של אלבומו הקודם, הזמן הרב שחלף מאז ועד ליציאת האלבום לחנויות גרם לאיבוד המומנטום. בעקבות זאת התראיין זילבר לעיתונות הכתובה והודיע על אי אמון בחברות התקליטים הממוסדות. עוד כלל האלבום את השיר "ויהי ערב ויהי בוקר" (מילים: אהוד מנור, עיבוד: אריאל זילבר ונחום פרפרקוביץ') שהקליט עם להקות צה"ל כשיר השירותרום 1990.
בשנת 1992 הצטרף כנגן לתוכנית "מסיבת גן". מעט לאחר מכן הכריז כי אין לו עניין במוזיקת רוק והחל לעבוד על האלבום מסך עשן שיצא רק בשנת 1999, 7 שנים לאחר שהחל לעבוד עליו. האלבום, שזכה להצלחה ביקורתית, כלל מוזיקה ערבית וישראלית מקורית, ולהיטיו היו "מסך עשן" ו"נינה".
בשנת 1993 התארח בפרק לחנוכה של התוכנית "פרפר נחמד".
בשנת 1996 שיחק בסרטו של הבמאי יגאל בורשטיין, "אושר ללא גבול", את דמותו המודרנית של הפילוסוף ברוך שפינוזה המתגורר בשיכון בחולון.
בשנת 2001 יצא אלבום אוסף שני לזילבר, "ללכת עמך", שכלל שירים נדירים, שירים שהתפרסמו בעבר וכן שני שירים חדשים, "ללכת עמך" של יעקב אורלנד ו"אנחנו מכירים אותך" של אהוד מנור. האוסף לא כלל את להיטיו הגדולים ביותר של זילבר והתקבל בתגובות מעורבות, אך בכל זאת זכה להצלחה. באותה שנה פורסם הסינגל הראשון מתוך הפרויקט "תולדות המים - שירים לאחרים" של דני סנדרסון, "בדיעבד", שבוצע בידי זילבר והצליח במצעדי הפזמונים.
בשנת 2005 יצא אלבומו השביעי, "אנבּל", שכלל שירי אהבה וזוגיות המושפעים מהמוזיקה האתיופית, לצד שירים העוסקים במישרין ובעקיפין בנושאים פוליטיים, בהם חידושים לשירי מחאה של נעמי שמר ("כריש") ובוב דילן. בתקופה זו חזר בתשובה והפך לחסיד חב"ד.
בשנת 2008 יצא אלבומו השמיני "פוליטיקלי קורקט", אלבום המכיל את כל שירי המחאה החדשים שלו (כגון "יהודי לא מגרש יהודי", "הגירוש" ו"יש דין ויש דיין"). מפיצי התקליטורים סירבו להפיץ את התקליטור בחנויות. בעקבות כך, החל זילבר למכור את הדיסק בעצמו, באופן אישי דרך אתר האינטרנט שלו.
בתחילת שנת 2011 חתם זילבר על חוזה שיווק עם חברת ההפצה "התו השמיני". באותה שנה יצא סרט דוקומנטרי בשם "אני והזילבר". את הסרט ביים רועי זילבר, בנו של אריאל, והוא עוסק ביחסים בין השניים.
בשנה זו זכה אריאל זילבר בבוררות נגד להקת "הדג נחש" והתקבלה טענתו ששירם "מה נעשה" מבוסס על הלחן של שירו "ואיך שלא". כתוצאה מכך קבע שופט בית המשפט העליון בדימוס, תיאודור אור, כי הלהקה תפצה את זילבר ב-100,000 ש"ח והשיר "מה נעשה" לא יושמע בתחנות הרדיו.
בשנת 2013 הוציא זילבר את אלבומו התשיעי, "העטלף והתרנגול", ובו עשרה שירים מלחניו ומלחני הרב יצחק גינזבורג למילים מקוריות ומילים מהמקורות.
בינואר 2014 הוכרז זילבר כזוכה בפרס מפעל חיים של אקו"ם לשנת 2013. מנימוקי השופטים: "יצירותיו של זילבר בולטות במקוריותן וחדשנותן, תוך שהוא משלב אלמנטים אתניים וסגנונות מוזיקליים חדשים. ניכר כי זילבר הגדיר מחדש את המיינסטרים כשהוא מקרב את השוליים למרכז". בעקבות ביקורת מהשמאל על עמדותיו הפוליטיות של זילבר (ראו להלן) שונה שם הפרס וב-3 בפברואר הוענק לו פרס על תרומתו למוזיקה, ולא על מפעל חיים. בנאומו בטקס קבלת הפרס השמיע זילבר ביקורת על אקו"ם בעקבות ההחלטה למנוע ממנו פרס על מפעל חיים בשל דעותיו, וקרא לפירוק אקו"ם.
בשנת 2015 הוציא זילבר את הסינגל "לאן פנתה אהבתנו" בהפקתו של דני קרק (פילוני), אשר נכנס למצעדי הפזמונים.
בינואר 2016 הודיע ארגון אמני ישראל על הענקת פרס מפעל חיים לזילבר.
בשנת 2017 הוציא זילבר את הסינגל "רפאנו השם" עם מקהלת "ידידים" העולמית. החל משנה זו משתתף זילבר במופעי צמאה. זילבר הקליט מספר שירים מניגוני חב"ד, ובהם: "ופרצת" ו"עוצו עצה".
בשנת 2019 הוציא את האלבום "בשמחה". ב-2020 הוציא את השיר "הוא היה אומר". את השיר הלחין זילבר על מילים ממשנה במסכת אבות. בפברואר 2021 הוציא את "מקלות בגלגלים" למילים שכתב וללחן של גדעון אלרן. במרץ של אותה השנה הוציא את "גבעת כח". את השיר הלחין זילבר על מילים של אברהם גורביץ'.
חייו הפרטיים.
זילבר נשוי בשנית לשושנה (בתו של שלמה קאלו) מ-1984, ויש לו שלושה ילדים ממנה. מאשתו הראשונה, מאירה, יש לו בן אחד. מתגורר ביישוב גיתית בבקעת הירדן.
מעורבות פוליטית.
בשנת 2001 התבטא זילבר בריאיון ל"ידיעות אחרונות" בצורה בוטה כלפי הומוסקסואלים, קיבוצניקים, שמאלנים וערבים ועל כך ספג ביקורת ציבורית חריפה. שלמה גרוניך ביטל בתגובה את הופעתם המשותפת במסגרת פסטיבל הפסנתר. בשנת 2003 השתתף בתשדיר בחירות של רשימת "האיחוד הלאומי". בשנת 2008 הביע חרטה על כמה מאמירותיו, בריאיון טלוויזיוני לארז טל. עם זאת הביע שם את התנגדותו לדמוקרטיה הישראלית, ותמך בגירוש ערבים, בהשלטת ההלכה היהודית ובהקמת הסנהדרין.
בחודשים שקדמו לביצוע תוכנית ההתנתקות ובמהלכה היה זילבר אחד הבולטים במוחים נגד התוכנית. הוא העביר את ביתו לרצועת עזה והופיע מחוץ למחנה שבו התכוננו כוחות צה"ל והמשטרה לביצוע הפינוי. פעולותיו זכו לחשיפה נרחבת בתקשורת, בעוד שיריו מושמעים פחות מבעבר. בעשור הראשון של המאה ה-21 הקליט מספר שירי מחאה שכוונו נגד מבצעי התוכנית וממשלת "קדימה" (בהם "יהודי לא מגרש יהודי", "יוללה", "יש דין ויש דיין"). השירים הכלולים באלבום "אנבל" משנת 2005 בוטים פחות ("יש לי", "בריון השכונה", "כריש"). לאחר ההתנתקות הופיע בכנס של "המטה העולמי להצלת העם והארץ" בביצוע של המנון נטורי קרתא "בשלטון הכופרים אין אנו מאמינים". בבחירות לכנסת ה-17 חיבר, הלחין ושר זמריר למפלגת חזית יהודית לאומית של ברוך מרזל.
בשנת 2007 פרסם את השיר "קומי" שכתבה מנורה חזני, בתמיכה לעלייה מחדש לחומש. באותה שנה השתתף בקמפיין של "הוועד למען הדמוקרטיה" שלפיו אם ברצון הממשלה לשחרר מחבלים רוצחי יהודים, אזי צריך לשחרר גם את יגאל עמיר. בתגובה נשמעו קריאות להחרמה אמנותית רשמית או עקיפה של זילבר, בין השאר על ידי נורית דאבוש, דוד בן בסט, עופר נחשון ועמנואל רוזן. הזמר שי גבסו ביטל את הופעתם המשותפת שתוכננה לפסטיבל הפסנתר. מאידך טען יהלי סובול שאסור להחרים את שיריו של זילבר, ודן תורן כינה את זילבר "זמר שנשבה" וטען כי הבעיה נעוצה במארגני הקמפיין.