1995 traf Malakian den späteren Sänger von System of a Down, Serj Tankian, während sich beide mit verschiedenen Bands dasselbe Probestudio teilten. Tankian spielte Keyboard für seine Band, Malakian war Leadsänger für seine. Nachdem sich beide Bands aufgelöst hatten, entschieden sie sich, zusammen die Band "Soil" zu gründen, in der Serj die Rolle des Leadsängers übernehmen würde. Bald stieß Shavo Odadjian dazu, welcher zunächst als Manager für Soil tätig war, später aber als Bassist einstieg. Kurze Zeit später kam Andy Khachaturian als Schlagzeuger dazu, welcher später von John Dolmayan ersetzt wurde – System of a Down hatten sich gefunden. Der Bandname rührt von einem Gedicht her, das Malakian über den Armenischen Genozid geschrieben und „Victims of a Down“ genannt hatte.