Всё это началось в репетиционной студии в Лос-Анджелесе, когда Serj Tankian встретил молодого гитариста по имени Daron Malakian. В то время они оба были в разных группах, но известно, что у них было много общего, включая армянские корни. Затем они образовали группу с Andranik "Andy" Khatchadurian, который сел за ударную установку. Это образование было названо Soil. Чуть позже к группе присоединился басист Shavarsh "Shavo" Odadjian, хороший друг ребят. С тех пор они стали известны, как System Of A Down. После возникновения некоторых творческих разногласий между членами группы, John Dolmayan заменил барабанщика Andy.
Название группы произошло от "Victims Of A Down", поэмы, которую написал Daron. Это не отражает взгляды музыкантов на мировую политику, но зато является утверждением их мне ния об обществе в целом.
Много различных типов музыки повлияло на творчество System Of A Down. Ещё в молодости на членов команды повлияли Dead Kennedys, Slayer, Morbid Angel, Kiss, The Beatles, Led Zeppelin, а также армянский народный певец Harout Pamboukjian. Результатом явилась уникальная смесь элементов джаза, металла и армянских ритмов. Спустя некоторое время ребята стали получать заслуженные одобрения на сцене Лос-Анджелеса, и стали притягательными для фанатов.
Хотя большинство их выступлений были на разогреве, они неуклонно приобретали популярность и уважение. Список групп, с которыми играли System Of A Down составляют Incubus, Soulfly, Limp Bizkit, Slayer и даже Black Sabbath. Длинный гастрольный график и интенсивная музыка подняли дебютный альбом музыкантов до "золотого" статуса. В то время группа демонстрировала выдающиеся "живые" выступления.
Летом 1998 года дебютировал первый альбом группы, названный "System Of A Down" (American/Columbia). Далее последовали различные компиляции и саундтрэки. Для фильма "Strangeland" был записан трэк "Marmalade", на альбоме компиляций South Park "Chef Aid" группа исполнила песню "Will They Die For You?" с такими рэп-исполнителями, как Mase, Puff Daddy и Lil Kim. Дополнительные вклады можно найти ещё на нескольких саундтрэках: "Scream 3" ("Spiders"), "Heavy Metal 2000" ("Storaged"), "Blair Witch 2" ("Mind") и "Dracula 2000" ("The Metro"). В 2000 году группа появилась на альбомах-компиляциях "Nativity In Black: 2", записав кавер-версию песни "Snowblind" группы Black Sabbath, а также "Loud Rocks", где музыканты сотрудничали с RZA (Wu-Tang Clan) в ремэйке песни "Shame On Da Nigga" (всё того же Wu-Tang Clan'а), назвав её "Shame". Возможно, что наиболее важный вклад был внесён в альбом "Strait Up" (tribute to Lynn Strait). Lynn был вокалистом группы Snot и близким другом Serj'a. Он попал вместе со своей собакой в автомобильную аварию в 1998 году. Serj написал текст и пел в песне "Starlit Eyes", а Shavo также сыграл с Max'ом Cavalera (Soulfly) в песне "Catch A Spirit" . Помимо всего этого Serj спел песни "Feel Good" с Morgan Lander (Kittie) на альбоме (hed)P.E. "Broke" и "Patterns" с сольного альбома Tony Iommi.