Studiet av lineære ligningssystem har en lang historie i matematikk. Allerede på 1700-tallet ble Cramers regel funnet som gir løsninger ved bruk av determinanter. Også i moderne matematikk er teori for lineære ligningssystemer fundamental, studert i fagfeltet lineær algebra. Metoder for numerisk løsning av lineære ligningssystemer spiller en viktig rolle i mange fagfelt, som fysikk, kjemi, ingeniørvitenskap, informatikk og økonomi. Matematisk modellering i disse fagfeltene gir ofte opphav til komplekse ikke-lineære ligninger som ikke lar seg løse eksakt, men modelligningene kan likevel tilnærmes ved et sett av lineære ligninger. Lineære ligningssystem som har opphav i slike problemer kan inneholde flere millioner ukjente.