Jabarkan dengan  menyatakan span dari dari Aljabar linear

Matriks memungkinkan manipulasi ruang vektor berdimensi hingga dan peta linear secara eksplisit. Teori tentang matriks selanjutnya menjadi bagian penting dalam aljabar linear.

Misalkan  adalah ruang vektor berdimensi hingga atas medan , dan  menjadi basis bagi  (sehingga  adalah dimensi dari ). Dengan menggunakan definisi basis, pemetaan

adalah suatu bijeksi dari  yakni himpunan berisi barisan  elemen yang diambil dari , ke . Ini adalah suatu isomorfisme ruang vektor, jika  dilengkapi oleh struktur ruang vektor yang standarnya, yakni dengan operasi penjumlahan vektor dan perkalian skalar dilakukan komponen demi komponen. Isomorfisme ini memungkinan untuk merepresentasikan suatu vektor di  dengan menggunakan vektor koordinat  atau dengan vektorSelanjutnya, jika  adalah ruang vektor dimensi hingga yang lain (atau mungkin yang sama), dengan basis  suatu peta linear  dari  ke  terdefinisi pasti (well defined) lewat nilai-nilai fungsi pada elemen-elemen basisnya, yakni  Sehingga, jikauntuk , maka  dapat dinyatakan sebagai matriks dengan  baris dan  kolomPerkalian matriks didefinisikan sedemikian sehingga hasil perkalian yang didapat merepresentasikan komposisi peta-peta linear dari matriks-matriks yang bersesuaian. Sedangkan perkalian matriks dengan vektor (matriks kolom) merepresentasikan hasil dari melakukan pemetaan linear kepada vektor tersebut. Dari diskusi ini disimpulkan bahwa teori ruang vektor berdimensi hingga dan teori matriks adalah dua bahasa berbeda untuk mengekspresikan satu konsep yang sama.

Dua matriks yang mewakili pemetaan linear yang sama tapi dalam basis yang berbeda disebut matriks yang serupa. Dapat ditunjukkan bahwa dua matriks serupa jika dan hanya jika satu matriks dapat diubah menjadi matriks yang lainnya hanya dengan melakukan operasi-operasi matriks elementer. Untuk suatu matriks yang mewakili pemetaan linear dari  ke , operasi baris elementer berkorespodensi dengan perubahan basis di  sedangkan operasi kolom elementer berkorespodensi dengan perubahan basis di . Setiap matriks serupa dengan matriks identitas dengan mungkin tambahan beberapa kolom nol dan/atau baris nol. Dalam bahasa ruang vektor, ini mengartikan untuk semua pemetaan linear dari  ke , ada basis sehingga sebagian basis di  dipetakan secara bijektif menjadi bagian dari basis , sedangkan sisa basis  yang lain, jika ada, akan dipetakan ke vektor nol. Eliminasi Gauss adalah algoritme dasar untuk menentukan operasi-operasi elementer yang diperlukan, dan membuktikan hasil-hasil pada diskusi ini.