行列 のスカラー による左スカラー倍（）は、
で与えられる と同じサイズの行列 となる。つまり、
同様に、行列 のスカラー による右スカラー倍（）は
で定義される。
基礎とする環が（例えば実または複素数体のような）可換環ならば、左及び右スカラー倍の概念は一致して、単にスカラー倍と呼ばれる。より一般の環では（四元数体のように）非可換であるから左右が異なれば異なる乗法である。
通常の行列の積.
二つの行列の積.
まずは二つの行列を掛け合わせることを考える（任意個数への一般化は後述）。
 行列 と 行列 を
とするとき、これらの行列の積 （通例、乗法記号は特に用いずに併置で表す）は、
各 成分 が の第 行に横に並ぶ成分 と の第 列に縦に並ぶ成分 を に亙って足し合わせた和
で与えられる 行列
である。従って、積 が定義されるのは の列の本数と の行の本数が一致している場合に限られる（今の場合は 本）。
多数の行列の積.
二つ以上の個数の行列に対しても、それらの連続する各対に関してサイズの条件が満たされるならば、行列の積を定義することができる。
で与えられる。
行列の冪.
正方行列に関しては、行の本数と列の本数が常に等しいから、通常の数と同様に自分自身を繰り返し掛けることができて、この行列の積の特別の場合としての反復乗積は行列の冪（）を定義することができる。行の本数と列の本数が一致しない一般の矩形行列では冪を考えることができない。即ち、 行列 と正整数 に対して
冪の逆として行列の冪根を考えたり、また冪級数として行列の指数函数やその逆写像として行列の対数函数などを定義したりすることもできる。
その他の乗法.
二つの行列に対して定義されるその他の乗法を以下にいくつか挙げる。実は通常の乗法よりも定義としては単純なものもいくつかある。
アダマール積.
全部書けば、
この演算は（ 個ある各成分において）通常の数の積を一斉に行うことに他ならない。故にアダマール積は可換、結合的、かつ成分ごとの和に対して分配的になる。これはまた、クロネッカー積の主小行列でもある。
クロネッカー積.
二つの行列 , のサイズがそれぞれ , であるとき、これらがどのようなサイズであったとしても（サイズに関する制約条件なしに）、この二つの行列のクロネッカー積（）は