行列が、相異なる二つの非零固有値を持つならば、それは四つの平方根を持つ（より一般に、相異なる 個の非零固有値を持つ 行列は 個の平方根を持つ）。実際に、そのような仮定を満たす行列 は の固有ベクトルを列ベクトルに持つ行列 とそれに対応する固有値を対角成分に持つ対角行列 を用いて と固有値分解できるから、 の平方根は で与えられることがわかる。ただし、 は の任意の平方根で、それは の対角成分の任意の平方根を同じ位置の対角成分として持つ対角行列であり、その選び方は 通りある。同じ理由で、上で述べた「半正定値行列の主平方根がただ一つに定まる」ことも言える—半正定値行列 の全ての非負固有値の主平方根を対角成分に持つ対角行列を とする行列 はただ一つしかない。
適当な冪零行列 を用いて の形に書ける行列の平方根 は、二項級数に対する汎函数計算で求められる。同様に、行列の指数函数 , 対数函数 が既知ならば、 を の（主）平方根とすることができる（収束性に注意せよ）。
定義.
「非負実数が非負の平方根（主平方根）をただ一つだけ持つ」という事実に対応して
命題
主平方根をとる操作は行列全体の成す集合上で連続である。このとき、考えている行列が実行列ならば、その主平方根もまた実行列になる。主平方根に関する性質は、行列に対するの帰結として得られる。あるいは主平方根の存在と一意性はジョルダン標準形を用いて直截に示せる（後述）。
計算法.
明示公式.
 行列の場合は、すべての成分を明示的に計算することによって平方根を求めることはそう難しくない。固有値が退化していない場合の平方根はとして記述できる。
 が 対角行列ならば、 の対角成分の任意の平方根を対応する位置の対角成分に持つ対角行列 を作れば平方根が得られる。 の対角成分が非負の実数ならば、先の対角行列 で各成分の符号を全て正としたものは の主平方根である。
冪等行列の平方根は、自身を平方根に持つ。
対角化の利用.
ジョルダン分解の利用.
ジョルダン標準形の平方根には、ジョルダン細胞の平方根であるものと、
のようにジョルダン細胞の平方根ではないもの（同じ固有値のジョルダン細胞が複数あるときに発生する）があるので、注意が必要である。
ジョルダン細胞の平方根.
英語版からの直訳.