Nếu E là một ma trận sơ cấp, như được mô tả dưới đây, để thực hiện biến đổi hàng sơ cấp trên một ma trận A, ta nhân A với ma trận sơ cấp vào bên trái, EA. Ma trận sơ cấp cho một biến đổi hàng bất kỳ thu được bằng cách thực hiện biến đổi hàng đó trên ma trận đơn vị. Điều này có thể được hiểu như là một ví dụ của bổ đề Yoneda áp dụng lên đối tượng là các ma trận.