En matrise der elementene er tall kan representere en lineær transformasjon mellom to vektorrom, med valgte faste basiser i begge vektorrommene. Den lineære transformasjonen er i seg selv uavhengig av basisene. I mange problemstillinger i fysikk og geometri kan det være hensiktsmessig å la valgt basis endre seg i rommet, for eksempel i problemstillinger knyttet til en kuleflate. En tensor er en multilineær transformasjon som også har definert transformasjonsregler knyttet til endringer i basisvektorene. Tilsvarende en lineær transformasjon kan en tensor representeres ved et multi-dimensjonal sett av komponenter, og tensoren kan i den forstand betraktes som en generalisering av en matrise. En matrise kan være en representasjon av en 2.ordens tensor.