I statistisk maskinoversettelse brukes store mengder med tekst til å lage språkmodeller og oversettelsesmodeller. Førstnevnte gir f.eks. sannsynligheten for at et visst ord følger et annet, mens oversettelsesmodellen gir sannsynligheten for at et visst ord oversettes av et annet (eller at en viss frase oversettes av en annen, i frasebasert statistisk maskinoversettelse).