Որոշ լեմմատիզացիայի ալգորիթմներ ստոխաստիկ են նրնանով, որ եթե տրված լինի մի բառ, որը կարող է պատկանել բաղադրյալ խոսքի մասերին, հավանականությունը կհամապատասխանի ամեն հավանական մասին։ Սա կարող է հաշվի առնել մոտակայքի բառերը, որը կոչվում է կոնտեքստ, կամ հաշվի չառնել։ Կոնտեքստից ազատված քերականությունները ընդհանրապես հաշվի չեն առնում որևէ հավելյալ ինֆորմացիա։ Ցանկացած դեպքում ամեն հավանական խոսքի մասի հավանականությունը որոշելուց հետո, ընտրվում է ամենահամապատասխան բառը, և օգտագործվում են նորմալիզացման կանոնները արմատային մասի որոշման համար։