Lagrangen kertoimet

Lagrangen menetelmä on ranskalaisen matemaatikon Joseph-Louis Lagrangen mukaan nimetty menetelmä yhtälörajoitetun optimointitehtävän ratkaisemiseksi.
Määritelmä.
Olkoon formula_1 minimointitehtävän kohdefunktio ja formula_2 rajoite-ehtofunktio. Tarkastellaan näiden määrittämää rajoiteoptimointititehtävää
formula_3
formula_4
Tehtävä voidaan kirjoittaa muodossa, jota kutsutaan "Lagrangen funktioksi" formula_5
formula_6
Kertoimia formula_7 kutsutaan Lagrangen kertoimiksi. Esitetyn optimointitehtävän käypä eli rajoite-ehdot täyttävä ratkaisu löydetään Lagrangen funktion formula_5 ääriarvopisteessä formula_9, jossa siis formula_10. Voidaan tulkita, että kertoimet ohjaavat ratkaisun rajoite-ehtojen määräämään käypään joukkoon.
Esimerkki.
Minimointitehtävä formula_11 ratkaistaan seuraavasti:
Langrangen funktio esimerkille
formula_15
Etsitään osittaisderivaatat ja niiden muodostama yhtälöryhmä
formula_16
Ratkaistaan saadusta yhtälöryhmästä ääriarvopisteet (formula_17, formula_18, formula_19) algebran menetelmin (ratkaisemalla derivaattojen nollakohdat yhtälöryhmästä).
Menetelmä.
Olkoon formula_1 minimointitehtävän kohdefunktio ja formula_2 rajoite-ehtofunktio. Kutsutaan ehdon formula_22 määräämien pisteiden joukkoa käyräksi formula_23. Olkoot funktiot derivoituvia kaikkien muuttujiensa suhteen käyrän formula_23 pisteissä. Oletetaan myös, että kohdefunktio formula_1 on derivoituva tehtävän ratkaisupisteen formula_26 ympäristössä. Kun lisäksi oletetaan, että piste formula_26 ei ole käyrän formula_23 päätepiste, ja gradientti formula_29, on olemassa sellainen luku formula_30 niin, että piste formula_31 on ns. Lagrangen funktion formula_32
formula_33
kriittinen piste. Toisin sanoen funktion formula_1 käyrällä formula_22 sijaitsevat ääriarvot voidaan löytää etsimällä Lagrangen funktion ääriarvot. Ääriarvot löydetään ratkaisemalla funktion formula_36 osittaisderivaatojen nollakohta
formula_37
formula_38
formula_39
eli
formula_40
Geometrinen tulkinta.
Lagrangen kerroin formula_41 voidaan nähdä skaalaustekijänä, jolla rajoitusehdon gradienttivektoria formula_42 tulee kertoa, että siitä tulee
yhtä pitkä kuin kohdefunktion gradienttivektorista formula_43 optimointitehtävän ratkaisupisteessä. Tulkinta yleistyy useamman rajoitusehdon tapaukseen, jolloin
"aktiivisia" rajoitusehtoja vastaavat kertoimet formula_44 valitaan niin, että niiden lineaarikombinaatio vastaavien gradienttien kanssa kumoaa kohdefunktion 
gradientin.
Herkkyystulkinta.
Herkkyystulkinnassa tarkastellaan, miten kohdefunktion arvo muuttuu, kun yhtälörajoitetta muutetaan. Tarkastellaan formula_45 muotoista tehtävää, missä
formula_46. Lagrangen kerroin ilmaisee kunka paljon kohdefunktion arvo muuttuu yhtälörajoituksen muuttuessa eli
formula_47
missä formula_48 tarkoittaa gradienttia rajoitusehdon muutoksen suhteen.
Esimerkki: pisteen etäisyys suorasta.
Esitetään tehtävä matemaattisessa muodossa ja ratkaistaan se Lagrangen menetelmällä. Olkoon piste formula_49 ja suora formula_50, missä formula_51 ovat mielivaltaisia vakioita.
Minimoidaan etäisyyden funktio
 formula_52
ehdolla
 formula_50
Suoran yhtälö on siis optimointitehtävän "ehto".
Muodostetaan etäisyysfunktiosta ja ehdosta Lagrangen funktio
 formula_54
Ratkaistaan funktion formula_36 ääriarvot muuttujien formula_56, formula_57 ja formula_14 suhteen etsimällä osittaisderivaattojen nollakohdat:
formula_59