Atomivoimamikroskooppi
Matemaattinen mallinnus

Kun AFM:n neulankärjen (tip, t) ja näytteen (sample, s) välinen vuorovaikutusvoima  F_{\mathrm {ts} } aiheuttaa neulankärjen sijaintiin korkeussuunnassa poikkeaman  z, vastustaa ulokepalkki tätä poikkeumaa vastakkaissuuntaisella palautusvoimalla. Näytteen ja kärjen välistä vuorovaikutusta voidaan mallintaa Hooken lailla:
jossa  k_{\mathrm {ts} } on kärjen ja näytteen välisen voimavuorovaikutuksen efektiivinen jousivakio, joka ei itse asiassa ole vakio vaan yleensä riippuu poikkeamasta  z. Myös ulokepalkin kärkeen kohdistama palautusvoima on Hooken lain mukainen  F(z)=-kz, jossa  k on ulokepalkin jousivakio. Staattisessa moodissa poikkeama voidaan tulkita korkeuskäyränä  z(x,y,F_{\mathrm {ts} }=vakio). Jotta kärki olisi stabiili staattisessa moodissa, vaaditaan että aina  k>k_{\mathrm {ts} }. Muuten kärjen ja näytteen välinen voima voi ylittää palautusvoiman, jolloin kärki voi yhtäkkisesti hypätä kontaktiin näytteen kanssa lähestyttäessä näytettä. Dynaamisessa moodissa palautusvoima voidaan pitää suurempana säätämällä värähtelyn amplitudi  A tarpeeksi suureksi. Suurin palauttava voima on  -kA, joten stabiilius saavutetaan kun  -kA>F_{\mathrm {ts} }. Lisäksi amplitudin hallitsemiseen vaaditaan että
jossa  \Delta E on yhdessä värähtelyjaksossa hävitetty kokonaisenergia, ja  Q on ulokepalkin hyvyysluku. Hyvyysluku tässä mittaa sitä värähtelyn jaksossa menetettyä energiaa joka ei johdu vuorovaikutuksesta näytteen kanssa. Dynaamisessa moodissa tarvitaan siis suuri värähtelyn amplitudi tai jäykkä ulokepalkki.
AM-moodissa mitattava signaali on värähtelyn amplitudin vaihtelu. Amplitudi ei kuitenkaan muutu välittömästi, vaan aikaskaalalla joka riippuu ulokepalkin hyvyysluvusta  Q ja sen ominaisvärähtelytaajuudesta  f_{0},
Tyhjiössä  Q voi olla hyvin suuri, jolloin amplitudi muuttuu hyvin hitaasti. Tämän vuoksi AM-moodia käytetään enimmäkseen ilmassa ja nesteissä joissa dissipaatio on suurempi. FM-moodissa mitattava taajuuden muutos sen sijaan tapahtuu aikaskaalassa
mikä sopii paremmin tyhjiömittaukseen.
FM-moodissa ulokepalkkiin kohdistetaan pakkovoima taajuudella  f_{0}, ja mitataan taajuuden muutosta  \Delta f=f-f_{0}. Värähtelevää ulokepalkkia, joka kokee näytteen vuorovaikutuksen siihen kiinnitetyn neulankärjen kautta, voidaan mallintaa harmonisena värähtelijänä, jolla on efektiivinen jousivakio  k^{*} ja efektiivinen massa  m^{*}. Sen värähtelytaajuus on
Tilanteessa, jossa  k_{\mathrm {ts} } on vakio, värähtelyn koko liikeradalla, on  k^{*}=k+k_{\mathrm {ts} }. Jos oletetaan lisäksi, että vuorovaikutuksen aiheuttama häiriö ulokepalkin liikkeeseen on pieni, tarkemmin sanoen, että  k\gg k_{\mathrm {ts} } ja  m^{*}\approx m, missä  m on ulokepalkin massa, niin taajuus on
jossa  f_{0}={\sqrt {k/m}}/(2\pi ). Näin ollen taajuuden muutos on
Jos  k_{\mathrm {ts} }:ää ei oleteta vakioksi, saadaan taajuuden muutos sen sijaan Giessiblin kaavasta
Tämä kaava on samaa muotoa yksinkertaisemman kaavan kanssa sillä erolla, että vakio  k_{\mathrm {ts} } on paikattu sen painotetulla keskiarvolla värähtelyliikeradan yli.
Kärjen ja näytteen atomien väliset vuorovaikutukset voivat olla hyvin monimutkaisia, ja niiden täsmällinen ymmärtäminen vaatisi täyden kvanttimekaanisen käsittelyn, joka on nykypäivän laskennallisilla menetelmillä vielä mahdotonta. Myös approksimaatioihin perustuvat kvanttilaskentamenetelmät, kuten tiheysfunktionaaliteoriaan perustuvat menetelmät ovat yleensä liian raskaita. Sen sijaan atomien välisiä vuorovaikutuksia mallinnetaan monesti klassisilla potentiaaleilla. Näistä yleisimmin käytetty on Lennard-Jonesin potentiaali
jossa  r on atomien välinen etäisyys ja  \varepsilon  ja  r_{\mathrm {m} } ovat parametrejä jotka määrävät vuorovaikutuksen voimakkuuden ja etäisyysskaalan. Ensimmäinen termi kuvaa Paulin repulsiota, ja jälkimmäinen termi kuvaa van der Waals vaikutusta. Tässä van der Waals potentiaalin  r^{-6}-muoto on fysikaalisesti oikea, mutta Paulin repulsiolle käytettävä  r^{-12}-muoto on vain laskennallisesti hyväksi havaittu eikä ole johdettavissa mistään fysiikan teoriasta. Kun potentiaalienergian funktionaalinen muoto  U tiedetään, on siitä helppo laskea voima korkeussuunnassa  F_{\mathrm {ts} }=-\partial U/\partial z tai efektiivinen jousivakio  k_{\mathrm {ts} }=-\partial F_{\mathrm {ts} }/\partial z=\partial ^{2}U/\partial z^{2}.
Käyttämällä klassisia voimakenttiä on mahdollista simuloida AFM-kuvia. FM-moodin kuville tämä toimii niin, että lasketaan kärjen ja näytteen välinen voima värähtelyn liikeradan jokaisessa kohdassa, ja käytetään yllä olevaa Giessiblin kaavaa muuntamaan voima taajuuden muutokseksi  \Delta f. Korkearesoluutio-AFM:ssä jossa käytetään kärkeen liitettyä hiukkasta, täytyy ottaa huomioon, että tämä hiukkanen voi taipua siihen kohdistavan voiman takia. Yleisesti käytetyssä mallissa hiukkanen on vuorovaikutuksessa kärjen kanssa jousivoiman kautta.