OpenMP består av et sett kompilator-direktiver, biblioteksrutiner og miljø-variabler. APIen utvider programmeringsspråkets syntaks på en slik måte at man kan utvikle parallelle programmer på ulike plattformer, fra personlige datamaskiner til superdatamaskiner. I dataklynger kan den parallelle utførelsen i OpenMP kombineres med et meldingsbasert grensesnitt.