Malayaføderasjonens olympiske råd ble dannet i 1953, og ble anerkjent av Den internasjonale olympiske komité i 1954. Malaysia deltok for første gang under sommer-OL i Melbourne i 1956. Den nasjonale olympiske komiteen tok navnet Malaysias olympiske komité i 1964, og har sendt utøvere til alle sommer-OL siden, unntatt OL i Moskva i 1980, som de boikottet. Malaysiske utøvere har per 2016 vunnet 11 olympiske medaljer, de fleste i badminton. I 2018 deltok landet for første gang i et vinter-OL, i Pyeongchang.