Mitokondriene finnes i nesten alle livsformer innen domenet Eukarya (eukaryote: organismer med cellekjerne). Dette domenet oppsto for 2-2,5 milliarder år siden gjennom en fusjon av en arkebakterie (domenet Archaea) og en bakterie (domenet Bacteria). Kanskje har mange ulike bakterier over tid blitt fusjonert inn. De to begivenhetene som er best kjent er innlemmelsene av mitokondriet og kloroplastet. Av disse er mitokondrie-fusjonen eldst, trolig omtrent like gammel som den eukaryote celle. De eldste eukaryote fossiler er 2,45 milliarder år gamle. Noen grupper av eukaryote mangler mitokondrier. Disse ble før ansett som primitive/opphavelige, men det er nå kjent at alle disse livsformene (inkludert parasitten ) har gener som har et mitokondrielt opphav, og de fleste har også organeller (hydrogenosomer, mitosomer) som antas være omdannede mitokondrier.