Opprettelsen av Europol er hjemlet i Traktat om Den europeiske union, som ble undertegnet i Maastricht 7. februar 1992. Organisasjonen ble etablert i Haag, Nederland, og startet en begrenset virksomhet allerede 3. januar 1994 med Europols enhet for narkotikabekjempelse – Europol Drugs Unit (EDU) – og kampen mot narkotika. Gradvis har andre viktige kriminalitetsområder kommet til. Den 1. januar 2002 ble Europols mandat utvidet til å omfatte alle alvorlige former for internasjonal kriminalitet som er oppført i vedlegget til Europol-konvensjonen. Europol-konvensjonen ble ratifisert av alle medlemsstatene og trådte i kraft 1. oktober 1998. Etter at en rekke rettsakter knyttet til konvensjonen var vedtatt, kunne Europol starte sin virksomhet for fullt 1. juli 1999.