Η Eurojust ιδρύθηκε ως αποτέλεσμα της απόφασης του Ευρωπαϊκού Συμβουλίου του Τάμπερε (15-16 Oκτωβρίου 1999) να συσταθεί μια μόνιμη μονάδα δικαστικής συνεργασίας προκειμένου να βελτιωθεί η καταπολέμηση των σοβαρών μορφών εγκλήματος. Η Συνθήκη της Νίκαιας τροποποίησε τη Συνθήκη για την Ευρωπαϊκή Ένωση ώστε να περιλαμβάνει μια αναφορά στην Eurojust. Την 14 Δεκεμβρίου 2000, το Συμβούλιο της Ευρωπαϊκής Ένωσης δημιούργησε μία πρόδρομη οργάνωση με την ονομασία Προ-Eurojust της οποίας η αποστολή ήταν να επιτρέψει στους εισαγγελείς να δοκιμάσουν τις συστηματικές διαδικασίες της Eurojust. Άρχισε να λειτουργεί στις Βρυξέλλες την 1η Μαρτίου 2001. Οι τρομοκρατικές επιθέσεις στις ΗΠΑ το Σεπτέμβριο του ίδιου έτους κατέδειξαν έντονα την ανάγκη για διεθνή συνεργασία, επισπεύδοντας την ανάπτυξη της Eurojust, που ιδρύθηκε το Φεβρουάριο του 2002 με την Απόφαση 2002/187/ΔΕΥ του Συμβουλίου. Ο νέος οργανισμός εγκαταστάθηκε στη Χάγη την 29η Απριλίου 2003.