院于1952年时根据巴黎条约 (1951年)设立，以做为欧洲煤铁共同体中的一部分。 于最初设立时，欧洲法院共有7个法官，6个欧洲煤铁共同体的会员国各可以指派一个法官，而第7个法官则由「大国」（西德、法国、义大利）指派。于1967年，欧洲煤钢共同体和欧洲经济共同体、欧洲原子能共同体合併时，欧洲法院成为欧洲各大共同体的一部分。随着1993年马斯垂克条约的生效，欧洲联盟正式成立。不过欧洲法院并没有因此而如同其他机构一样改变其名称。其权力的来源是来自于欧洲联盟的第一支柱：欧洲各大共同体。欧洲法院于1997年