I 2001 lanserte Wales, sammen med Larry Sanger og andre, Wikipedia, en wikibasert internettencyklopedi som bygger på åpent innhold-prinsippet. Opprinnelig eide han domenet og stilte servere til rådighet på egen bekostning. Etter at han stiftet den ideelle stiftelsen Wikimedia Foundation i 2003 og fikk overført domenet, har Wikipedia blitt istand til å finansiere seg selv gjennom donasjoner fra nettbrukere og ideelle stiftelser. I tiden før dette brukte Wales ifølge den australske avisen rundt 400 000 australske dollar av sine egne midler på Wikipedia og Nupedia – senere hevdet at han hadde brukt hele 500 000 amerikanske dollar på etableringen og driften av wikiprosjektene. Wales var den første styrelederen for Wikimedia Foundation, fra 2003 til 2006. Time Magazine kåret i april 2006 Jimmy Wales til en av de hundre mest innflytelsesrike personer i verden.