Så kallad matematikångest hittades särskilt i länder som var mer utvecklade och där män och kvinnor ansågs mer eller mindre lika.
Forskare vid University of Glasgow tittade på prestationer, attityder och känslor kring matematik och fann flickor visa mer negativa känslor om det.
Uppgifter samlades in från 500.000 15-åringar i 68 länder.
Matematikångest definieras som "negativa känslor som upplevs under förberedelsen av och engagemanget i matematikaktiviteter".
Akademiker, ledda av Dr Gijsbert Stoet, från Glasgow Universitys skola för utbildning, sade att det inte verkade spela någon roll om flickornas mödrar arbetade inom närliggande områden och att ansträngningarna att locka fler kvinnor till vetenskap, teknik, ingenjörsvetenskap och matematik hade misslyckats till stor del.
Dr Liberty Vittert, föreläsare vid Institutionen för matematik och statistik vid University of Glasgow, berättade för BBC Radio Scotland's Good Morning Scotland-program att matematikångest kan hämma framtida jobbmöjligheter.
Doktor Vittert sade: " När jag var omkring 14 år hade jag en matematiklärare som kallade in mina föräldrar i skolan för att säga att jag inte kunde göra matematik och att jag borde sluta, och det var ingen mening med att fortsätta med det.
"Det stoppar dig verkligen med jobb om du slutar med matte unga.
"Så jag körde igenom och jag hade en undergrad i ren matematik från MIT (Massachusetts Institute of Technology) och nu har jag min Phd. Så jag tycker att det är väldigt viktigt, men jag tror att det finns en hel del press på unga flickor att inte göra några ämnen. "
Hon frågade om matematiken hade orsakat henne oro i skolan och sade: " Absolut. Jag tror att när man har lärare eller andra myndighetspersoner som säger att man inte kan göra något, så skapar det förstås en enorm oro.
"Och uppenbarligen finns det påtryckningar på en ung flicka att inte göra dessa saker."
Hon tillade: " Om man tänker på matematik, finns det alltid ett rätt eller fel svar. I vissa ämnen som engelska finns det inte alltid rätt eller fel svar.
"Så om du inte kan få det exakta svaret, kan läraren bara säga: "Du vet inte vad du gör, du är inte smart."
"Du kanske inte riktigt förstår det.  På engelska kan du ha olika nivåer av förståelse."
Flickor är "mer rädda" för matematik än pojkar i 80 % av länderna, enligt en ny studie.