The Troop, av den kanadensiska författaren Craig Davidson, tillkännagavs som vinnaren av den 2 000 pund pris på onsdag kväll.
Priset instiftades för att fira skräckskribent James Herberts liv och arbete som dog i mars 2013.
Herberts dotter Kerry, som var en av domarna, beskrev den vinnande boken som den "mörkaste av sagor".
"Min far skulle ha skrockat i sin stol; hans fans kommer att älska det. Och du kommer aldrig att åka och campa igen, sa hon.
"The Troop är en lysande och skrämmande klassiker som jag är stolt över att vara den första vinnaren av James Herbert Award for Horror Writing - det är nu en av mina favoritböcker."
Boken skrevs av Davidson under pseudonymen Nick Cutter.  Den berättar historien om scoutmaster Tim Riggs och hans trupp av pojkscouter som möter en "emiterad främling" på en campingresa i den kanadensiska vildmarken.
Domarnas ordförande, Tom Hunter, sade: "Tropopen är en perfekt första vinnare, och domarna älskade dess spända kontemplation, detaljerade karaktärisering och framför allt den drivande känsla av rädsla som tvingar dig att fortsätta att vända varje skräckdränkt sida till slutet."
Davidson är född i Toronto, Ontario, och hans andra verk inkluderar hans första novellsamling Rust and Bone, som anpassades till en film av den franske regissören Jacques Audiard med skådespelerskan Marion Cotillard som späckhuggare.
Herbert var författare till 23 romaner, däribland Råttorna, Fog, Mörkret, Överlevaren, Den magiska stugan, Haunted och Fluke.
En roman om en scoutcampinghelg som tar en skrämmande twist har vunnit James Herberts första pris för skräckskrivning.