I ett tal sade han att han förväntade sig att räntorna skulle stiga under de kommande tre åren och nå "ungefär hälften så högt som historiska genomsnitt", eller omkring 2 procent.
Men han tillade att chocker i ekonomin skulle kunna förändra tidpunkten och storleken på alla prisökningar.
Räntesatserna har legat på 0,5 % under sex år när den brittiska ekonomin återhämtar sig från finanskrisen.
Den penningpolitiska kommittén kommer att "måste känna sig som den är", sade Carney i ett tal i Lincoln Cathedral.
Han tillade: "Kortfristiga räntor har i genomsnitt legat på omkring 4,5 % sedan banken startade för tre hundra år sedan.
"Det skulle inte verka orimligt att förvänta sig att när normaliseringen väl börjar, skulle räntehöjningarna fortsätta långsamt och stiga till en nivå på medellång sikt som kanske är ungefär hälften så hög som historiska genomsnitt.
"Enligt min åsikt, beslutet om när man ska starta en sådan process av anpassning kommer sannolikt att komma i skarpare lättnad runt årsskiftet", tillade han.
Hans kommentarer kommer en dag efter att arbetslösheten steg för första gången på två år.
"Det tyder på bankens tolkning av denna statistik är att arbetslösheten minskar nu hålls tillbaka av kompetensbrist," sade BBC: s ekonomi redaktör Robert Peston.
"Och dessa kompetensbrister är också orsaken till den stigande löneinflationen."
På tisdag, avgående MPC medlem David Miles, betraktas som någon som är försiktig med effekterna av ökningen, överraskade marknader genom att säga att det var "sannolikt att vara rätt" att vandra priser snart.
På onsdag meddelade Janet Yellen, ordförande för den amerikanska centralbanken, att räntorna sannolikt kommer att stiga i USA i år. Det kan vara några månader tidigare än i Storbritannien om Bank of England verkligen skulle flytta under det nya året.
Om räntorna skulle stiga i början av det nya året, från nuvarande rekordlåga genom tiderna på 0,5 %, skulle det bli tre eller fyra månader efter den förväntade motsvarande flytten från den amerikanska centralbanken.
Nu för er som har stora skulder och vill försäkra er om att ni inte kommer att bli ekonomiskt förlamade av ökningen, har han sagt två andra saker i not om den så kallade bankräntan.
De första typiska ränteförändringarna, ökningar, kommer vanligtvis att vara mycket mindre än hälften av en procentenhet som de brukade vara före kraschen 2008 - så förmodligen en fjärdedel av en procentenhet, eller ens möjligen en åttondel.
Han har också signalerat att den nya normala räntenivån på medellång sikt efter en följd av ökningar under två eller tre år kanske kommer att vara hälften av den 4,5 % över räntan under de senaste 300 åren. Så nära 2%.
Läs hela Roberts blogg här
Bank of England guvernör Mark Carney har angett att brittiska räntor skulle kunna stiga "vid årsskiftet".