A.- F._ travaillait depuis 1985 comme chauffeur-livreur. Il exerçait en outre, à titre accessoire, une activité d'agriculteur au sein de l'exploitation familiale. Souffrant du dos et de la nuque, il a cessé son activité principale au mois de janvier 1998 et présenté, en septembre de la même année, une demande de prestations de l'assurance-invalidité tendant à l'octroi de mesures d'ordre professionnel et d'une rente. Depuis lors, il a progressivement repris, en l'augmentant, son activité d'agriculteur, désirant ainsi mettre en valeur sa capacité résiduelle de travail en exploitant le domaine à titre indépendant avec l'aide de ses proches. Il a, par ailleurs, assumé durant quelques temps ad interim une charge de conseiller communal. Toutes activités confondues, son revenu annuel avant la survenance de l'invalidité a été estimé à 68 881 fr. 75. Par décision du 23 octobre 2000, l'Office cantonal AI du Valais (ci-après : l'office) a nié le droit de l'assuré à une rente au motif que son invalidité, évaluée selon la méthode extraordinaire n'était que de 29 %. En substance, l'office a retenu, en procédant à une comparaison des champs d'activité avec pondération économique, que F._ était encore en mesure, malgré ses atteintes à la santé, de réaliser un gain annuel de 48 798 fr. 55. Ce revenu hypothétique aurait pu être acquis, selon l'office, par l'exercice à temps plein d'une activité légère et adaptée, sans port de charges et permettant l'alternance des positions (gain annuel : 40 495 fr.), de l'activité accessoire d'agriculteur, compte tenu d'une limitation de 25 % de sa capacité de travail (2303 fr. 55 par année) et des indemnités de conseiller communal (6000 fr. l'an). B.- Par jugement du 25 juin 2001, le Tribunal cantonal des assurances du canton du Valais a rejeté le recours formé contre cette décision par l'assuré. C.- F._ interjette recours de droit administratif contre ce jugement. Il conclut à son annulation et à l'octroi d'une demi-rente d'invalidité, sous suite de frais et dépens. L'office et l'Office fédéral des assurances sociales ont renoncé à se déterminer.