A.- A._ est titulaire d'un CFC de quincaillier, d'un diplôme d'opérateur-programmeur, obtenu en 1964, ainsi que d'un diplôme d'employé d'administration. Il a notamment travaillé durant plus de vingt ans (de 1968 à 1990) pour les services industriels de X._, puis, après une période de chômage, dans une banque, où il a été occupé au microfilmage des signatures. Parallèlement à son activité professionnelle, il assurait la conciergerie de l'immeuble qu'il habite depuis 1980 ainsi que d'un immeuble voisin depuis le 1er janvier 1997. Il a, par ailleurs, travaillé dès 1997 comme caissier à mi-temps aux Installations mécaniques de Y._ durant la saison de ski, soit de décembre à avril, puis, dès 1999, en été également. Souffrant d'angine de poitrine et d'insuffisance artérielle des membres inférieurs, A._ a déposé le 6 octobre 1998 une demande de prestations de l'assurance-invalidité. Par décision du 27 novembre 2000, l'Office cantonal AI du Valais (ci-après : l'office) a nié le droit de l'assuré à une rente au motif qu'il ne subissait aucune perte de gain en raison de cette atteinte à la santé. B.- Par jugement du 18 avril 2001, le Tribunal cantonal des assurances du canton du Valais a rejeté le recours formé contre cette décision par l'assuré. C.- Ce dernier interjette recours de droit administratif contre ce jugement en concluant, sous suite de dépens, à son annulation et au renvoi de la cause à l'administration afin qu'elle complète l'instruction sur le plan économique. L'office et l'Office fédéral des assurances sociales ne se sont pas déterminés.