A.- Le 7 août 1995, I._ a été victime d'un accident de la circulation au cours duquel il a subi, notamment, un traumatisme crânio-cérébral. Depuis lors, il n'a pas été en mesure de reprendre son activité de manoeuvre en raison de fortes céphalées. Les investigations médicales auxquelles il a été soumis ont révélé un syndrome subjectif post-traumatique (cf. les rapports des docteurs A._, B._ et C._, respectivement des 21 décembre 1995, 5 juillet et 15 novembre 1996). La Caisse nationale suisse en cas d'accidents (CNA), par laquelle I._ était assuré, a pris en charge le cas et lui a versé des indemnités journalières fondées sur une incapacité de travail de 100 % jusqu'au 25 novembre 1996; à cette date, elle a mis fin à ses prestations (décision du 22 novembre 1996). Entre-temps, l'assuré a présenté une demande de rente de l'assurance-invalidité. A partir du 15 janvier 1997, son médecin traitant, la doctoresse D._, l'a jugé apte à travailler à 50 %. Cette capacité de travail réduite a été maintenue jusqu'au 1er novembre 1997, date à laquelle I._ a été victime d'un second accident de la circulation qui a entraîné une distorsion simple du rachis cervical et une nouvelle incapacité de travail de 100 %. A ce titre, le prénommé a perçu des indemnités journalières de la CNA jusqu'au 5 avril 1998. Afin d'élucider son droit aux prestations, l'Office de l'assurance-invalidité du canton du Valais (ci-après : l'office) a confié une expertise au docteur E._, psychiatre. Dans son rapport du 6 avril 1998, ce médecin a nié que le choc du premier accident ait pu engendrer chez l'assuré une atteinte organique cérébrale de quelque importance, et conclu qu'une grande part de son incapacité de travail, de l'ordre de 75 %, était de nature purement subjective. L'office a également commis le professeur F._, médecin-chef de la division autonome de neuropsychologie du Centre hospitalier X._, pour une expertise neuropsychologique. Ce dernier a fait état d'un affaiblissement cognitif associé à un fléchissement discret des aptitudes exécutives; à raison de ces troubles, qualifiés de très modérés, il a attesté d'une incapacité de travail de 25 % au maximum dans l'activité habituelle de l'assuré depuis le traumatisme crânien du 7 août 1995 (rapport du 17 novembre 1998). Se fondant sur ces pièces, l'office a rendu trois décisions le 26 juillet 1999. Dans la première, il a alloué à l'assuré une rente entière d'invalidité pour la période allant du 1er août 1996 au 28 février 1997 (décision n° 1); dans la seconde, il lui a accordé une demi-rente pour cas pénible du 1er décembre 1997 au 28 février 1998 (décision n° 2), et enfin dans la troisième, à nouveau une rente entière du 1er mars au 31 juillet 1998 (décision n° 3). Ces prestations ont été assorties de rentes complémentaires pour l'épouse et les trois enfants de l'assuré. B.- Ce dernier a recouru contre ces trois décisions devant le Tribunal des assurances du canton du Valais, en concluant à l'octroi d'une rente d'invalidité entière, non limitée dans le temps, dès le 1er août 1996. Le 3 décembre 1999, en cours de procédure, l'office a rendu deux nouvelles décisions (remplaçant celles n° 2 et 3 du 26 juillet 1999), par lesquelles il a augmenté le montant des rentes octroyées à l'assuré, eu égard à la prise en compte de cotisations supplémentaires. Le tribunal cantonal a déclaré sans objet les recours formés par l'assuré contre les décisions n° 2 et 3 du 26 juillet 1999 et rejeté celui visant la décision n° 1 datée du même jour. Il a en revanche partiellement admis les conclusions de l'assuré à l'encontre des deux décisions du 3 décembre 1999, en ce sens qu'il lui a reconnu le droit à une demi-rente d'invalidité du 1er décembre 1997 au 31 janvier 1998 et à une rente entière du 1er février au 31 juillet 1998 (jugement du 9 février 2001). C.- L'office interjette recours de droit administratif contre ce jugement dont il requiert l'annulation, en concluant à la confirmation de ses décisions du 3 décembre 1999. I._ conclut, sous suite de dépens, au rejet du recours, tandis que l'Office fédéral des assurances sociales propose son admission.