Faits :
A.
A.a. A._, né en 1987, a été engagé comme aide menuisier par B._ GmbH pour une durée déterminée allant du 15 juin au 15 septembre 2016. Le 17 juin 2016, il est tombé d'un tracteur dont le conducteur avait perdu la maîtrise. La chute a entraîné une fracture distale du fémur droit et a nécessité le jour même une intervention chirurgicale, sous la forme d'une réduction ouverte et d'une fixation interne. Le 10 février 2017, l'assuré a subi une nouvelle intervention chirurgicale, pratiquée par le docteur D._, spécialiste en chirurgie orthopédique et traumatologie de l'appareil locomoteur, consistant en une décortication de la pseudarthrose et en un renforcement de l'ostéosynthèse par la pose de deux vis plus proches de la fracture.
A.b. Les suites de l'accident ont été prises en charge par la Caisse nationale d'assurance en cas d'accidents (CNA), laquelle a notamment alloué à l'assuré une indemnité pour atteinte à l'intégrité fondée sur un taux de 10 % (décision sur opposition du 5 octobre 2018). Elle a par ailleurs nié le droit de celui-ci à une rente d'invalidité (décision sur opposition du 10 décembre 2018). Les décisions sur opposition ont été confirmées sur recours par jugement de la Cour des assurances sociales du Tribunal cantonal du Valais (ci-après: la Cour des assurances sociales) du 4 mars 2020 (causes jointes S2 18 118 et S2 19 10), jugement lui-même confirmé sur recours par la Cour de céans (arrêt 8C_238/2020 du 7 octobre 2020).
A.c. Entre-temps, l'assuré a présenté une demande de prestations de l'assurance-invalidité, reçue le 27 janvier 2017 par l'Office cantonal AI du Valais (ci-après: l'OAI). Se fondant essentiellement sur les conclusions d'un rapport final du 31 mai 2017 établi par le docteur E._, spécialiste en médecine physique et réadaptation auprès du Service médical régional (SMR) Rhône, l'OAI a rendu, le 12 juin 2017, deux projets de décision niant le droit de l'assuré à une rente d'invalidité ainsi qu'à un reclassement professionnel. Par décisions du 29 août 2017, l'OAI a confirmé ses refus, considérant qu'à partir du 12 juin 2017, l'assuré était en mesure d'exercer à plein temps une activité adaptée légère et qu'une telle activité lui permettrait de réaliser un revenu d'invalide supérieur au revenu sans invalidité d'aide menuisier.
B.
Saisie d'un recours de l'assuré contre les décisions de l'OAI du 29 août 2017, la Cour des assurances sociales l'a rejeté par jugement du 4 mars 2020.
C.
A._ forme un recours en matière de droit public contre ce jugement, dont il demande la réforme dans le sens de l'octroi d'une rente d'invalidité entière du 5 juillet 2017 au 3 mai 2018. Subsidiairement, il conclut au renvoi de la cause à l'intimé pour nouvelle décision dans le sens des considérants. Il requiert en outre le bénéfice de l'assistance judiciaire.
L'intimé conclut au rejet du recours. La Cour des assurances sociales et l'Office fédéral des assurances sociales ne se sont pas déterminés sur le recours.
Le recourant a répliqué par lettre du 15 juin 2020.
Considérant en droit :
1.
Le recours est dirigé contre un arrêt final (art. 90 LTF) rendu en matière de droit public (art. 82 ss LTF) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé dans le délai (art. 100 LTF) et la forme (art. 42 LTF) prévus par la loi. Il est donc recevable.
2.
Saisi d'un recours en matière de droit public, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), à moins que ces faits aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 143 IV 500 consid. 1.1 p. 503; 140 III 264 consid. 2.3 p. 266) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Le recourant qui entend s'écarter des faits constatés doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF seraient réalisées (cf. art. 97 al. 1 LTF).
3.
Le litige porte sur le droit du recourant à une rente d'invalidité pour les suites de son accident du 17 juin 2016. Compte tenu des motifs du recours, il s'agit en particulier de déterminer si la juridiction cantonale était en droit de considérer que le recourant avait recouvré une capacité de travail entière dans une activité adaptée à ses limitations fonctionnelles à l'échéance, le 17 juin 2017, du délai d'attente d'une année.
4.
Le jugement entrepris expose de manière complète les dispositions légales et les règles jurisprudentielles applicables à la solution du litige, en particulier celles relatives à la notion d'incapacité de travail (art. 6 LPGA [RS 830.1]), à la notion d'invalidité (art. 8 LPGA et art. 4 LAI) et à l'évaluation de celle-ci (art. 16 LPGA) ainsi qu'à la valeur probante des rapports médicaux (ATF 125 V 351 consid. 3a p. 352). Il suffit d'y renvoyer.
On rappellera néanmoins qu'aux termes de l'art. 28 al. 1 LAI, le droit à une rente d'invalidité présuppose notamment que l'assuré ait présenté une incapacité de travail (art. 6 LPGA) d'au moins 40 % en moyenne durant une année sans interruption notable (let. b) et qu'au terme de cette année, il soit invalide (art. 8 LPGA) à 40 % au moins (let. c).
5.
En l'espèce, les juges cantonaux ont exposé que la conclusion du docteur E._ dans son rapport du 31 mai 2017, selon laquelle le recourant était en mesure d'exercer à plein temps une activité n'exigeant pas d'efforts physiques à partir du 12 juin 2017, emportait leur conviction. Procédant à la comparaison des revenus avec et sans invalidité, ils ont constaté l'absence de toute invalidité à l'échéance le 17 juin 2017 du délai d'attente d'une année, motif pris que le revenu d'invalide (67'320 fr. selon les données statistiques de l'Enquête suisse sur la structure des salaires [ESS] 2014, TA1, total secteur privé, après adaptation à une durée hebdomadaire de travail de 41,7 heures et à l'évolution des salaires jusqu'en 2017) était supérieur au revenu sans invalidité (60'256 fr. selon les données de l'employeur). Aussi la condition de l'art. 28 al. 1 let. c LAI n'était-elle pas satisfaite.
6.
6.1. Se plaignant d'abord d'un établissement manifestement inexact des faits en relation avec une violation de son droit d'être entendu, le recourant reproche à la cour cantonale d'avoir considéré qu'en l'absence de toute procuration au dossier en faveur de son mandataire avant le 28 septembre 2017, c'était à juste titre que l'intimé lui avait notifié directement ses décisions du 29 août 2017. Il fait valoir que l'intimé ne pouvait pas ignorer l'existence du mandat dans la mesure où le dossier AI contient une correspondance du 12 octobre 2016, dans laquelle l'avocat De Palma requiert une copie de son dossier. Il en conclut que la notification des décisions était irrégulière, de sorte qu'aucune conséquence ne pourrait être déduite en sa défaveur, notamment au regard de l'absence de contestation des projets de décision.
6.2. Le grief est mal fondé. En effet, le recourant ne conteste pas les constatations des premiers juges en tant qu'ils ont relevé l'absence au dossier de l'intimé de procuration en faveur de son mandataire avant le 28 septembre 2017. En outre, même en admettant que l'intimé avait connaissance d'un possible mandat de représentation eu égard à la correspondance du 12 octobre 2016 et qu'elle aurait pu interpeller le recourant à ce sujet à l'ouverture d'un dossier en son nom en janvier 2017, il n'en reste pas moins qu'avant son recours devant la juridiction cantonale, le recourant n'a pas réagi au mode de notification des communications de l'intimé et que son mandataire a été à même de déposer en temps utile un recours contre les décisions du 29 août 2017.
7.
7.1. Toujours sous couvert d'un établissement manifestement inexact des faits, le recourant reproche ensuite à l'instance précédente d'avoir retenu qu'une capacité de travail dans une activité adaptée était exigible dès le 12 juin 2017, alors que les rapports des médecins consultés jusque-là (rapports du docteur C._, spécialiste en chirurgie et médecin d'arrondissement de la CNA, des 9 décembre 2016 et 19 mai 2017 et du docteur D._ des 23 mars et 8 mai 2017) ne permettraient pas d'arriver à une telle conclusion. En effet, ces médecins ne se seraient pas prononcés sur la capacité de travail du recourant dans une activité adaptée, de sorte que le docteur E._ ne disposait pas des éléments lui permettant de se prononcer à ce sujet. Le recourant reproche également aux juges cantonaux de n'avoir pas apprécié sa capacité de travail au moment du prononcé des décisions du 29 août 2017, mais seulement au moment du rapport final du SMR rendu trois mois plus tôt, et soutient que les éléments postérieurs figurant au dossier conduiraient à retenir qu'il a recouvré une capacité de travail dans une activité adaptée à partir du 4 mai 2018 seulement (conformément à une attestation récapitulative des incapacités de travail délivrée par son médecin généraliste), ensuite de l'ablation du matériel d'ostéosynthèse qui avait eu lieu le 28 février 2018. Enfin, la juridiction cantonale aurait passé sous silence le fait que le docteur E._ ne fixait aucune limitation fonctionnelle dans son avis du 31 mai 2017.
Par un grief subséquent, le recourant soutient, en renvoyant en substance à son argumentation précédente, qu'en se fondant sur le rapport médical final du SMR du 31 mai 2017, les juges cantonaux auraient également violé le droit sous l'angle de l'appréciation des preuves et de la valeur probante des rapports médicaux.
7.2.
7.2.1. Selon la jurisprudence constante, le juge des assurances sociales apprécie la légalité des décisions attaquées d'après l'état de fait existant au moment où la décision litigieuse a été rendue (ici la décision de refus de rente du 29 août 2017); les faits survenus postérieurement et ayant modifié cette situation doivent en principe faire l'objet d'une nouvelle décision administrative (ATF 144 V 210 consid. 4.3.1 p. 213; 131 V 242 consid. 2.1 p. 243; 121 V 362 consid. 1b p. 366). Le juge des assurances sociales doit cependant prendre en compte les faits survenus postérieurement dans la mesure où ils sont étroitement liés à l'objet du litige et de nature à influencer l'appréciation au moment où la décision attaquée a été rendue; en particulier, même s'il a été rendu postérieurement à la date déterminante, un rapport médical doit être pris en considération s'il a trait à la situation antérieure à cette date (ATF 99 V 98 consid. 4 p. 102; cf. aussi arrêt 9C_34/2017 du 20 avril 2017 consid. 5.2 et les arrêts cités).
7.2.2. Compte tenu de son pouvoir d'examen restreint (cf. consid. 2 supra), il n'appartient pas au Tribunal fédéral de procéder une nouvelle fois à l'appréciation des preuves administrées, mais à la partie recourante d'établir en quoi celle opérée par l'autorité cantonale de recours serait manifestement erronée, ou en quoi les faits constatés auraient été établis au mépris de règles essentielles de procédure. En l'occurrence, la juridiction cantonale a expliqué de manière circonstanciée les raisons pour lesquelles elle estimait, sur la base des pièces médicales au dossier, que les troubles présentés par le recourant n'entraînaient plus d'incapacité de travail dans une activité adaptée à ses limitations fonctionnelles à l'échéance, le 17 juin 2017, du délai d'attente d'une année. Ils ont relevé en particulier que selon les rapports du docteur D._ des 23 mars et 8 mai 2017, l'incapacité de travail avait été prolongée jusqu'à la fin avril [2017] dans des activités physiques uniquement, les radiographies montrant une fracture parfaitement consolidée et une tentative de reprise partielle de l'ancienne activité pouvant être tentée après le 5 juin 2017. En outre, le médecin d'arrondissement de la CNA avait estimé le 9 décembre 2016 qu'une activité adaptée pourrait être exercée à plein temps à l'avenir, qu'une capacité de travail partielle existait déjà dans un poste en position assise et qu'il fallait attendre la consolidation de la fracture pour reconnaître une capacité de travail dans une activité en position debout. Ce médecin s'était enfin rallié aux considérations du docteur D._ au sujet de la capacité de travail dans un rapport du 19 mai 2017. Les juges cantonaux ont par ailleurs relevé que dans une prise de position du 12 février 2018, le docteur E._ avait indiqué que les documents postérieurs à son rapport final du 31 mai 2017 venaient confirmer la capacité totale de travail dès le 12 juin 2017 dans une activité en position principalement assise, sans port de charges lourdes ni travaux depuis des échelles ou des échafaudages, sans positions penchées fréquentes ni agenouillements ou montées d'escaliers, ce qu'ils ont confirmé après analyse de la documentation ultérieure.
A l'appui de ses griefs, le recourant se contente de discuter librement différents rapports médicaux et d'en tirer des conclusions en sa faveur. Ce faisant, il ne parvient pas à démontrer, par une argumentation précise et étayée, qu'il lui aurait été impossible de reprendre une activité lucrative adaptée à l'issue du délai d'attente d'une année. Par exemple, on ne voit pas que l'absence de précision sur sa capacité de travail dans une activité adaptée par certains médecins empêcherait le docteur E._, spécialiste en médecine physique et réadaptation, de se prononcer à ce sujet. Le fait que le recourant n'a finalement pas été en mesure de reprendre son activité d'aide menuisier ne saurait pas davantage remettre en cause l'appréciation de ce médecin sur sa capacité d'exercer une activité adaptée. Le docteur D._ avait d'ailleurs également envisagé une reprise de l'activité habituelle, selon les constatations du jugement cantonal. En outre, le fait qu'à la suite de l'ablation du matériel d'ostéosynthèse - laquelle est intervenue le 28 février 2018, soit bien après la décision de refus de rente -, le médecin précité aurait reconnu une capacité de travail entière dans une activité adaptée à partir du 12 avril 2018 ne signifie pas qu'il ait exclu l'existence d'une quelconque capacité de travail depuis l'accident, comme le soutient le recourant, lequel se prévaut par ailleurs d'un récapitulatif non motivé des périodes d'incapacité de travail établi rétroactivement par son médecin généraliste, auquel on ne peut manifestement pas accorder une pleine force probante. Enfin, c'est à tort que le recourant soutient que le rapport du docteur E._ du 31 mai 2017 ne fixerait "aucune limitation fonctionnelle", puisqu'il limite les activités exigibles à celles qui ne requièrent pas d'efforts physiques ("In angepasster, körperlich nicht anspruchsvoller Tätigkeit besteht natürlich vollschichtige AF"). Le détail des limitations fonctionnelles figurant dans sa prise de position du 12 février 2018 - laquelle contient une appréciation rétrospective de l'état de santé du recourant - correspond typiquement à ce genre d'activités. A cet égard, si les juges cantonaux se sont référés à des pièces médicales postérieures à la décision litigieuse (comme les rapports relatifs à un séjour du recourant à la Clinique romande de réadaptation du 19 septembre au 18 octobre 2017), c'était uniquement pour vérifier si celles-ci corroboraient le point de vue du docteur E._, selon lequel la documentation ultérieure confirmait sa description des limitations fonctionnelles. En conclusion, par son argumentation, le recourant ne parvient pas à démontrer que la juridiction cantonale aurait fait preuve d'arbitraire dans l'établissement des faits ou l'appréciation des preuves en retenant que le 17 juin 2017, soit à l'échéance du délai d'attente, il avait recouvré une capacité de travail entière dans une activité adaptée.
8.
8.1. Sous le titre "coordination entre assureurs", le recourant soutient, en référence à la procédure concernant l'assurance-accidents, que l'intimé devait attendre que la situation fût suffisamment stable avant de statuer, ou à tout le moins attendre la fin du traitement et d'une éventuelle réadaptation en référence à l'art. 16 LPGA. Il reproche également aux premiers juges d'avoir retenu, d'une part, qu'il pouvait exercer une activité adaptée dès le 12 juin 2017 et son activité habituelle dès le 1er janvier 2018 et d'avoir validé, d'autre part, un avis du docteur C._ du 17 août 2018, selon lequel il ne pourrait exercer une activité adaptée qu'à partir du 4 mai 2018 et ne serait plus du tout apte à reprendre son activité habituelle. Enfin, la cour cantonale aurait rendu deux jugements contradictoires en calculant le taux d'invalidité sur la base de revenus d'invalide divergents.
8.2. En l'occurrence, la cour cantonale a répondu de façon circonstanciée et motivée aux critiques du recourant selon lesquelles l'intimé avait rendu sa décision prématurément. Elle a précisé en particulier que dans l'assurance-invalidité, l'invalidité était survenue dès qu'elle était, par sa nature et sa gravité, propre à ouvrir droit aux prestations entrant en considération; pour déterminer le droit à une rente d'invalidité, il fallait ainsi examiner si les conditions de l'art. 28 al. 1 LAI étaient remplies. Contrairement à l'assurance-invalidité, l'assurance-accidents était chargée du traitement de l'atteinte à la santé (art. 10 LAA); le droit à une rente de cette assurance ne dépendait pas de la durée d'une incapacité de travail, mais du moment à partir duquel il n'y avait plus lieu d'attendre de la continuation du traitement médical une sensible amélioration de l'état de l'assuré et du terme d'éventuelles mesures de réadaptation de l'assurance-invalidité. Les offices AI n'avaient quant à eux pas à attendre l'issue des mesures thérapeutiques ni la stabilisation du cas, mais étaient tenus d'évaluer la capacité de gain des assurés bien avant. Le recourant ne démontre pas en quoi ces considérations seraient contraires au droit, étant précisé que des mesures de réadaptation n'ont pas été jugées nécessaires en l'espèce (jugement cantonal p. 20). En tant que le recourant conteste, également sous ce grief, la capacité de travail qui lui a été reconnue dans son activité habituelle, l'on peut renvoyer à ce qui a été dit plus haut. On notera toutefois que, contrairement à ce qu'il soutient, en se ralliant à l'appréciation du docteur E._ sur la reprise d'une activité adaptée le 12 juin 2017, les premiers juges n'ont pas pour autant considéré qu'il pouvait reprendre son activité habituelle le 1er janvier 2018, comme l'avait d'abord envisagé ce médecin avant de rectifier son appréciation. Le recourant ne démontre pas non plus que, dans la cause parallèle, les premiers juges auraient considéré que depuis l'accident et jusqu'au 4 mai 2018, il n'avait pas été en mesure d'exercer une activité adaptée.
On rappellera enfin que selon la jurisprudence relative au principe d'uniformité de la notion d'invalidité dans l'assurance sociale, l'évaluation de l'invalidité par les organes de l'assurance-invalidité n'a pas de force contraignante pour l'assureur-accidents (ATF 132 V 74 consid. 3.2.1 p. 77; 131 V 362 consid. 2.2 p. 366 s.); de même, l'assurance-invalidité n'est pas liée par l'évaluation de l'invalidité de l'assurance-accidents au sens de l'ATF 126 V 288 (ATF 133 V 549). Au demeurant, dans son écriture, le recourant semble uniquement critiquer le revenu d'invalide fixé dans la procédure LAA.
9.
Pour le reste, il n'y a pas lieu d'examiner le dernier grief du recourant, en tant qu'il invoque son droit à une rente d'invalidité, dans la mesure où son argumentation repose sur la prémisse qu'avant le 4 mai 2018, il était continuellement en incapacité à tout le moins partielle de travailler dans toute activité.
Il s'ensuit que le recours se révèle mal fondé et doit être rejeté.
10.
Le recourant, qui succombe (art. 66 al. 1 LTF), a déposé une demande d'assistance judiciaire visant à la dispense des frais judiciaires et à la désignation d'un avocat d'office. Dès lors que les conditions d'octroi en sont réalisées (art. 64 al. 1 et 2 LTF), l'assistance judiciaire lui sera accordée. Le recourant est toutefois rendu attentif au fait qu'il devra rembourser la Caisse du Tribunal fédéral s'il retrouve ultérieurement une situation financière lui permettant de le faire (art. 64 al. 4 LTF).
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
L'assistance judiciaire est accordée et Maître Michel De Palma est désigné comme avocat d'office du recourant.
3.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant. Ils sont toutefois supportés provisoirement par la Caisse du Tribunal fédéral.
4.
Une indemnité de 2800 fr. est allouée à l'avocat du recourant à titre d'honoraires à payer par la Caisse du Tribunal fédéral.
5.
Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du Valais, à l'Office fédéral des assurances sociales et à la BVG Sammelstiftung Matterhorn, Zermatt.
Lucerne, le 19 avril 2021
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Castella