Faits :
A.
A.a. Le 9 juillet 2010, A._ a présenté une demande de prestations de l'assurance-invalidité, en indiquant souffrir de douleurs au poignet, au coude et à l'épaule gauche à la suite d'un accident subi le 9 septembre 2009. L'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'office AI) a requis une copie du dossier médical constitué par l'assureur-accidents, la Caisse nationale suisse d'assurance en cas d'accidents (CNA), qui avait pris en charge les suites de l'événement accidentel. Il a par ailleurs confié une expertise pluridisciplinaire au Centre d'expertise médicale (CEMed), à Nyon, où les docteurs B._, spécialiste en rhumatologie, C._, spécialiste en psychiatrie et psychothérapie, et D._, spécialiste en neurologie, n'ont retenu aucun diagnostic ayant une répercussion sur la capacité de travail; celle-ci était entière dans l'activité exercée précédemment (employé de production), six mois après l'accident (hormis les périodes faisant suite immédiatement à différentes interventions [en particulier, arthroscopie effectuée le 26 janvier 2010]; rapport du 27 avril 2012). Fort de ces conclusions, l'office AI a rejeté la demande de prestations, par décision du 21 août 2012. Le recours formé par l'assuré contre ce prononcé a été rejeté par le Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, le 27 juin 2014.
A.b. Après avoir fait parvenir successivement à l'office AI deux rapports du docteur E._, spécialiste en médecine physique et réhabilitation, des 1er octobre 2015 et 15 septembre 2016, A._ a fait valoir une aggravation de son état de santé en raison de l'apparition d'un trouble de conversion (demande datée du 4 juillet 2017). Par décision du 20 septembre 2017, l'office AI a refusé d'entrer en matière sur la nouvelle demande. Il s'est fondé sur les avis du docteur F._, médecin auprès de son Service médical régional, des 20 juillet et 19 septembre 2017, selon lesquels le diagnostic invoqué avait déjà été retenu notamment par la doctoresse G._, psychiatre auprès de la Clinique romande de réadaptation (CRR), dans un rapport du 17 avril 2014, et n'était dès lors pas nouveau.
B.
Statuant le 20 août 2018 sur le recours formé par l'assuré, le Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, l'a rejeté.
C.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler le jugement cantonal et de renvoyer la cause à l'office AI pour qu'il entre en matière et instruise "la demande de révision". Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.
Dans la mesure où il se réfère au jugement entrepris, l'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit :
1.
Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.3 p. 266 et les arrêts cités) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (<ref-law>).
2.
2.1. Le litige porte sur le point de savoir si la juridiction cantonale était fondée à confirmer le refus de l'office intimé d'entrer en matière sur la nouvelle demande du recourant datée du 4 juillet 2017.
2.2. En vertu de l'art. 87 al. 2 et 3 RAI, lorsque la rente a été refusée parce que le degré d'invalidité était insuffisant, la nouvelle demande ne peut être examinée que si l'assuré rend plausible que son invalidité s'est modifiée de manière à influencer ses droits. Cette exigence doit permettre à l'administration qui a précédemment rendu une décision de refus de prestations entrée en force d'écarter sans plus ample examen de nouvelles demandes dans lesquelles l'assuré se borne à répéter les mêmes arguments, sans alléguer une modification des faits déterminants (<ref-ruling> consid. 5.2.3 p. 68; <ref-ruling> consid. 4b p. 200 et les références). Lorsqu'elle est saisie d'une nouvelle demande, l'administration doit commencer par examiner si les allégations de l'assuré sont, d'une manière générale, plausibles. Si tel n'est pas le cas, l'affaire est liquidée d'entrée de cause et sans autres investigations par un refus d'entrer en matière (ATF <ref-ruling> consid. 3a p. 198). Sous l'angle temporel, la comparaison des états de fait a pour point de départ la situation telle qu'elle se présentait au moment où l'administration a rendu sa dernière décision entrée en force, reposant sur un examen matériel du droit à la prestation d'assurance (<ref-ruling> consid. 3 p. 73 ss).
3.
3.1. Se référant à un arrêt qu'elle a rendu le 2 mai 2017 dans une cause opposant le recourant à la CNA, la juridiction cantonale a constaté que l'assuré souffrait d'une affection psychiatrique ("dystonie psychogène, autrement appelée trouble fonctionnel ou trouble dissociatif mixte"). Elle avait alors statué sur un recours contre une décision sur opposition de la CNA du 21 décembre 2015 concernant la prise en charge de frais de traitement et la révision du droit à la rente d'invalidité (de 16 %), reconnue au recourant à partir du 1er août 2011 (décisions de la CNA des 26 août 2011 et 22 septembre 2014). Elle avait considéré que l'affection psychiatrique n'était pas en lien de causalité adéquate avec l'accident du 9 septembre 2009, de sorte qu'elle n'entraînait aucune prise en charge de la part de la CNA.
Les premiers juges ont retenu que le diagnostic psychique alors reconnu rejoignait celui posé par le docteur E._, qui avait fait état d'un trouble de conversion (F44). Selon eux, comme leur arrêt du 2 mai 2017 n'avait pas été contesté par le recourant, il y avait lieu d'admettre que "la présence de cette affection psychiatrique était bien présente et admise par le recourant à cette époque déjà". Elle ressortait également d'une expertise de la CRR du 17 avril 2014. Aussi, l'assuré présentait bien une importante auto-limitation de ses mouvements qui trouvait son origine à la fois dans des troubles de nature psychique et dans une attitude de manque de confiance et de revendication envers le corps médical. Cependant, de l'avis des premiers juges, ces troubles avaient déjà été mis en évidence "tout au long des diverses instructions à la base de ce dossier complexe", de sorte qu'ils n'étaient pas nouveaux et ne justifiaient pas d'entrer en matière sur la nouvelle demande du recourant.
3.2. Comme le fait valoir à juste titre le recourant, les considérations de la juridiction cantonale reposent sur une violation de l'art. 87 al. 2 et 3 RAI et la jurisprudence y relative. En se référant aux constatations de son arrêt du 2 mai 2017 sur l'existence de troubles psychiques pour en déduire que ceux-ci ne sont pas nouveaux pour la procédure de l'assurance-invalidité, l'autorité judiciaire de première instance oppose en quelque sorte au recourant l'entrée en force de l'examen matériel du droit aux prestations en matière d'assurance-accidents. Ce faisant, elle omet de prendre en considération que le point de départ de l'examen de la question litigieuse dans la procédure de l'assurance-invalidité - dans laquelle le recourant fait valoir une prestation différente de celles faisant l'objet de la procédure de l'assurance-accidents - est la décision du 21 août 2012 (supra consid. 2.2 in fine). Par conséquent, des troubles psychiques survenus postérieurement à cette date, conformément aux constatations de la juridiction cantonale, constituent un élément nouveau susceptible de rendre plausible une aggravation de l'état de santé du recourant.
Le renvoi que fait par ailleurs la juridiction cantonale à son arrêt du 27 juin 2014, en considérant "par surabondance" que les troubles psychiques y avaient fait l'objet d'une analyse fouillée de sa part n'y change rien. Il ressort de ce jugement que le refus de rente prononcé le 21 août 2012 a été confirmé en raison (notamment) de l'absence d'un "diagnostic psychique ayant valeur de maladie avec incidence sur la capacité de travail". A l'époque, la juridiction cantonale avait fait siennes les conclusions de l'expertise du CEMed du 27 avril 2012, selon lesquelles seul le diagnostic de majoration de symptômes physiques pour des raisons psychologiques (F68.0), sans répercussion sur la capacité de travail, pouvait être retenu. Les diagnostics psychiques posés par la suite par d'autres médecins - et constatés par la juridiction cantonale dans son jugement en matière d'assurance-accidents du 2 mai 2017 - n'avaient pas été évoqués par la doctoresse C._. Ils correspondent dès lors à une nouvelle atteinte à la santé par rapport à la situation prévalant en août 2012. Cette considération est du reste confortée par l'avis du SMR du 20 juillet 2017, selon lequel le diagnostic de trouble de conversion attesté par le docteur E._ avait déjà été "posé par une psychiatre il y a trois ans", soit par la doctoresse G._ de la CRR dans son rapport du 17 avril 2014. Ce diagnostic a donc été évoqué pour la première fois à une époque postérieure à la décision du 21 août 2012, étant précisé, au demeurant, que le rapport de la CRR, établi au cours de la procédure de l'assurance-accidents, n'a pas fait l'objet d'un examen de la juridiction cantonale à l'occasion de son jugement du 27 juin 2014.
3.3. En tant que la juridiction cantonale justifie ensuite la non-entrée en matière sur la nouvelle demande par le fait que pour le trouble de conversion, "le recourant n'a pas apporté de preuve suffisante de son aggravation, au point où sa capacité de travail en serait affectée" (consid. 5.4.2 du jugement entrepris), elle ne peut pas être suivie. Lorsqu'elle retient qu'il n'est guère possible de tirer des avis médicaux transmis par le recourant depuis 2015 de conclusions significatives "à valeur de preuve" quant aux répercussions sur la capacité de travail, l'autorité de recours de première instance méconnaît que les exigences de preuves dans le cadre de l'art. 87 al. 2 et 3 RAI sont sensiblement réduites. La conviction de l'administration ou du juge n'a pas besoin d'être fondée sur la preuve pleinement apportée qu'une modification déterminante est survenue depuis le moment de la décision de refus de rente; des indices d'une telle modification suffisent alors même que la possibilité subsiste qu'une instruction plus poussée ne permettra pas de l'établir (arrêt I 724/99 du 5 octobre 2001 consid. 1c/aa non publié in <ref-ruling>; arrêt 9C_881/2007 du 22 février 2009 consid. 2.2 et les références).
A cet égard, si le docteur E._ ne prend pas position sur la capacité de travail du recourant - indiquant toutefois lui avoir "fait des certificats du mois de juillet, août et septembre" (rapport du 15 septembre 2016) -, le docteur H._, spécialiste en psychiatrie et psychothérapie et médecin traitant, a mentionné "un effet très important [du trouble de conversion sensitivomoteur F44.7] sur la capacité de travail" et considéré que son patient n'était pas capable d'assumer un travail à 100 % (rapport du 8 août 2017). Il a réitéré par la suite que ce trouble avait une influence sur la capacité de travail et préconisé une "expertise par un expert neutre" (courrier au conseil du recourant du 12 octobre 2017). Ces constatations médicales ne sont certes pas suffisantes pour se prononcer de manière définitive sur les effets du diagnostic psychiatrique posé sur la capacité de travail du recourant. Elles rendent toutefois plausible une aggravation de l'état de santé du recourant sur le plan psychique susceptible de limiter sa capacité de travail. Les considérations de la juridiction cantonale sur le comportement du recourant, sa méfiance envers le corps médical et son manque de diligence en relation avec l'obligation de diminuer le dommage ne permettent pas de nier la survenance d'éléments médicaux nouveaux depuis la décision du 21 août 2012, les facteurs évoqués devant, le cas échéant, faire l'objet d'une appréciation globale en relation avec les conditions du droit aux prestations de l'assurance-invalidité.
3.4. Il découle de ce qui précède que la juridiction cantonale n'était pas en droit de nier que les conditions de l'art. 87 al. 2 et 3 RAI quant à l'entrée en matière sur une nouvelle demande étaient réalisées. Par conséquent, le jugement entrepris ainsi que la décision administrative litigieuse doivent être annulés et la cause renvoyée à l'office intimé pour qu'il entre en matière sur la demande de prestations et en examine tous les aspects médicaux et juridiques, puis rende une nouvelle décision.
4.
Vu l'issue du litige, les frais et dépens afférents à la présente procédure seront supportés par l'office intimé, qui succombe (<ref-law>). Le recourant, qui obtient gain de cause, a droit à une indemnité de dépens à la charge de l'office intimé (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis. La décision du Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, du 20 août 2018 et la décision de l'Office de l'assurance-invalidité du canton de Fribourg du 20 septembre 2017 sont annulées. La cause est renvoyée à cet Office pour qu'il entre en matière sur la demande de prestations et rende une nouvelle décision.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge de l'intimé.
3.
L'intimé versera à l'avocat du recourant la somme de 2'800 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
La cause est renvoyée au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, pour nouvelle décision sur les frais et les dépens de la procédure antérieure.
5.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 27 novembre 2018
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
La Présidente : Pfiffner
Le Greffier : Cretton