Faits :
A.
A._, né en 1958, a travaillé en qualité de serveur à plein temps dans un hôtel à Genève du 21 mai 1988 au 1 er octobre 2011, date de son licenciement. Le 12 juillet 2011, il a déposé une demande de prestations de l'assurance-invalidité auprès de l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI). Il arguait souffrir de douleurs testiculaires chroniques en lien avec une opération des varicocèles pratiquée en janvier 2011. En raison de ces troubles, il a notamment été suivi au Centre multidisciplinaire de traitement de la douleur de l'Hôpital B._.
L'office AI a notamment confié une expertise pluridisciplinaire à la Policlinique C._. Les doctoresses D._ et E._, spécialistes en médecine interne générale, ainsi que les docteurs F._, spécialiste en urologie, G._, spécialiste en psychiatrie et psychothérapie et H._, spécialiste en neurologie, ont rendu leur rapport le 1 er mars 2016. Ils ont retenu les diagnostics de syndrome douloureux chronique de la région inguino-scrotale, de status post cure chirurgicale de varicocèle en 2011 et de réaction dépressive, laquelle était sans effet sur la capacité de travail de l'assuré. Selon les experts, ladite capacité de travail était nulle dans l'activité habituelle de serveur; elle était en revanche entière dans une activité exercée en position assise permettant à l'intéressé de se lever et d'éviter les marches prolongées ainsi que les contacts visuels avec le public.
Par décision du 3 octobre 2016, l'office AI a rejeté la demande de prestations de l'assuré, motif pris que le taux d'invalidité de 11 % était insuffisant pour ouvrir le droit à une rente d'invalidité ou à une mesure de reclassement.
B.
Saisie d'un recours contre la décision de l'office AI, la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève a, entre autres mesures d'instruction, confié une expertise en urologie au docteur I._, spécialiste en urologie, ainsi qu'une expertise en médecine interne, neurologie et psychiatrie, à J._ SA (ci-après: J._ SA), soit pour elle les docteurs K._, spécialiste en médecine interne générale, et L._, spécialiste en neurologie, ainsi que la doctoresse M._, spécialiste en psychiatrie et psychothérapie. Les deux rapports d'expertise, datés du 11 novembre 2019, ont été complétés par une appréciation consensuelle de l'ensemble des experts datée du 4 novembre 2019. Selon cette appréciation consensuelle, la capacité de travail de l'assuré dans son activité habituelle était nulle sur les plans urologique et neurologique. Dans une activité adaptée (possibilité de bouger, à savoir de passer de la position assise à debout, et de prendre des pauses), sa capacité de travail était de 50 % du point de vue urologique. Sur le plan neurologique, sa capacité de travail était totale dans une activité adaptée (travail diurne et routinier ne nécessitant pas une mémoire de travail intacte et excluant la conduite d'un véhicule). Sur les plans psychiatrique et de la médecine interne, sa capacité de travail était totale sans limitations fonctionnelles. Le docteur I._ a complété son rapport le 10 janvier 2020.
Par arrêt du 12 novembre 2020, la cour cantonale a rejeté le recours.
C.
A._ interjette un recours en matière de droit public contre cet arrêt, en concluant à son annulation et au renvoi de la cause à la juridiction cantonale pour nouvelle décision au sens des considérants. A titre subsidiaire, il conclut à la réforme de l'arrêt entrepris en ce sens qu'une demi-rente d'invalidité ainsi que les rentes complémentaires y afférentes lui soient octroyées à compter du 1 er janvier 2012. Il sollicite en outre le bénéfice de l'assistance judiciaire.
L'office AI conclut au rejet du recours, alors que l'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit :
1.
1.1. Le Tribunal fédéral, qui est un juge du droit, fonde son raisonnement juridique sur les faits retenus par l'autorité précédente (<ref-law>), sauf s'ils ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2) - ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente, il doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> seraient réalisées et la correction du vice susceptible d'influer sur le sort de la cause (<ref-law>); à défaut, un état de fait divergent de celui de la décision attaquée ne peut pas être pris en compte (<ref-ruling> consid. 2 précité; <ref-ruling> consid. 5.2.2).
1.2. Les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de la personne assurée et l'exigibilité - pour autant qu'elles ne soient pas fondées sur l'expérience générale de la vie - relèvent d'une question de fait et peuvent donc être contrôlées par le Tribunal fédéral uniquement sous l'angle restreint de l'arbitraire (<ref-ruling> consid. 2.4; <ref-ruling> consid. 3.4.2.3; <ref-ruling> consid. 3.2). L'appréciation des preuves est arbitraire lorsqu'elle est manifestement insoutenable, en contradiction avec le dossier, ou lorsque l'autorité ne tient pas compte, sans raison sérieuse, d'un élément propre à modifier la décision, se trompe sur le sens et la portée de celui-ci ou, se fondant sur les éléments recueillis, en tire des conclusions insoutenables (<ref-ruling> consid. 2.3). Il n'y a pas arbitraire du seul fait qu'une solution autre que celle de l'autorité cantonale semble concevable, voire préférable (<ref-ruling> consid. 4.4; <ref-ruling> consid. 2.2; <ref-ruling> consid. 6.1). Pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que sa motivation soit insoutenable; il faut encore que cette décision soit arbitraire dans son résultat (<ref-ruling> consid. 5.1.1; <ref-ruling> consid. 6.1; <ref-ruling> consid. 3.4).
2.
2.1. Le litige porte sur le droit du recourant à une rente d'invalidité, plus particulièrement sur sa capacité de travail dans une activité adaptée à ses limitations fonctionnelles.
2.2. L'arrêt attaqué expose de manière complète les dispositions relatives à la notion d'invalidité (art. 7 et 8 al. 1 LPGA en relation avec l'<ref-law>), à l'échelonnement des rentes selon le degré d'invalidité (<ref-law>) et à l'évaluation du taux d'invalidité (<ref-law> et <ref-law>). Il en va de même de la jurisprudence afférente à l'appréciation du caractère invalidant des troubles somatoformes douloureux (<ref-ruling>), à l'appréciation des preuves, en particulier des rapports médicaux (<ref-ruling> consid. 5.1; <ref-ruling> consid. 11.1.1; <ref-ruling> consid. 3), et à la fixation du revenu d'invalide sur la base des données statistiques résultant de l'Enquête suisse sur la structure des salaires (ESS) (<ref-ruling> consid. 3b et 5). Il suffit d'y renvoyer.
3.
La cour cantonale a constaté que selon les rapports médicaux au dossier, les douleurs testiculaires du recourant ne trouvaient pas d'explication somatique clairement objectivable. Seul le docteur I._ avait retenu - en qualité d'expert judiciaire urologue - le diagnostic d'épididymite bilatérale, après avoir pris connaissance d'un rapport d'ultrason testiculaire de mars 2019 montrant des signes d'ischémie, laquelle était possiblement due à une lésion de petits nerfs du testicule et de l'épididyme. L'expert avait toutefois précisé qu'aucun test neuropsychologique ne permettait de confirmer les plaintes du recourant et il avait posé son diagnostic sur la base de l'examen clinique (palpation douloureuse au niveau de la tête des deux épididymes). Il n'avait ainsi formulé qu'une hypothèse possible et donc incertaine. En tout état de cause, son diagnostic fondé sur un ultrason réalisé en 2019 constituait un fait postérieur à la décision de l'intimé du 3 octobre 2016, de sorte qu'il n'y avait pas lieu d'en tenir compte. Par conséquent, l'autorité judiciaire de recours a retenu que l'on ne pouvait pas admettre la capacité de travail résiduelle de 50 % dans une activité adaptée constatée par le docteur I._ et il n'y avait pas lieu de donner suite à la demande d'audition de ce médecin formulée par le recourant.
Les premiers juges ont ensuite relevé que le docteur I._ avait toutefois expliqué que lorsque les douleurs testiculaires étaient chroniques comme en l'espèce, elles pouvaient avoir pour origine des facteurs psychologiques, émotionnels ou comportementaux. La doctoresse M._ avait également relevé que le problème réel apparaissait plus fonctionnel qu'organique. Les avis de ces deux spécialistes rejoignaient donc ceux des autres médecins, selon lesquels l'origine de la symptomatologie douloureuse ne semblait pas être organique. Le recourant souffrait ainsi d'un syndrome sans pathogenèse ni étiologie claires, de sorte qu'il convenait de déterminer le caractère invalidant dudit syndrome à l'aune de la jurisprudence relative aux troubles somatoformes douloureux. Sur la base du rapport d'expertise judiciaire de J._ SA, à laquelle les juges cantonaux ont accordé pleine valeur probante, ceux-ci ont procédé à l'analyse des indicateurs déterminés par la jurisprudence. Ils en ont conclu que le recourant disposait d'une capacité de travail entière dans une activité adaptée diurne, routinière, à condition de ne pas exiger une mémoire de travail intacte ainsi que la conduite d'un véhicule. Les rapports des docteurs N._, spécialiste en psychiatrie et psychothérapie, et O._, spécialiste en médecine interne générale, tous deux médecins traitants du recourant, ne permettaient pas de s'écarter des conclusions des experts de J._ SA.
S'agissant de la détermination du revenu d'invalide, la juridiction cantonale l'a fixé à 65'177 fr. 10 pour un plein temps, ce qui revenait à 48'882 fr. 85 en tenant compte d'une réduction maximale de 25 %. Mis en rapport avec le revenu sans invalidité de 59'223 fr. 55, il en résultait un taux d'invalidité de 17,46 %, arrondi à 17 %, insuffisant pour ouvrir droit à une rente d'invalidité. Le recourant n'avait pas non plus droit à une mesure de réadaptation.
4.
4.1. Dans un premier grief, le recourant, invoquant les art. 29 al. 2 Cst., 6 par. 1 CEDH et 61 let. c LPGA, se plaint d'une violation de son droit d'être entendu. A ce titre, il reproche aux premiers juges d'avoir rejeté sa demande tendant à l'audition du docteur I._ en qualité de témoin, en violation de son droit à la preuve, ce qui consacrerait en soi une violation de son droit d'être entendu. Ce refus aurait en outre induit une mauvaise compréhension du dossier de la part de la cour cantonale et conduit celle-ci à retenir un argument juridique totalement inattendu et erroné, à savoir celui de la postériorité du diagnostic d'épididymite posé par le docteur I._, également en violation du droit d'être entendu. Par ailleurs, le rapport d'expertise de ce spécialiste du 11 novembre 2019 aurait été reproduit de manière lacunaire dans l'arrêt attaqué, de sorte que l'établissement des faits serait arbitraire.
4.2. Le droit d'être entendu découlant de l'art. 29 al. 2 Cst. ne comprend pas le droit d'être entendu oralement ni celui d'obtenir l'audition de témoins. En effet, l'autorité peut mettre un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient pas l'amener à modifier son opinion (<ref-ruling> consid. 4.1; <ref-ruling> consid. 6.3.1; <ref-ruling> consid. 5.3; <ref-ruling> consid. 2.1). Le refus d'une mesure probatoire par appréciation anticipée des preuves ne peut être remis en cause devant le Tribunal fédéral qu'en invoquant l'arbitraire (art. 9 Cst.) de manière claire et détaillée (<ref-law>; <ref-ruling> consid. 5.2.2; <ref-ruling> consid. 4.3.2). L'art. 6 CEDH ne confère pas une protection plus étendue que celle qui découle, sur le plan interne, de l'art. 29 al. 2 Cst. (<ref-ruling> consid. 1b).
4.3. En l'espèce, le recourant n'expose pas précisément en quoi le seul fait pour la juridiction cantonale d'avoir refusé d'auditionner le docteur I._ serait arbitraire, de sorte que son recours ne satisfait pas sur ce point aux exigences de motivation qualifiée posées par l'<ref-law>. Pour le reste, les critiques du recourant ont trait à l'appréciation du rapport d'expertise du docteur I._ du 11 novembre 2019; elles ne sauraient donc être pertinentes sous l'angle d'une violation du droit d'être entendu du recourant. Ce grief s'avère ainsi mal fondé.
5.
5.1. Le recourant se plaint ensuite d'une appréciation arbitraire des preuves et d'une violation de la maxime inquisitoire garantie par l'<ref-law>. Il soutient que les juges cantonaux auraient versé dans l'arbitraire en retenant que le diagnostic d'épididymite n'était qu'une hypothèse possible et incertaine, que ledit diagnostic était postérieur au 3 octobre 2016 et que ses douleurs scrotales s'expliquaient par des facteurs psychologiques, émotionnels ou comportementaux. La cour cantonale aurait confondu l'apparition d'un élément nouveau qui n'était pas présent au moment de la décision du 3 octobre 2016 ("diagnostic nouveau"), avec la mise en évidence d'un élément préexistant découvert par une mesure d'instruction de nature à établir ce qui n'avait pas pu l'être auparavant ("nouveau diagnostic"). A cet égard, les douleurs du recourant à l'origine du diagnostic d'épididymite posé en 2019 auraient déjà existé au moment de la décision du 3 octobre 2016, de sorte qu'il s'agirait d'un "nouveau diagnostic" qui ne serait pas basé sur des faits postérieurs à cette décision. La conclusion des premiers juges aboutirait à un résultat choquant, dès lors qu'elle impliquerait que le diagnostic d'épididymite consacre une modification de la situation devant faire l'objet d'une nouvelle décision.
Se plaignant également d'une violation du droit, le recourant reproche à la juridiction cantonale d'avoir violé les "principes tirés de l'<ref-ruling>", dès lors qu'elle aurait retenu à tort qu'il souffrait d'un syndrome sans pathogenèse ni étiologie claires et sans constat de déficit organique. Le docteur I._ aurait retenu un problème organique et au terme d'un consilium, cet expert et ceux de J._ SA auraient conclu à une capacité résiduelle de 50 % dans une activité adaptée. En ne tenant pas compte du diagnostic du docteur I._, les premiers juges auraient procédé à leur propre appréciation de l'expertise et de la capacité fonctionnelle du recourant, en violation de la jurisprudence consacrée dans l'<ref-ruling>.
5.2.
5.2.1. Dans son rapport du 11 novembre 2019, le docteur I._ a posé le diagnostic d'épididymite bilatérale chronique. Il a fondé ce diagnostic sur des observations cliniques, à savoir une palpation douloureuse de la tête des deux épididymes ainsi que l'anatomie scrotale, en précisant que les plaintes du recourant étaient objectivées malgré l'absence de test neuropsychologique permettant d'évaluer ses douleurs. Il a en outre fait état de douleurs pelviennes et testiculaires présentes depuis juin 2010, ajoutant certes que le dossier médical du recourant ne contenait pas d'indications de douleurs épididymaires. Il a toutefois relevé que des problèmes du plancher pelvien n'excluaient pas un problème douloureux des épididymes et il n'a pas retenu d'aggravation ni même de modification notables des douleurs depuis 2010. Son analyse n'est dès lors pas incompatible avec l'existence de douleurs testiculaires de type épididymaire dès juin 2010. Par ailleurs, l'expert urologue a relevé qu'un ultrason testiculaire réalisé en mars 2019 avait montré des signes d'ischémie, laquelle était probablement causée par une possible lésion de l'artère testiculaire. Or une lésion des petits nerfs du testicule et de l'épididyme, lesquels proviennent du plexus testiculaire accompagnant l'artère testiculaire, pouvait provoquer les douleurs épididymaires bilatérales invalidantes.
Le docteur I._ a ainsi posé un nouveau diagnostic en lien avec des plaintes exprimées depuis 2010, ensuite d'un examen du recourant et de son dossier médical forcément postérieur à la décision du 3 octobre 2016 au vu du contexte dans lequel le mandat d'expertise lui a été confié. Par conséquent, c'est de manière insoutenable que l'autorité précédente a retenu que le diagnostic de l'expert était notamment fondé sur un fait postérieur (à savoir l'ultrason de mars 2019) à la décision précitée et que l'on ne pouvait pas en tenir compte pour ce motif. On ne saurait par ailleurs suivre la juridiction cantonale lorsqu'elle qualifie ledit diagnostic d'hypothèse possible et incertaine. Celui-ci a été posé sans réserve par l'urologue et repose sur un examen clinique du recourant dont les conclusions sont compatibles avec les résultats d'un ultrason testiculaire. Le rapport d'expertise urologique du 11 novembre 2019 est par ailleurs exempt de contradictions, argumenté et convaincant.
5.2.2. En outre et contrairement à ce qu'ont constaté les juges cantonaux, l'appréciation du docteur I._ est partagée par les autres experts. Dans l'appréciation consensuelle du 4 novembre 2019, les experts de J._ SA ont en effet validé la capacité résiduelle de travail de 50 % du recourant, retenue par leur confrère urologue sur la base de son diagnostic. C'est également à tort que la cour cantonale a retenu que le recourant souffrait d'un syndrome sans pathogenèse ni étiologie claires en se fondant notamment sur les avis du docteur I._ et de la doctoresse M._. Le premier nommé s'est limité à indiquer que de manière générale, des facteurs psychologiques, émotionnels ou comportementaux pouvaient induire un syndrome douloureux chronique si les douleurs persistaient, sans toutefois faire état d'un tel syndrome dans le cas du recourant. Quant à la seconde nommée, elle a exclu le diagnostic "F45" (troubles somatoformes), au motif que les douleurs du recourant étaient clairement d'origine organique comme exposé par le volet urologique de l'expertise. De même, le docteur L._, en sa qualité d'expert neurologue, a indiqué que si le mécanisme des douleurs échappait à l'examen neurologique clinique, le comportement de l'assuré tout au long de l'entretien était crédible sous l'angle des "stimuli décrits comme algogènes".
5.2.3. Enfin, le seul fait que d'autres médecins - en particulier les experts de la Policlinique C._ - n'aient précédemment pas trouvé d'explication somatique aux plaintes du recourant ne permet pas d'invalider les conclusions du docteur I._ et des experts de J._ SA, étant rappelé à ce titre que le juge ne peut pas s'écarter sans motifs impératifs des conclusions d'une expertise médicale judiciaire (<ref-ruling> consid. 4.4; <ref-ruling> consid. 3b/aa), laquelle a de surcroît été ordonnée par les premiers juges au motif que des doutes subsistaient quant à la valeur probante de l'expertise de la Policlinique C._.
5.3. Au vu de ce qui précède, l'instance précédente a versé dans l'arbitraire en ne suivant pas les conclusions du docteur I._ quant au diagnostic retenu et à l'incapacité de travail de 50 % dans une activité adaptée qui en découle. Les griefs du recourant sont ainsi bien fondés et il convient de lui reconnaître une capacité de travail résiduelle de travail de 50 % dans une activité adaptée.
En ce qui concerne le début de cette capacité de travail réduite, le docteur I._ a relevé dans son rapport complémentaire du 10 janvier 2020 qu'il ne se prononçait qu'à compter du 26 juin 2019, date à laquelle il avait examiné le recourant. Comme déjà vu, il ressort toutefois de son rapport du 11 novembre 2019 que le recourant souffre de douleurs testiculaires depuis juin 2010, sans qu'une aggravation ou une modification notables des douleurs n'aient été mises en évidence depuis lors (cf. consid. 5.2.1 supra). En outre, le docteur I._ a fait état d'un arrêt de travail à 100 % depuis le 18 janvier 2011 (dans l'activité habituelle). Il y a dès lors lieu de retenir, selon le degré de la vraisemblance prépondérante, que le recourant présentait une incapacité de travail de 50 % dans une activité adaptée à partir de la même date.
6.
En ce qui concerne les effets de l'incapacité de travail sur le plan économique au mois de janvier 2012 - moment déterminant au regard des art. 28 al. 1 et 29 al. 1 LAI - les revenus avant et après invalidité mis en évidence par la cour cantonale, à savoir respectivement 59'223 fr. 55 et 65'177 fr. 10 (pour un temps plein et sans abattement), ne sont pas contestés et lient le Tribunal fédéral (cf. consid. 1.2 supra). Dans sa décision du 3 octobre 2016, l'intimé a retenu un abattement de 15 %, compte tenu des limitations fonctionnelles du recourant, de son âge et de ses années de service; il ne s'est pas déterminé sur ce point dans sa réponse du 16 février 2021. Il convient toutefois de retenir un abattement de 10 %, dès lors que les limitations fonctionnelles justifiant une diminution de rendement déjà prises en compte dans l'évaluation de la capacité de travail n'ont pas à être retenues une seconde fois lors de la détermination de l'abattement (arrêt 8C_122/2019 du 10 septembre 2019 consid. 4.3.1.2 et les références). Il sera encore précisé que le taux d'abattement de 25 % appliqué par les premiers juges avait uniquement pour but de démontrer l'absence de tout droit à une rente.
Le revenu d'invalide doit ainsi être fixé à 29'329 fr. 70. Mis en rapport avec le revenu sans invalidité de 59'223 fr. 55, il en résulte un taux d'invalidité de 50,47 %, arrondi à 50 %, qui ouvre le droit à une demi-rente de l'assurance-invalidité (<ref-law>) dès le 1er janvier 2012. La conclusion subsidiaire du recourant doit donc être admise. Il appartiendra à l'intimé de déterminer les rentes pour enfant assortissant la prétention principale.
7.
L'intimé, qui succombe, supportera les frais judiciaires (<ref-law>) ainsi que l'indemnité de dépens à laquelle a droit le recourant (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis. L'arrêt de la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève du 12 novembre 2020 et la décision de l'Office de l'assurance-invalidité du canton de Genève du 3 octobre 2016 sont annulés. Le recourant a droit à une demi-rente de l'assurance-invalidité dès le 1er janvier 2012.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge de l'intimé.
3.
L'intimé versera au recourant la somme de 2800 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
La cause est renvoyée à la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève pour nouvelle décision sur les frais et les dépens de la procédure antérieure.
5.
Le présent arrêt est communiqué aux parties, à la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève, et à l'Office fédéral des assurances sociales.
Lucerne, le 27 août 2021
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président : Parrino
Le Greffier : Ourny