Faits :
A.
Le 6 mai 2020, A._, rédacteur en chef adjoint au quotidien B._, a adressé par courriel une liste de questions au service de presse de la Caisse de prévoyance de l'Etat de Genève (ci-après: la Caisse). Il faisait suite à un communiqué de presse publié par les partis de l'Entente (PDC - PLR), lequel faisait grief au comité de la Caisse d'avoir adopté deux décisions, sans les expliquer aux citoyens genevois, à savoir le changement de base du calcul actuariel et l'abaissement du taux technique à 1.75%; ces deux décisions auraient impliqué un coût supplémentaire de 2 milliards de francs pour l'Etat de Genève. Afin de comprendre les termes selon lesquels le comité avait voté ces deux décisions, A._ demandait à avoir accès au procès-verbal de la séance durant laquelle elles avaient été prises.
Le 7 mai 2020, la présidence du comité de la Caisse a répondu aux questions posées par A._ et a expliqué les raisons de ces décisions. Elle a cependant refusé la demande d'accès au procès-verbal de la séance.
B.
Le 11 mai 2020, A._ a requis la mise en oeuvre d'une médiation par le Préposé cantonal à la protection des données et à la transparence du canton de Genève (ci-après: le Préposé ou la Préposée adjointe). Une séance de médiation a eu lieu le 13 août 2020, en présence du responsable du pôle juridique et compliance de la Caisse, de A._ et de la Préposée adjointe. La séance n'a pas abouti.
Le 17 août 2020, le Préposé a demandé à la Caisse de pouvoir consulter le document sollicité par A._. La Caisse a refusé au motif que ledit document était couvert par une obligation de secret au sens de l'art. 86 de la loi fédérale sur la prévoyance professionnelle vieillesse, survivants et invalidité du 25 juin 1982 (LPP; RS 831.40).
Dans sa recommandation du 31 août 2020, le Préposé a constaté qu'il n'était pas en mesure de déterminer le caractère public ou non du document sollicité en raison du refus de la Caisse de lui en accorder l'accès, alors qu'au terme de son analyse, la Caisse était assujettie à la loi genevoise sur l'information du public, l'accès aux documents et la protection des données personnelles du 5 octobre 2001 (LIPAD; RSG A 2 08).
Par courrier du 18 septembre 2020, A._ a mis la Caisse en demeure de rendre une décision à la suite de la recommandation du P réposé du 31 août 2020. Le 29 septembre 2020, la Caisse a adressé un courrier à A._ l'informant qu'elle ne pouvait pas donner une suite favorable à sa demande de transmission du procès-verbal de la séance durant laquelle les décisions de baisser le taux technique applicable et de changer de table de mortalité avaient été prises. Elle a expliqué que, même à considérer qu'elle entrait dans le champ d'application de la LIPAD, ce qu'elle contestait, elle devrait se prévaloir de l'art. 26 al. 4 LIPAD qui réservait le droit fédéral comme faisant obstacle au droit d'accès: or, précisément, l'art. 86 LPP prévoyait une telle obligation de garder le secret vis-à-vis des tiers; le procès-verbal auquel l'accès était demandé et les indications qu'il contenait étaient manifestement couverts par ce secret, opposable tant au Préposé qu'au journal B._.
C.
Le 30 octobre 2020, A._ a formé recours contre ce refus d'accès auprès de la Chambre administrative de la Cour de justice du canton de Genève (ci-après: la Cour de justice), concluant préalablement à ce qu'il soit ordonné à la Caisse de produire le procès-verbal litigieux et, principalement, à l'annulation de la décision du 29 septembre 2020 et à ce qu'il soit ordonné à la Caisse de déférer à sa demande d'accès au procès-verbal de la séance durant laquelle "les décisions de baisser le taux technique applicable et de changer de table de mortalité [avaient] été prises".
Par arrêt du 20 avril 2021, la Cour de justice a rejeté le recours. Elle a considéré en substance que l'hypothèse prévue à l'art. 26 al. 4 LIPAD dans laquelle le droit fédéral fait obstacle à la communication des documents était réalisée.
D.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt du 20 avril 2021 et de renvoyer la cause à la cour cantonale pour instruction complémentaire puis pour qu'elle ordonne l'accès aux documents litigieux en sa faveur.
La Cour de justice persiste dans les considérants et le dispositif de son arrêt. La Caisse conclut au rejet du recours. Un second échange d'écritures a eu lieu, au terme duquel les parties ont maintenu leurs positions.

Considérant en droit :
1.
L'arrêt attaqué, relatif à une procédure d'accès à un document au sens de la LIPAD, constitue une décision finale (art. 90 LTF) rendue dans une cause de droit public (art. 82 let. a LTF) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Le recourant, qui a pris part à la procédure devant l'autorité précédente (art. 89 al. 1 let. a LTF), est particulièrement touché par l'arrêt attaqué qui confirme le refus de sa demande d'accès à un document contenant des renseignements relatifs à l'accomplissement d'une tâche publique. Il dispose ainsi d'un intérêt digne de protection à l'annulation ou à la modification de l'arrêt attaqué (art. 89 al. 1 let. b et c LTF).
Les autres conditions formelles de recevabilité énoncées aux art. 82 ss LTF sont remplies, de sorte qu'il y a lieu d'entrer en matière.
2.
Il n'est plus contesté que la LIPAD s'applique à la Caisse, en tant qu'établissement de droit public cantonal (art. 3 al. 1 let. c, al. 3 et al. 5 LIPAD).
3.
Se prévalant d'arbitraire, le recourant fait grief à l'instance précédente d'avoir retenu que l'art. 26 al. 4 LIPAD (en lien avec les art. 86 et 86a LPP) faisait obstacle à la communication du procès-verbal de la séance du comité de la Caisse ayant trait aux décisions d'abaissement du taux technique à 1.75 % et de changement de table de mortalité. Il se plaint aussi d'une violation de la souveraineté cantonale (art. 3 Cst.) et du droit à l'information garanti par l'art. 28 de la constitution du canton de Genève du 14 octobre 2012 (Cst./GE; RS 131.234). Ces griefs se confondent dans la mesure où ils tendent à démontrer que c'est à tort que l'accès au document en question a été refusé.
3.1. Dans le canton de Genève, à teneur de l'art. 9 al. 3 Cst./GE, l'activité publique s'exerce de manière transparente, conformément aux règles de la bonne foi, dans le respect du droit fédéral et du droit international. Selon l'art. 28 al. 2 Cst./GE, toute personne a le droit de prendre connaissance des informations et d'accéder aux documents officiels, à moins qu'un intérêt prépondérant ne s'y oppose.
La LIPAD a pour but de favoriser la libre formation de l'opinion et la participation à la vie publique (art. 1 LIPAD). En édictant cette loi, le législateur genevois a voulu passer d'un régime du secret assorti d'exception, prévalant jusqu'alors pour l'administration genevoise, à celui de la transparence sous réserve de dérogation. Cette évolution législative est propre à renforcer tant la démocratie que le contrôle de l'administration, ainsi qu'à valoriser l'activité étatique et à favoriser la mise en oeuvre des politiques publiques. L'instauration d'un droit individuel d'accès aux documents représente l'innovation majeure propre à conférer sa pleine dimension au changement de culture qu'implique l'abandon du principe du secret (Mémorial des séances du Grand Conseil [MGC], séance du jeudi 26 octobre 2000, disponible sous: https://ge.ch/grandconseil/memorial/seances/540311/45/ [consulté le 16 février 2022]).
Toutefois, l'application de la LIPAD n'est pas inconditionnelle. Sont ainsi soustraits au droit d'accès les documents à la communication desquels un intérêt public ou privé prépondérant s'oppose (art. 26 al. 1 LIPAD). Sont également exclus du droit d'accès les documents à la communication desquels le droit fédéral ou une loi cantonale fait obstacle (art. 26 al. 4 LIPAD). Selon les travaux préparatoires, "aux exceptions énumérées explicitement à l'art. 26, il est prudent d'ajouter une réserve des dispositions de droit fédéral ou cantonal faisant obstacle à l'exercice du droit individuel d'accès institué par la LIPAD. Certes, le principe de la primauté du droit fédéral suffirait à fonder des refus au regard de normes de droit fédéral. La mention du droit fédéral n'en a pas moins une utile valeur didactique [...]. La réserve figurant à l'art. 26 al. 4 présente aussi l'avantage d'intégrer en quelque sorte à la LIPAD les exceptions spécifiques résultant du droit fédéral ou d'autres lois cantonales dans la perspective de la détermination de l'étendue du secret de fonction, dont la définition se trouve désormais logiquement faite par référence à la LIPAD" (MGC, séance du jeudi 26 octobre 2000, disponible sous: https://ge.ch/grandconseil/memorial/seances/540311/45/ [consulté le 16 février 2022].
3.2. L'art. 86 LPP, intitulé "obligation de garder le secret", prévoit que les personnes qui participent à l'application de la LPP, ainsi qu'au contrôle ou à la surveillance de son exécution, sont tenues de garder le secret à l'égard des tiers.
Partant, les membres du comité de la Caisse sont soumis à l'obligation de confidentialité de l'art. 86 LPP ainsi qu'à la menace des peines prévues par l'art. 76 LPP en cas de violation de l'obligation de garder le secret. Ils sont aussi soumis au secret de fonction, sous réserve de devoirs de communication et d'information imposés par cette loi ou par la législation fédérale (art. 55 de la loi instituant la caisse de prévoyance de l'Etat de Genève du 14 septembre 2012 [LCPEG; RSG B 5 22]).
3.3. En l'espèce, le recourant fait grief à la cour cantonale d'avoir tiré parti des art. 86 et 86a LPP, qui concerneraient uniquement la protection des données des assurés, pour refuser d'appliquer le droit cantonal ayant pour but d'assurer la transparence de l'administration. A son sens, affirmer qu'une information soumise au secret de fonction serait de ce seul fait exclue du droit d'accès reviendrait à annuler purement et simplement la législation sur la transparence: ce ne serait pas parce qu'un fonctionnaire est soumis au secret de fonction que le document qu'il produit serait soustrait au droit d'accès. Le recourant ajoute que l'accès au procès-verbal du comité de la Caisse ayant trait aux décisions d'abaissement du taux technique à 1.75 % et de changement de table de mortalité ne traite en rien des données personnelles d'un assuré.
3.4. Il y a d'abord lieu d'examiner si le droit fédéral fait obstacle au droit d'accès du procès-verbal litigieux. S'agissant de droit fédéral, le Tribunal fédéral dispose d'un plein pouvoir d'examen (art. 95 let. a et 106 al. 1 LTF).
3.4.1. L'art. 6 de la loi fédérale du 17 décembre 2004 sur le principe de la transparence dans l'administration (LTrans; RS 152.3) garantit un droit général d'accès aux documents officiels. Ce droit d'accès général concrétise le but fixé à l'art. 1 de la loi, qui est de renverser le principe du secret de l'activité de l'administration au profit de celui de la transparence quant à la mission, l'organisation et l'activité du secteur public.
L'art. 4 let. a LTrans réserve toutefois les dispositions spéciales d'autres lois fédérales qui déclarent certaines informations secrètes. Une disposition spéciale peut ainsi empêcher l'accès à un document officiel ou le soumettre à des règles divergentes, qui peuvent être plus strictes ou, au contraire, faciliter la consultation du document. Le Message relatif à la LTrans cite notamment comme exemple les normes relatives au devoir de discrétion prévues par la législation en matière d'assurances sociales (Message relatif à la LTrans du 12 février 2003, FF 2003 p. 1832 s.).
Cependant, il ressort aussi du Message relatif à la LTrans que le secret de fonction des employés de la Confédération, garanti à l'art. 22 de la loi fédérale du 24 mars 2000 sur le personnel de la Confédération (LPers; RS 172.220.1) et antérieur à l'entrée en vigueur de la LTrans, ne saurait être considéré comme une disposition spéciale garantissant le secret car il est l'émanation du principe du secret prévalant avant l'entrée en vigueur de la LTrans. La LTrans limite au contraire le champ d'application du secret de fonction aux informations qui ne sont pas publiquement accessibles. En d'autres termes, le secret de fonction prévu à l'art. 22 LPers ne peut pas exclure l'application de la LTrans puisque cela aurait été incompatible avec le changement de paradigme introduit par la LTrans. La portée pratique du secret de fonction est ainsi réduite, puisqu'il ne protège plus que les informations couvertes par le secret en application des exceptions au principe de transparence prévues aux art. 7 et 8 LTrans (Message relatif à la LTrans du 12 février 2003, FF 2003 p. 1833; arrêt 1C_129/20 16 du 14 février 2017 consid. 2.3.1 in ZBl 2018 p. 395; voir aussi <ref-ruling> consid. 3.1).
De même, l'obligation de garder le secret prévue par l'art. 44 de la loi sur le travail dans l'industrie, l'artisanat et le commerce du 13 mars 1964 (LTr; RS 822.11) ne constitue pas non plus une disposition spéciale qui serait réservée par l'art. 4 let. a LTrans. L'art. 44 LTr prévoit que "les personnes qui sont chargées de tâches prévues par la présente loi ou qui y participent sont tenues de garder le secret à l'égard des tiers sur les faits qu'ils apprennent dans l'exercice de leur fonction". Il ne forme en effet qu'une expression spécifique du secret de fonction général (cf. arrêt 1C_129/2016 du 14 février 2017 consid. 2.3.2; FRANÇOIS CHAIX, Le principe de la transparence de l'administration dans la jurisprudence du Tribunal fédéral, in: Droit public de l'organisation - responsabilité des collectivités publiques - fonction publique, Annuaire 2019/2020, 2020, p. 67).
3.4.2. L'obligation de garder le secret prévue à l'art. 86 LPP a été introduite dans le cadre de "l'adaptation et l'harmonisation des bases légales pour le traitement de données personnelles dans les assurances sociales", afin d'adapter la législation sur les assurances sociales aux exigences de la loi fédérale sur la protection des données (Message du 24 novembre 1999, FF 2000 219 ss). L'art. 86 LPP, entré en vigueur le 1er janvier 2001 (RO 2000 2689), est antérieur à la LTrans, entrée en vigueur le 1er juillet 2006. Comme les art. 22 LPers et 44 LTr, l'art. 86 LPP est formulé de manière large et ne fait qu'exprimer, sous une forme modifiée, le secret de fonction général. La portée de l'obligation de garder le secret de l'art. 86 LPP doit donc être définie de manière concrète en coordination avec la LTrans: l'obligation de garder le secret ne s'applique plus qu'aux informations qui ne sont pas accessibles aux termes de la loi sur la transparence, par exemple parce qu'elles tombent sous le coup d'une disposition dérogatoire prévue aux art. 7 ou 8 LTrans (cf. Message relatif à la LTrans du 12 février 2003, FF 2003 p. 1833, ch 1.1.3.3; BERTIL COTTIER, in: Brunner/Mader (éd.), Handkommentar zum Öffentlichkeitsgesetz, 2008, ad art. 4 N 10 au sujet de l'art. 33 de la loi fédérale sur la partie générale du droit des assurances sociales du 6 octobre 2000 [LPGA; RS 830.1] dont la formulation est quasi identique à celle de l'art. 86 LPP; voir aussi CHRISTA STAMM-PFISTER, Basler Kommentar DSG/BGÖ, 3ème éd., 2014, ad art. 4 LTrans N 9). Il faut en déduire que l'entrée en vigueur de la LTrans a réduit la portée de l'art. 86 LPP. Tous les documents accessibles en vertu de la LTrans ne sont pas couverts par l'obligation de garder le secret. Cela vaut en particulier pour les documents contenant des données non personnelles, comme par exemple les informations relatives aux processus internes des autorités, aux planifications et à la surveillance des assureurs (COTTIER, op. cit., ad art. 4 LTrans N 10). En revanche, la communication à des tiers de données personnelles (notamment en lien avec les assurés) demeure en principe refusée (art. 7 al. 2 LTrans et 86a al. 5 let. b LPP).
3.4.3. Par conséquent, sur le plan fédéral, l'art. 86 LPP ne constitue pas une disposition spéciale au sens de l'art. 4 let. a LTrans. Il ne protège plus que les informations couvertes par le secret en application des exceptions prévues aux art. 7 et 8 LTrans. Le procès-verbal litigieux relatif aux décisions d'abaissement du taux technique et de changement de table de mortalité ne contient a priori pas de données personnelles en lien avec des assurés et n'est ainsi pas couvert par l'obligation de garder le secret.
3.5. Il découle de ce qui précède que le droit fédéral ne fait pas obstacle au droit d'accès aux documents au sens de l'art. 26 al. 4 LIPAD. L'art. 86 LPP ne peut dès lors constituer une exception de droit fédéral à l'accès au document demandé. L'arrêt attaqué apparaît en contradiction avec le principe de transparence tel qu'il découle de la LIPAD et de la Constitution genevoise. La cour cantonale a donc appliqué arbitrairement l'art. 26 al. 4 LIPAD, en jugeant que le droit fédéral faisait obstacle à la communication du document demandé. Le grief du recourant est ainsi fondé.
4.
Il s'ensuit que le recours est admis et l'arrêt attaqué annulé. La cause est renvoyée à la Cour de justice afin qu'elle examine préalablement si la séance dont le procès-verbal est demandé est publique, non publique ou à huis clos, au sens des art. 5 à 7 LIPAD. Cas échéant, elle devra aussi déterminer si une autre exception au sens de l'art. 26 LIPAD serait susceptible de s'appliquer à la demande d'accès au procès-verbal litigieux. Pour ce faire, il lui appartiendra de demander l'accès au procès-verbal en question, conformément à l'art. 63 LIPAD, lequel prévoit que "la juridiction compétente a accès aux documents concernés par le recours, y compris les données personnelles constituant l'enjeu du recours, à charge pour elle de veiller à leur absolue confidentialité et de prendre, à l'égard tant des parties à la procédure que des tiers et du public, toutes mesures nécessaires au maintien de cette confidentialité aussi longtemps que l'accès à ces documents n'a pas été accordé par un jugement définitif et exécutoire". Si aucune autre exception au sens de l'art. 26 LIPAD ne devait trouver application, la cour cantonale devra donner accès au document en question, après avoir examiné si certaines parties de ce procès-verbal doivent éventuellement demeurer secrètes en application de l'art. 27 LIPAD (en particulier s'il devait contenir des données personnelles dont la révélation pourrait porter atteinte à la sphère privée).
5.
Le recourant, qui obtient gain de cause avec l'assistance d'un avocat, a droit à des dépens, à la charge de l'intimée (art. 68 al. 1 LTF). Les frais judiciaires sont aussi mis à la charge de l'intimée (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis et l'arrêt attaqué est annulé. La cause est renvoyée à la Cour de justice pour nouvelle décision au sens des considérants.
2.
Les frais judiciaires, arrêtés à 2'000 francs, sont mis à la charge de l'intimée.
3.
Une indemnité de dépens de 2'000 francs est allouée au recourant, à la charge de l'intimée.
4.
Le présent arrêt est communiqué au mandataire du recourant, à l'intimée et à la Chambre administrative de la Cour de justice du canton de Genève.
Lausanne, le 3 mars 2022
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Kneubühler
La Greffière : Tornay Schaller