Reference number : 172-2022-2023-Q4-1003397, amendment number : , agreement type : C, recipient legal name : Armilla AI Inc., recipient country : CA, recipient province : ON, recipient city : Toronto|Toronto, recipient postal code : M6G 1S3, program name english : Industrial Research Assistance Program – Contributions to Firms, program name french : Programme d’aide à la recherche industrielle – Contributions aux entreprises, program purpose english : The purpose of IRAP Contributions to Firms is to support research, development, adoption and/or adaptation of innovative or technology-driven new or improved products, services or processes in Canada up to their commercialization, program purpose french : Le PARI, par le biais des Contributions aux entreprises, vise à appuyer la recherche, le développement, l’adaptation et/ou l’adoption au Canada de produits, de services ou de processus novateurs ou axés sur des technologies nouvelles ou améliorées, et ce jusqu’à leur commercialisation, agreement title english : Developing an assessment framework to evaluate bias of Generative AI in Human Resources (HR) Systems, agreement title french : Développement d’un cadre d’évaluation des biais de l’IA générative dans les systèmes de ressources humaines (RH), agreement number : 1003397, agreement value : 75000.0, agreement start date : 2023-02-13, agreement end date : 2023-05-31, description english : Generative AI can be used in HR systems to perform a myriad of functions: it can rank candidates, create job descriptions, generate ideal skills for a job description, create interview questions, as well as many other HR tasks.  However, generative AI systems have been shown to contain implicit and explicit biases, hate, and other negative traits based on the data they have been trained upon.  Testing these systems for bias is difficult but will become a requirement, starting with the New York City Local Law 144 and the upcoming EU AI Act. In this proposal, we aim to develop a test framework for testing these systems and making them more robust., description french : L’IA générative peut être utilisée dans les systèmes RH pour remplir une myriade de fonctions : elle peut classer les candidats, créer des descriptions de poste, générer des compétences idéales pour une description de poste, créer des questions d’entretien ainsi que de nombreuses autres tâches RH. Cependant, il a été démontré que les systèmes d’IA générative contiennent des préjugés implicites et explicites, de la haine et d’autres caractéristiques négatives basées sur les données sur lesquelles ils ont été formés. Il est difficile de tester la partialité de ces systèmes, mais cela va devenir une obligation, à commencer par la loi locale 144 de la ville de New York et la future loi européenne sur l’IA. Dans cette proposition, nous visons à développer un cadre d’essai pour tester ces systèmes et les rendre plus robustes., expected results english : The purpose of IRAP Contributions to Firms is to support research, development, adoption and/or adaptation of innovative or technology-driven new or improved products, services or processes in Canada up to their commercialization, expected results french : Le PARI, par le biais des Contributions aux entreprises, vise à appuyer la recherche, le développement, l’adaptation et/ou l’adoption au Canada de produits, de services ou de processus novateurs ou axés sur des technologies nouvelles ou améliorées, et ce jusqu’à leur commercialisation, additional information english : nan, additional information french : nan, owner organization : nrc-cnrc, owner organization title : National Research Council Canada | Conseil national de recherches Canada