Discurso no Senado Federal — 2021-07-16
Orador(a): JACKLINE DE SOUZA CONCA
Tipo: Exposição de convidado
Resumo: Sessão de Debates Temáticos destinada à análise do Projeto de Lei nº 872, de 2021, que dispõe sobre o uso da Inteligência Artificial

A SRA. JACKLINE DE SOUZA CONCA (Para exposição de convidado.) – Muito obrigada, Senador.
    Bom dia a todos!
    Cumprimento os convidados e os Senadores presentes e agradeço muito a oportunidade de debater esse tema fundamental para o desenvolvimento do País. Por isso, eu congratulo o Senado pela iniciativa.
    O desafio de regular tecnologias emergentes, como as derivadas da inteligência artificial, decorre do equilíbrio entre estimular o desenvolvimento tecnológico e a inovação e, simultaneamente, preservar os valores éticos, democráticos, a privacidade e a segurança. E, justamente por isso, não pode prescindir de um amplo debate com os atores envolvidos, como ocorreu na União Europeia, no Canadá e nos Estados Unidos também. Esses países criaram formas de debater o tema por meio da elaboração de estratégias nacionais e também de diversos outros arranjos participativos para avaliar exatamente quais os impactos positivos e negativos do uso da inteligência artificial.
    Quando a gente observa as regulações que existem atualmente no mundo, elas consideram contextos específicos de aplicação da inteligência artificial com base em avaliações de risco, com base em avaliações de impacto. Inclusive, às vezes, é necessário fazer testes práticos e projetos-pilotos para que a gente possa entender a melhor forma de mitigar riscos, sem impedir a adoção e o desenvolvimento futuro dessa tecnologia. Por exemplo, não é desejável a gente tratar de forma igual soluções de inteligência artificial que são aplicadas no chão de fábrica para a manutenção preditiva de máquinas, por exemplo, e soluções de inteligência artificial que estão embarcadas em programas de reconhecimento facial que vão ser utilizados em segurança pública.
    Em maio de 2019, como já foi comentado, o Governo Federal aderiu à recomendação da OCDE que criou um arcabouço mínimo de princípios e valores para regular a inteligência artificial. Depois nós tivemos um grande avanço com a publicação da Estratégia Nacional de IA, em abril deste ano, pelo Ministério da Ciência, Tecnologia e Inovações, após amplo debate e consulta pública. Hoje são mais de 30 entidades que fazem parte da governança da estratégia.
    E, nesse contexto nacional e internacional, nós olhamos com atenção o PL em questão, meritório, e temos algumas observações, com a intenção de contribuir para essa discussão, que é muito bem-vinda.
    O primeiro ponto que nós gostaríamos de destacar se refere ao próprio objetivo do PL, tal como descrito: uso da inteligência artificial no Brasil. Nós acreditamos que pode gerar certa insegurança jurídica, uma vez que muitos serviços e produtos utilizados no Brasil não estão abrigados ou não foram desenvolvidos em Território nacional. Esse é um dilema já conhecido e enfrentado atualmente por diversos países no que tange à regulação da internet e a outras tecnologias, como computação em nuvem, por exemplo.
    A proposta também não traz uma distinção entre os tipos de agentes. Ela não diferencia o uso das soluções por cidadãos, entes públicos, empresa privada, o que acaba, eventualmente, estabelecendo deveres que não poderão ser cumpridos. Então, por exemplo, é cabível a gente falar de escrutínio democrático de um algoritmo que controla sensores de Internet das Coisas nas fábricas? Ou como a gente cria deveres para os cidadãos quando muitas vezes eles nem sabem que estão utilizando esse tipo de solução?
    A gente considerou também, aqui na área de inovação, que o texto acabou estabelecendo alguns procedimentos e obrigações com base em definições que são pouco claras, como, por exemplo, adoção gradual da inteligência artificial, soluções de IA que não respeitam escolhas pessoais de estilo de vida, decisões rastreáveis, autonomia das pessoas. Isso pode gerar certa insegurança jurídica para os usuários, desenvolvedores, compradores, enfim.
    Finalmente, também é importante a gente discutir a potencialidade dos algoritmos, que seriam objeto de segredo industrial, pois, novamente, esse equilíbrio entre preservar o segredo industrial e a necessidade de transparência vai ser chave para atrair investimento na área.
    Então, concluindo, a gente sugere um debate mais amplo, como já foi mencionado aqui e como foi realizado na ocasião do Marco Civil da Internet, no contexto da própria Lei Geral de Proteção de Dados. A gente também sugere avaliar a necessidade de regulamentação com base em contextos específicos, com base em avaliação de risco e impacto, visando à segurança jurídica e ao estímulo à inovação. E também sugerimos que a regulamentação esteja alinhada ao debate, ao amplo debate promovido no âmbito da estratégia nacional.
    Novamente, eu os congratulo pela iniciativa.
    Esses são alguns pontos que nós trazemos para a apreciação, para a discussão.
    Agradecemos novamente o convite. Muito obrigada.