USP e Google lançam Cátedra IA Responsável
Com foco em políticas públicas e proteção social, iniciativa vai desenvolver pesquisas sobre temas regulatórios e mercado de trabalho
A maior universidade brasileira, Universidade de São Paulo (USP), em parceria com a Google, uma das maiores empresas de tecnologia e domínio de inteligência artificial do mundo, lança nesta terça-feira (2/12) a Cátedra IA Responsável no Instituto de Estudos Avançados da USP, que será coordenada pelo economista Carlos Américo Pacheco, ex-reitor do Instituto Tecnológico de Aeronáutica (ITA) e professor da Unicamp.
Em entrevista à Focus, o coordenador Científico da Cátedra, sociólogo Glauco Arbix, professor titular da USP e coordenador científico do IEA, um dos maiores especialistas em tecnologia e inovação do país, explicou que o lançamento acontece em um “momento em que se dá o desenvolvimento dessa tecnologia e seria importante se a gente pudesse influenciá-la, para que não fizesse mal para as pessoas e para a humanidade. Pelo contrário, para que ela se mostrasse uma tecnologia virtuosa e que ajudasse os países a se desenvolverem, a elevar a qualidade de vida das pessoas, a avançar na saúde, na educação”.
Glauco Arbix foi presidente do Instituto de Pesquisa Econômica Aplicada (IPEA), coordenador-geral do Núcleo de Assuntos Estratégicos da Presidência da República no primeiro governo Lula, presidente da Financiadora de Estudos e Projetos (FINEP), integrou o Conselho Nacional de Ciência e Tecnologia, coordenou o Observatório de Inovação e Competitividade no Instituto de Estudos Avançados da USP, foi Tinker Professor na Universidade de Wisconsin-Madison, entre outras tantas outras atividades, funções e autoria de livros. Organizou e lançou recentemente o livro “IA Responsável na encruzilhada: desafios geopolíticos, regulatórios e de governança” onde aprofunda os dilemas que o tema apresenta para a sociedade. Atualmente, é membro do Conselho Nacional de Ciência e Tecnologia.
Com todo esse conhecimento e autoridade, o pesquisador faz um alerta: “O Brasil está atrasado no controle dessa tecnologia, que é muito poderosa. Como toda tecnologia muito poderosa, ela promete o céu e o inferno. Pode trazer benefícios e malefícios.”. O coordenador enfatizou que o momento atual é especial porque o desenvolvimento da IA ainda está em curso, permitindo que o país influencie seu rumo para que seja “virtuosa” e ajude no desenvolvimento nacional.
Para um país com “virtudes e, ao mesmo tempo, um poço de carências em várias áreas”, a IA responsável representa uma oportunidade de “virada de jogo”, especialmente nas áreas da saúde e da educação. Arbix citou a possibilidade de “gerar novas drogas”, melhorar diagnósticos e personalizar atendimentos no SUS, além de avanços no sistema educacional.
Autonomia acadêmica e diversidade de pensamento
A Google já possui um histórico de estabelecer parcerias acadêmicas, o que tranquiliza o coordenador. “A liberdade acadêmica é essencial para nós. Até que ponto a Google vai definir a nossa pauta de pesquisa? Espero que não”, diz ele. Ele destacou que a universidade é um “centro de diversidade, de posições diferentes; não tem um pensamento único”.
Inicialmente, será criado um Comitê Executivo composto por três membros da USP, três da Google e pelo catedrático, totalizando sete pessoas, e um Conselho Consultivo com personalidades de destaque que já aceitaram o convite. Nomes como Ana Estela Haddad, secretária de Tecnologias Digitais do Ministério da Saúde; Caio Magri, diretor-presidente do Instituto Ethos; Demi Getschko, diretor-Presidente do NCI.br; Fernanda Dalmas, diretora executiva do jornal Valor; e Francisco Gaetani, secretário extraordinário para a Transformação do Estado do Ministério da Gestão e da Inovação em Serviços Públicos fazem parte da lista que ainda está em formação.
Prioridades e agenda de trabalho
Segundo Arbix, para esta fase inicial, as prioridades da USP incluem o impacto da IA no mercado de trabalho, as novas profissões e as qualificações necessárias. “O mercado de trabalho é o grande problema que a inteligência artificial tem”, destaca. Outra linha de frente será o acompanhamento da regulamentação no Congresso Nacional. Apesar do marco regulatório da IA ter sido aprovado no ano passado, a regulamentação ainda não avançou.
Ele também alertou para riscos específicos: “Crianças de sete, oito, dez, doze anos mexem com essas plataformas de uma maneira que pode provocar danos psicológicos, além de danos materiais”. As questões éticas também são uma preocupação prioritária, mencionando o problema das “alucinações” da IA generativa e da “sycophancy”, tendência dos sistemas em “bajular” os usuários, respondendo o que eles querem ouvir.
Questões éticas e apropriação indevida
O coordenador defende que o fato de a Cátedra estar dentro da mais importante universidade da América Latina tem um peso muito grande. “Temos grupos de pesquisa na USP que envolvem mais de 500 pesquisadores sobre inteligência artificial. A USP é grande produtora de artigos científicos em inteligência artificial, em várias áreas, em robótica e em vários segmentos. Em uma perspectiva de preparar o país, a cátedra é superimportante”.
O professor citou casos polêmicos, como a recriação digital de Elis Regina e de Vladimir Herzog, para ilustrar os dilemas éticos. “Há uma apropriação indevida da memória das pessoas”, afirmou. “A pergunta elementar: Elis Regina autorizaria? Herzog gostaria de participar de um programa desse tipo? Ninguém sabe.”
A cátedra representa um esforço estratégico para que o Brasil não seja apenas usuário da tecnologia, mas participe ativamente na definição de seus rumos e controles. Como concluiu Arbix: “Quem é apenas usuário de tecnologia não define essas tendências, não define pesquisa e não define rumos das tecnologias, muito menos os controles sobre os seus impactos. Se for para aumentar a desigualdade, não precisamos de nenhuma tecnologia, é só deixar as coisas do jeito que estão”.
