Até que ponto a inteligência artificial pode influenciar e até mesmo assumir decisões que afetam toda a sociedade? Especialistas reunidos nesta segunda-feira (17), no Plenário Tribunal de Contas do Distrito Federal (TCDF), alertaram para os riscos de delegar decisões sensíveis a algoritmos e defenderam qualificação dos agentes públicos, supervisão humana e responsabilidade no uso da tecnologia.
O debate marcou a abertura do II Fórum de Direito Público e Boas Práticas Administrativas, que reúne ministros, magistrados, integrantes de órgãos de controle, procuradores, advogados e juristas para discutir os desafios da administração pública diante das rápidas transformações tecnológicas.
As diferentes análises apresentadas na abertura convergiram em um ponto: a IA pode ampliar a capacidade do Estado e ajudar a melhorar serviços públicos, mas não deve substituir a responsabilidade humana por decisões que afetam direitos e a vida das pessoas.
IA, democracia e o risco de algoritmos decidirem por nós
O ministro substituto do Tribunal Superior Eleitoral (TSE) Nauê Bernardo conduziu uma reflexão sobre os impactos do avanço da inteligência artificial (IA) na democracia. Ele chamou atenção para o risco de pessoas e instituições delegarem decisões cada vez mais importantes a sistemas automatizados, processo chamado “degradação algorítmica”. Para ele, o problema ganha relevância em um país que ainda enfrenta baixo letramento digital. “Nós estamos lidando com forças que não compreendemos de forma adequada e estamos inserindo essas forças nas nossas atividades cotidianas”, afirmou o ministro do TSE.
Segundo Nauê Bernardo, entender os impactos dessas tecnologias é essencial para preservar a qualidade da governança e, consequentemente, da democracia. O ministro ainda reforçou que esse conceito de democracia deve estar ancorado nos valores constitucionais, especialmente na dignidade da pessoa humana, na inclusão social e no combate às desigualdades. “Uma coisa é utilizar uma ferramenta de IA generativa para auxiliar numa atividade corriqueira. Outra é entregar a tomada de decisão a respeito de questões sensíveis para a inteligência artificial”, observou.
A desembargadora federal Rosimayre Gonçalves de Carvalho, do Tribunal Regional Federal da 1ª Região (TRF-1), também destacou a necessidade de uma reflexão ética sobre o uso das novas tecnologias. Segundo ela, a sociedade atravessa uma transformação sem precedentes e precisa assumir um papel ativo diante desse cenário. “Nós estamos vivendo uma revolução. Ela está nos atacando de todos os lados”, advertiu.
A magistrada alertou para o risco de as pessoas se acomodarem diante da facilidade proporcionada pelas ferramentas de inteligência artificial. “Não podemos cair no comodismo de achar que está ótimo porque alguém está fazendo por mim, pensando por mim ou decidindo por mim”, reforçou Rosimayre.
Preparar pessoas é tão importante quanto investir em tecnologia
Na palestra magna de abertura, o professor e advogado Marçal Justen Filho destacou outro desafio: preparar o Estado para usar tecnologias cada vez mais complexas. Segundo ele, não existe uma única inteligência artificial nem uma solução tecnológica capaz de responder indistintamente aos diferentes desafios da administração pública. “Estamos falando de tecnologias altamente complexas, baseadas em processamento massivo de dados e capacidade computacional gigantesca”, explicou.
O especialista ressaltou que o uso eficiente da IA pelo poder público exige investimento em infraestrutura tecnológica, acesso a plataformas que atualmente estão concentradas em grandes empresas privadas e profissionais preparados para tomar decisões e utilizá-las de forma crítica e responsável. “A inteligência artificial não substituirá o ser humano, mas substituirá o ser humano que não sabe se valer da inteligência artificial”, afirmou Marçal Justen Filho.
Tecnologia a serviço das pessoas
Ao dar as boas vindas aos participantes, o presidente do TCDF, conselheiro Manoel de Andrade, relacionou o debate sobre inovação à finalidade da própria governança pública: fazer o Estado entregar melhores resultados à população.
Para ele, os avanços tecnológicos exigirão adaptação permanente das instituições, mas eficiência e velocidade precisam estar a serviço das pessoas. “A velocidade é importante para transportar para quem não tem o que precisa ter, que é dignidade”, afirmou.
Coordenador científico do Fórum, Luciano Ramos explicou que o encontro busca aproximar instituições, compartilhar experiências e identificar boas práticas que contribuam para fortalecer a administração pública e a democracia. “Debater democracia não é apenas debater aquilo em que falhamos como democracia, mas absorvermos aquilo que temos de melhor. E isso passa por instituições fortes que dialogam e compartilham experiências”, destacou.
A programação segue nesta segunda-feira com debates sobre governança, segurança jurídica, inteligência artificial, transparência, combate à corrupção e fortalecimento das instituições democráticas.
Acompanhe as palestras aqui: https://www.youtube.com/live/6YGz5nJ1yRM?is=Ch6bCWJrq2BZ8N-G
Confira as fotos aqui:https://banlek.com/album/25b7fb
Reportagem: Polyana Resende Brant
Fotos: José Gomes
