O Partido Comunista Chinês está usando inteligência artificial para intensificar a vigilância e o controle dos 1,4 bilhão de cidadãos do país, sendo que a tecnologia está se infiltrando cada vez mais no cotidiano, prevendo manifestações públicas e monitorando o humor de detentos, segundo um novo relatório.
Muitos desses sistemas já são bem documentados – desde o exército de censores online do país, responsável pela manutenção do Grande Firewall, sistema usado para restringir a internet global, até as câmeras de vigilância onipresentes em quase todas as ruas e quarteirões das áreas urbanas da China.
Mas o relatório divulgado pelo ASPI (Instituto Australiano de Política Estratégica) detalha como as ferramentas de IA do governo, usadas para “automatizar a censura, aprimorar a vigilância e suprimir preventivamente a dissidência”, tornaram-se mais sofisticadas nos últimos dois anos.
“A China está utilizando IA para tornar seus sistemas de controle existentes muito mais eficientes e intrusivos. A IA permite que o Partido Comunista Chinês monitore mais pessoas, mais de perto e com menos esforço”, disse Nathan Attrill, co-autor do relatório e analista sênior da China no ASPI.
“Na prática, a IA tornou-se a espinha dorsal de uma forma muito mais abrangente e preditiva de controle autoritário”, adiciona. O ASPI é parcialmente financiado pelo governo australiano e outros governos estrangeiros.
Os autores acrescentaram que as implicações desse uso da tecnologia são amplas e profundas, permitindo ao governo chinês um controle ainda maior sobre o policiamento de sua população e a gestão do fluxo de informações, além de fortalecer seu poder no exterior como exportador global de tecnologia de vigilância.
Pequim investiu centenas de bilhões de dólares em negócios relacionados à IA, fazendo grandes avanços em pesquisa e desenvolvimento – apesar dos esforços dos EUA para restringir o fornecimento de chips de IA de alta potência para a China.
O público também abraçou a tecnologia: uma pesquisa de 2024 do grupo de pesquisa global Ipsos constatou que os entrevistados chineses estavam muito mais entusiasmados e otimistas em relação à IA do que a população de outros 32 países.
Até mesmo o líder chinês, Xi Jinping, destacou a importância da inteligência artificial na política de internet em evolução do país.
Em uma reunião em novembro com altos funcionários do Partido Comunista, ele enfatizou que a IA “apresenta desafios à governança do ciberespaço, ao mesmo tempo que oferece novas vias de apoio”, de acordo com a mídia estatal chinesa.
Segundo o relatório do ASPI, isso é um eufemismo para a manutenção do poder e da estabilidade do regime.
As descobertas do instituto não são totalmente inéditas; outros pesquisadores e grupos ao redor do mundo já publicaram relatórios e alertas semelhantes. Além disso, os líderes chineses falaram abertamente sobre suas ambições em relação à IA, algumas das quais são compartilhadas por outros países.
Um outro fato é que isso ainda não é um padrão nacional – governos locais em grandes centros urbanos com infraestrutura digital existente, como Pequim ou Xangai, estão experimentando a IA de maneiras que províncias rurais ou cidades menores ainda não conseguem.
Mas “muitas das intenções e políticas do governo estão agora se tornando realidade”, pontuou Xiao Qiang, pesquisador que estuda a liberdade na internet na Universidade da Califórnia, Berkeley.
“O relatório mostra um claro indicador de que a China está caminhando nessa direção [de usar IA em todo o país]. Assim que a infraestrutura digital estiver pronta, essas coisas serão implementadas”, acrescentou.
Inteligência artificial no sistema de justiça criminal
Com a inteligência artificial já sendo utilizada em alguns locais para policiamento, processos judiciais e operações prisionais, o relatório afirma que a tecnologia poderá eventualmente ser integrada a todas as etapas do sistema de justiça criminal da China.
O monitoramento começa com a vasta rede de câmeras de vigilância do país. Embora não haja estatísticas abrangentes sobre o número de câmeras, as estimativas chegam a 600 milhões de dispositivios em toda a China, segundo o relatório.
Isso equivale a aproximadamente 3 câmeras para cada 7 pessoas.
Assim como em muitos outros países, essas câmeras estão cada vez mais incorporando recursos de IA, como reconhecimento facial e rastreamento de localização.
Por exemplo, documentos de um distrito de Xangai detalham planos para câmeras e drones com IA que “descobrem e aplicam a lei de forma inteligente e automática”, incluindo o potencial de alertar a polícia sobre aglomerações, segundo o documento.
A Suprema Corte da China também incitou todos os tribunais a “desenvolverem um sistema de inteligência artificial competente até 2025” que possa ser usado em diversos processos legais, incluindo julgamentos e trabalhos administrativos, afirma o relatório.
Em outro exemplo, um sistema de IA de Xangai pode recomendar se juízes e promotores devem prender ou conceder penas suspensas a suspeitos e réus.
Por fim, há uma pressão para a criação de mais “prisões inteligentes”, onde ferramentas de IA podem rastrear a localização e o comportamento dos presos.
Em uma prisão, câmeras de reconhecimento facial monitoravam as expressões dos detentos, sinalizando-os para intervenção caso demonstrassem raiva.
Em um centro de reabilitação para dependentes químicos, os presos passaram por terapia assistida por inteligência artificial, realizada por meio de óculos de realidade virtual.
“Um réu detido com o auxílio de vigilância baseada em IA e julgado em um tribunal com auxílio de Inteligência Artificial pode então ser sentenciado, com base na recomendação de um sistema de IA, a uma ‘prisão inteligente’… que incorpora ampla tecnologia inteligente”, diz o relatório.
O Gabinete de Informação do Conselho de Estado e o Ministério da Justiça da China não responderam ao pedido de comentários da CNN. Eles já criticaram o ASPI por receber financiamento de agências governamentais dos EUA e alegaram que ele “não tem credibilidade”.
Essas tecnologias inteligentes podem ajudar a prevenir crimes e tornar as cidades chinesas muito mais seguras, reconheceu o pesquisar Xiao Qiang – mas “devido ao sistema político, a mesma tecnologia pode ser usada, e de fato está sendo usada, para perseguição política”.
O sistema Judiciário da China, que responde ao Partido Comunista Chinês, já possui uma taxa de condenação superior a 99%.
Xiao apontou para diversos grupos vulneráveis que podem ser ainda mais visados – incluindo minorias religiosas e étnicas como os uigures, e dissidentes políticos, que há muito enfrentam repressão governamental.
Empresas chinesas, apoiadas e financiadas pelo governo central, também estão trabalhando no desenvolvimento de grandes modelos linguísticos para línguas minoritárias – incluindo uigur, tibetano, mongol e coreano – para melhor “monitorar e controlar as comunicações nesses idiomas”, constatou o relatório.
Segundo Xiao e o texto, esses modelos poderiam ser usados para monitorar o que as comunidades minoritárias publicam e compartilham, e para manipular as informações que recebem.
Papel das gigantes tecnológicas chinesas
O relatório também destacou o papel das maiores empresas de tecnologia da China, chamando-as de “facilitadoras e executoras essenciais das políticas de censura de conteúdo online do Partido Comunista Chinês”.
Essas empresas sempre foram obrigadas a seguir as regulamentações de conteúdo do governo central, mas agora se tornaram figuras-chave no desenvolvimento de tecnologias de censura e na venda delas para empresas menores em todo o país, às vezes cooperando com as autoridades em casos criminais, pontua o documento.
Por exemplo, a ByteDance, empresa controladora do TikTok, censura conteúdo no Douyin, a versão do aplicativo usada principalmente na China — bloqueando ou dando votos negativos a conteúdo politicamente sensível.
A Tencent, gigante das redes sociais e dos jogos, usa inteligência artificial para monitorar o comportamento do usuário e atribuir a ele “pontuações de risco” com base em sua atividade online, incluindo penalidades por violações em redes sociais, grupos de bate-papo e outras plataformas de comunicação, de acordo com o relatório.
Por sua vez, o mecanismo de busca Baidu vende diversas ferramentas de moderação de conteúdo e cooperou com agências governamentais em mais de 100 casos criminais, principalmente relacionados a fraudes e crimes cibernéticos, também segundo o relatório.
“Na internet, a IA permite a censura em tempo real e a formação da opinião pública: as plataformas usam moderação automatizada, análise de sentimentos e algoritmos de recomendação para diminuir a visibilidade de críticas e promover narrativas alinhadas a partidos políticos”, afirmou Attrill, co-autor do texto.
A CNN entrou em contato com as três empresas para obter comentários e aguarda retorno.
O crescente ecossistema de ferramentas chinesas de vigilância e censura por IA, que pequenas e médias empresas também estão desenvolvendo internamente, tem implicações globais, alertou o relatório – com outros países autoritários, como Irã e Arábia Saudita, também usando IA para vigiar suas populações.
“Os modelos de lógica de aprendizagem chinesa são hoje modelos de código aberto dominantes, o que significa que muitos outros países – suas empresas, suas unidades de pesquisa – podem usar o modelo chinês porque é barato, é gratuito”, disse Xiao.
Mas “se você usa esses modelos, você está fundamentalmente usando as plataformas deles. A censura, a vigilância, o controle e a influência vêm junto”, acrescentou.