Chief Information Officers (CIOs) devem passar da verificação reativa de fatos para uma arquitetura de confiança proativa para combater os deepfakes em escala
Quarenta por cento das organizações governamentais estabelecerão funções dedicadas de TrustOps até 2028 para combater a falsificação de identidade por meio de deepfakes e a desinformação como serviço (disinformation-as-a-service - DaaS), de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia.
As organizações governamentais devem estabelecer urgentemente capacidades de confiança, como a transição da verificação reativa de fatos para uma arquitetura de confiança proativa, para se defenderem contra deepfakes. Essas ameaças se manifestam como campanhas de desinformação voltadas para o público, como a falsificação de identidade de líderes para emitir declarações públicas enganosas, e em ataques a sistemas internos. Estes últimos visam comprometer a autenticação biométrica automatizada (voz ou rosto) ou usar engenharia social para manipular funcionários a realizar ações prejudiciais, normalmente criando a sensação de autoridade e urgência.
“Os deepfakes podem minar ou até mesmo transformar em arma as noções de identidade digital, atacando a credibilidade do próprio Estado”, diz Daniel Nieto, Diretor Analista Sênior do Gartner. “Se os cidadãos não conseguirem distinguir um anúncio legítimo do primeiro-ministro ou um portal seguro da agência tributária de uma réplica, a arquitetura fundamental da verdade entra em colapso.”
Para mitigar o risco existencial da irrelevância institucional, os CIOs devem passar da verificação reativa de fatos para uma arquitetura de confiança proativa. As implicações dos deepfakes em escala, resultantes da união entre mídias sociais e conteúdo sintético, exigem uma defesa orquestrada, rápida e abrangente em toda a organização.
“O fenômeno do deepfake ameaça provocar uma regressão digital, revertendo o retorno sobre o investimento (ROI) da transformação digital ao forçar uma volta para interações presenciais e em papel, que geram grande atrito”, afirma Nieto.
Temas como esses e outros relacionados à cibersegurança, gestão de riscos, confiança digital, governança de IA e proteção contra ameaças emergentes serão abordados durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada nos dias 4 e 5 de agosto em São Paulo.
Preparando organizações governamentais para a desinformação
As organizações governamentais não devem tratar os deepfakes apenas como um problema de TI. Trata-se de uma crise envolvendo múltiplas funções, que exige coordenação executiva e uma educação contínua e prolongada da força de trabalho e do público; não há apenas um único responsável em uma estrutura organizacional tradicional. Elas também devem evitar depender de remoções reativas. Não é possível conter um deepfake depois que ele se torna viral. As organizações devem saturar primeiro o espaço de informação com a verdade.
Por fim, elas não devem confiar excessivamente na conscientização dos cidadãos. Embora a educação seja necessária, o ônus da verificação deve ser transferido do usuário final para a arquitetura institucional por meio da proveniência criptográfica.
Para atingir esses objetivos, as organizações governamentais devem priorizar o seguinte no curto prazo:
- Estabelecer um conselho de confiança: Orquestrar uma função de supervisão em consulta com as principais partes interessadas (TI, jurídico, comunicação, RH). Essa estrutura deve gerenciar as questões relacionadas à identidade digital e controlar as atividades de desinformação internas e externas.
- Reforçar os processos de negócios: Identificar e, em seguida, auditar fluxos de trabalho administrativos de alto risco, como desembolsos financeiros. Implementar medidas de segurança que exijam múltiplos aprovadores e autenticação no nível da aplicação para eliminar vulnerabilidades de ponto único de falha que possam ser exploradas por executivos com voz clonada. Em seguida, adotar estratégias e programas formais de governança de dados e segurança que se concentrem inicialmente nesses fluxos de trabalho de alto risco e, posteriormente, se expandam para outros, conforme necessário.
- Desenvolver procedimentos de verificação de deepfakes: Elaborar procedimentos operacionais padrão (standard operating procedures - SOPs) que utilizem guias passo a passo para usar tecnologia para testar interações digitais suspeitas e expor conteúdos que possam ter sido criados sinteticamente por IA.
“No longo prazo, as organizações governamentais podem considerar a implementação de soluções como o protocolo C2PA”, diz Nieto. “Elas devem tornar obrigatória a verificação da proveniência do conteúdo de saída adotando o protocolo C2PA, incorporando metadados criptográficos à prova de adulteração em todas as mídias digitais oficiais. Também podem promover o uso da proveniência do conteúdo junto aos cidadãos e partes interessadas para reforçar a confiança.”
Os clientes do Gartner podem ler mais em “Strategies for Government CIOs to Defend Digital Trust Against Deepfakes“.
Informações adicionais sobre IA no setor público podem ser encontradas no webinar gratuito do Gartner intitulado “Government AI at the Tipping Point: Moving Rapidly from Pilots to Essential Mission Delivery”.
Imagem: https://pt.vecteezy.com/foto/36031068-ai-artificial-inteligencia-tecnologia-inteligente-robo-ai-artificial-inteligencia-de-entrar-comando-pronto-para-gera-algo-futurista-tecnologia-transformacao-chatbot-assistente-secretario
