IA se defende contra IA: avanços na cibersegurança impulsionados pela inteligência artificial

IA se defende contra IA: avanços na cibersegurança impulsionados pela inteligência artificial

Por Dra. Dorit Dor, CTO da Check Point Software Technologies

No dinâmico mundo da cibersegurança, a integração da inteligência artificial surge como um fator crucial que redefine as estratégias tanto dos atacantes quanto dos defensores. Hoje, a IA atua como um multiplicador de força! Sua capacidade de melhorar a eficiência e a rapidez em escala é inegável, mas também apresenta desafios significativos nas mãos dos atacantes. Estes podem operar com maior eficácia, executando campanhas altamente específicas que vão desde o phishing até a criação de deepfakes, comprometendo assim a integridade das empresas.

Atualmente, os ataques têm a capacidade de criar campanhas massivas, altamente específicas e que são muito eficazes e, até mesmo, têm o poder de fazer com que um modelo de IA execute ações em seu nome que não estavam planejadas.

No entanto, isso não é novidade. Há algum tempo sabe-se que os atacantes usam IA. Um exemplo recente que destaca o uso malicioso da IA é o relatório em que a Coreia do Sul informou que a Coreia do Norte está utilizando IA e Gen AI em seus ataques e, especificamente, usando IA generativa para várias missões de espionagem, como busca de alvos e tecnologias necessárias para pirataria. A Coreia do Norte estabeleceu o Instituto de Pesquisa de Inteligência Artificial em 2013 e já era sabido que usava IA anteriormente.

A IA generativa se tornou o orgulho dos serviços de crimes cibernéticos e, por meio dela, esses serviços oferecem roubo de identidade em redes sociais, campanhas de spam e serviços de verificação KYC (sigla para Conheça seu Cliente). Há um aumento de plataformas impulsionadas por IA e os criadores dessas plataformas estão compartilhando e demonstrando o uso de sua IA.

Embora não haja como identificar como uma mensagem de spam específica foi criada, é improvável que spam de alta qualidade e em grande escala e deepfakes sejam criados sem usar as capacidades de Gen AI.

Diante desse cenário, surge a pergunta crucial: como as organizações e os governos podem usar a IA para defender seus ativos? A resposta é clara: adotar a IA como parte integral das estratégias de cibersegurança. A prevenção se ergue como o pilar fundamental, e a educação e conscientização em todos os níveis organizacionais se apresentam como componentes essenciais. A unificação do acesso aos dados dentro das organizações e a aplicação da IA são passos inevitáveis para proteger os ativos contra as ameaças cibernéticas.

Isto porque os atacantes não deixarão de usar IA, tornando mais difícil às organizações e aos governos se defenderem sem ela. Eles precisam aumentar a prevenção adotando IA, tornar os relatórios de cibersegurança legíveis pelos membros do conselho e educar sua força de trabalho.

Novos tipos de aplicações e usos em empresas estão coletando muito mais dados. O acesso está sendo unificado para tornar todos os dados acessíveis dentro da corporação e a IA está sendo aplicada por cima para realizar isto. Como resultado, para proteger seus dados, todas as operações usando IA precisam ser protegidas.

As corporações precisam se preocupar com alucinações de IA e garantir que a IA que estão usando esteja alinhada com os valores de sua empresa, que seja útil e inofensiva. Todos precisam ter certeza de que a IA é treinada com dados bons, testar para viés e alinhamento e decidir quem controlará a validação e como validará.

Contudo, vejo oportunidades. À medida que as empresas mergulham nesta nova era tecnológica, a questão sobre as oportunidades que a IA apresenta torna-se inevitável. Estamos em um momento comparável ao início da era dos telefones celulares e da Internet, quando as pessoas tentavam prever como isso mudaria nossas vidas.

A curto prazo, há uma boa oportunidade para automatizar e simplificar atividades utilizando os mesmos conceitos de hoje. Mas um dia, em um futuro não muito distante, as startups que permanecerem neste jogo se tornarão obsoletas. Aquelas que usarem a IA para pensar em como fazer as coisas de maneiras completamente novas (incluindo a cibersegurança) serão as vencedoras.

Share This Post

Post Comment