Governança de Inteligência Artificial é a nova fronteira do ESG

Por Alexandre Pegoraro, CEO do Kronoos

A lógica de que a humanidade deve controlar a Inteligência Artificial o mais rápido possível ao invés de permitir que ela controle os humanos no futuro tem desencadeado uma verdadeira corrida em todo o mundo em busca das melhores formas de garantir o uso ético dessa tecnologia. Todo este movimento intenso em torno do tema, trabalha no sentido de transformar a Governança de IA na nova fronteira do ESG tendo a letra ‘G’ na posição de protagonismo.

Só para ter ideia da proporção de importância que o tema alcançou, basta uma rápida retrospectiva para constatar que em novembro do ano passado, durante o evento AI Safety Summit, no Reino Unido, 28 países, incluindo o Brasil, assinaram a chamada Declaração de Bletchley onde assumem uma série de compromissos neste sentido.

Mais recentemente, no final de março, os 193 Estados-membros das Nações Unidas aprovaram por consenso uma resolução proposta pelos Estados Unidos sobre a governança da Inteligência Artificial (IA).

Enquanto isso, a União Europeia já avançou ainda mais com a aprovação de sua própria lei a respeito do assunto. É importante ressaltar que essa nova legislação prevê a aplicação de multas que chegam a 35 milhões de euros ou 7% do volume de negócios das organizações nos casos em que se comprove o uso de sistemas de IA proibidos sem a devida diligência na aplicação desta tecnologia.

No Brasil, o debate também avança tendo como mais recente movimento uma Carta Aberta assinada por 39 entidades ligadas à inovação dos mais diferentes segmentos econômicos defendendo a tese de que o Marco Regulatório da Inteligência Artificial no Brasil deve levar em conta as normas setoriais, as estruturas e experiências já existentes, contando com cooperação institucional e uma avaliação dos impactos da regulação sobre o desenvolvimento econômico, a inovação e a competitividade.

O texto deste documento, aliás, traz à tona uma das maiores preocupações dos especialistas que é a necessidade de evitar que o excesso de regulamentação para cumprir os objetivos de ética, segurança e governança, acabe por travar o desenvolvimento da IA em todo o seu potencial de gerar negócios e soluções que, na prática, beneficiam a própria humanidade. 

Neste sentido, os chamados Sandbox Regulatórios surgem como uma ferramenta eficiente, permitindo a experimentação de inovações em um ambiente controlado, sujeito a requisitos atípicos. Essa prática busca encontrar um equilíbrio entre regulamentação e inovação, evitando excessos regulatórios e possibilitando que os reguladores ajustem seu arcabouço legal com base nas necessidades do mercado e na compreensão das dinâmicas em evolução.

Seja como for, consultorias globais como o Gartner, por exemplo, recomendam que as organizações implementem um programa de governança de IA para catalogar e categorizar casos de uso de IA e resolver quaisquer instâncias banidas o mais rápido possível.

Isto porque, segundo o vice-presidente analista dessa instituição, Nader Henein, quase todas as organizações estão expostas à Lei de IA porque não são apenas responsáveis pelas capacidades de IA que constroem, mas também pelas capacidades que já adquiriram.

Dessa forma, a primeira ação a tomar seria descobrir e catalogar os recursos habilitados para IA com detalhes suficientes para a avaliação de risco subsequente.

Para isso, é necessário que não só a própria empresa, mas também seus fornecedores e desenvolvedores, realizem a descoberta e listagem de cada sistema habilitado para IA implantado em toda a organização. Isto facilitará a categorização subsequente num dos quatro níveis de risco descritos na lei europeia, por exemplo, que são:  sistemas de IA de baixo risco, sistemas de IA de alto risco, sistemas de IA proibidos e sistemas de IA de uso geral.

Como se vê, é um desafio enorme e deve começar a ser enfrentado de uma forma prática o quanto antes. A governança, tida até então como a letra menos glamourosa na comparação com o social e a sustentabilidade, começa a virar o jogo do mundo ESG. 

Share This Post

Post Comment