Quarenta por cento das organizações que utilizam Inteligência Artificial (IA) irão implementar ferramentas dedicadas de observabilidade de IA até 2028 para monitorar desempenho, vieses e resultados dos modelos, de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia.
“A IA está em toda parte, mas a maioria das organizações ainda está tentando descobrir como monitorar e confiar nesses sistemas”, diz Padraig Byrne, Vice-Presidente Analista do Gartner. “Essa lacuna de visibilidade torna a expansão arriscada e é por isso que a observabilidade é importante. Ao contrário do software tradicional, a tomada de decisão da IA costuma ser oculta, tornando-a difícil de explicar ou confiar, mas os erros podem causar perdas financeiras substanciais, danos à reputação e escrutínio regulatório.”
O Gartner define observabilidade como a característica de softwares e sistemas que permite que eles sejam compreendidos com base em seus resultados e que possibilita responder a perguntas sobre seu comportamento. A observabilidade da IA requer ferramentas dedicadas que gerenciem e avaliem o comportamento, a tomada de decisões e os riscos de uma solução de Inteligência Artificial, como desvio de modelo (model drift), viés e lógica de Grande Modelo de Linguagem (LLM).
“A migração para ferramentas especializadas de observabilidade de IA está acelerando devido à preocupação dos executivos com a gestão de riscos em modelos complexos de Inteligência Artificial e IA agêntica, não apenas em relação à integridade da infraestrutura ou das aplicações”, diz Byrne. “Há uma necessidade crescente de detecção preditiva de problemas e de insights práticos em tempo real nos modelos de IA. A não adoção dessas ferramentas expõe as organizações a riscos significativos de governança.”
De acordo com uma pesquisa do Gartner, a observabilidade da IA também inclui a capacidade de monitorar a disponibilidade, o desempenho e a precisão das plataformas de Inteligência Artificial, indo além dos aspectos de risco e confiança, o que se torna essencial conforme as empresas dependem cada vez mais de resultados orientados por IA para a tomada de decisões.
“Sem uma telemetria de modelos clara e padronizada, as equipes de infraestrutura e operações (I&O) enfrentam tempos prolongados de resolução de incidentes para aplicações de IA, o que exigirá esforços manuais complexos para rastrear e depurar os comportamentos de modelos opacos de deep learning”, diz Byrne. “A observabilidade de IA dedicada fornece os mecanismos necessários para monitorar e mitigar o risco algorítmico, estabelecendo a base técnica para a ampla confiança e adoção da Inteligência Artificial nas empresas.”
O Gartner recomenda que os líderes de I&O incluam as seguintes etapas em suas estratégias de plataforma de IA:
1. Estabelecer políticas obrigatórias de monitoramento de modelos de IA para todas as implementações em produção, exigindo o acompanhamento contínuo de métricas de imparcialidade, desvio e qualidade dos dados.
2. Padronizar as estruturas de monitoramento entre as equipes de ciência de dados, MLOps e engenharia para garantir consistência e controle. Isso mitiga os silos organizacionais e agiliza a resolução de problemas.
3. Priorizar infraestruturas capazes de ingerir e analisar telemetria de modelos em grande volume, com foco em soluções especializadas que suportem o rastreamento distribuído de chamadas de inferência de IA.
4. Garantir que as estratégias de TI incluam provisões para o monitoramento futuro do desempenho da plataforma de IA, detecção de atividades de shadow IT e gestão de custos para enfrentar esses desafios conforme a tecnologia amadurece.
Os clientes da Gartner podem ler mais no relatório “Predicts: AI will unlock Observability at Scale”. Saiba como acelerar a transformação digital integrando IA, otimizando custos de Nuvem e construindo uma infraestrutura resiliente no roadmap gratuito do Gartner “Boost Your I&O Leadership: Proven Tactics to Align CIO Priorities”.
Gartner é a autoridade mundial em IA
O Gartner é o parceiro indispensável para executivos C-Level e fornecedores de tecnologia à medida que implementam estratégias de IA para alcançar suas prioridades de missão crítica. A independência e a objetividade dos insights do Gartner proporcionam aos clientes a confiança necessária para tomar decisões bem fundamentadas e desbloquear todo o potencial da IA. Clientes C-Level estão usando a ferramenta de IA do Gartner AskGartner para definir como aproveitar a IA em seus negócios. Com mais de 2.500 especialistas em negócios e tecnologia, 6.000 insights escritos, além de mais de 1.000 casos de uso e estudos de caso de IA, o Gartner é a autoridade mundial em IA. Mais informações podem ser encontradas aqui.
Sobre o Gartner for Infrastructure & IT Operations Leaders
O Gartner for Infrastructure & IT Operations Leaders ajuda os gestores de I&O a reinventar a forma como entregam valor para os negócios. Mais informações estão disponíveis em https://www.gartner.com/en/infrastructure-and-it-operations-leaders. Acompanhe as notícias e atualizações do Gartner for Infrastructure & IT Operations Leaders no X e no LinkedIn. Visite a Sala de Imprensa do Gartner para obter mais informações e insights.
Imagem: https://pt.vecteezy.com/arte-vetorial/1409667-holograma-inteligencia-artificial-design
