RixBlog

Governança de IA: Apenas 13% das Empresas Possuem Estrutura Segura para Controle de Agentes

À medida que os agentes de inteligência artificial conquistam maior autonomia operacional, o ambiente corporativo enfrenta um dilema crítico sobre governança e responsabilização. Um levantamento recente realizado pela SmartX, que ouviu 2.100 executivos, revela um cenário alarmante: apenas 13% das organizações detêm as bases de governança essenciais para implementar a tecnologia de maneira segura e estratégica.

A pesquisa destaca que o controle humano sobre a IA ainda é incipiente. Somente 29% das empresas possuem um plano estratégico formalizado para a área. Em contrapartida, 32% dos entrevistados admitem que suas instituições carecem de estruturas fundamentais, como políticas de ética, diretrizes de IA de primeira geração ou órgãos de supervisão dedicados.

A Necessidade de um Comando Centralizado

Tayloe Radey, diretora de pesquisa da SmarterX e autora do relatório, enfatiza que a ausência de uma liderança clara compromete a eficácia da tecnologia. Segundo ela, “alguém precisa liderar e decidir quais ferramentas a organização usa, como elas são implementadas, quem é treinado e quais medidas de segurança são tomadas. Sem essa responsabilidade, mesmo as melhores intenções em relação à IA tendem a estagnar ou dar errado”.

Atualmente, a tomada de decisão sobre o tema está dividida: 59% das empresas delegam a palavra final à liderança executiva, enquanto 31% confiam essa incumbência aos gestores de tecnologia.

Para garantir que sua empresa opere com a máxima estabilidade e segurança nesse cenário de incertezas, a RIX CLOUD oferece soluções de infraestrutura robustas. Conheça nossos serviços de hospedagem corporativa e proteja seus dados críticos.

Fragilidades na Atribuição de Responsabilidades

Maribel Lopez, fundadora da Lopez Research, identifica a dificuldade em atribuir responsabilidades como uma das maiores vulnerabilidades das empresas saturadas por IA. Em debate mediado por Jo Peterson, CIO da Clarify360, Lopez defendeu que os líderes devem manter, no mínimo, o poder de veto sobre as ações das máquinas.

A especialista aponta que as práticas de governança, quando existem, são frequentemente inconsistentes e fragmentadas entre setores como o jurídico e o RH. Além disso, a escassez de profissionais capacitados para monitorar a tecnologia agrava o risco operacional.

“É preciso ter a opinião de diferentes grupos dentro da organização sobre como uma política de IA poderia ser estruturada”, afirma Maribel. “Mas alguém precisa estar no comando e questionar as atitudes e funcionalidade dos agentes.”

Velocidade da Evolução e Segurança em SaaS

O ritmo acelerado da evolução tecnológica é outro fator de complicação. Lopez ressalta que o ambiente é extremamente dinâmico, com mudanças significativas a cada dois meses e fornecedores de modelos frequentemente rompendo padrões estabelecidos. Por isso, a IA não deve ser vista como algo que se “configura e esquece”.

Como estratégia de mitigação, a pesquisadora sugere que as empresas priorizem aplicativos SaaS que já integram camadas de identidade, segurança e permissões, as quais podem ser expandidas para os agentes de IA. Com a proliferação massiva da tecnologia, torna-se inviável que humanos revisem cada transação isoladamente, exigindo um planejamento rigoroso desde o princípio.

A RIX CLOUD pode auxiliar sua empresa nessa jornada de transformação digital com consultoria especializada e servidores de alta performance. Fale com nossos especialistas e prepare sua infraestrutura para a era da inteligência artificial.

Post anterior
Próximo post