Segurança de Dados: O Maior Desafio na Adoção da IA nas Empresas

Desafios da Segurança em IA

A adoção da inteligência artificial (IA) nas empresas enfrenta um entrave crucial: a segurança dos dados. Segundo um relatório global da Hitachi Vantara, a estruturação de dados, a governança e a infraestrutura são os três pilares que mais preocupam os executivos durante a implementação dessa tecnologia. Com a popularização da IA generativa, a cibersegurança tem sido ameaçada pela ausência desses elementos, um problema que tende a se agravar com a chegada dos agentes de IA.

Shane Gibson, especialista técnico sênior para as Américas na Hitachi Vantara, alerta que a implementação desses agentes pode trazer riscos inesperados, já que eles podem agir com consequências não intencionais se não forem monitorados continuamente. Além disso, há um equívoco significativo sobre o funcionamento dessas ferramentas, o que reforça a necessidade de maior cuidado.

Vulnerabilidades e Uso Acelerado

Empresas têm demonstrado uma confiança excessiva nos resultados produzidos pela IA, movidas pelo entusiasmo em torno da tecnologia. Essa pressa em incorporar soluções, muitas vezes sem necessidade real, tem aberto portas para novas vulnerabilidades. O relatório destaca que, em cerca de 91% dos casos, os agentes ainda apresentam fenômenos de “alucinação”, produzindo informações incorretas. Paralelamente, 76% dos dados corporativos são não estruturados — justamente o tipo de dado mais explorado pelas aplicações de IA.

No Brasil, a situação apresenta nuances diferentes. O país vive uma digitalização rápida, muitas vezes sustentada por sistemas legados e ambientes heterogêneos. Entretanto, os executivos brasileiros são vistos como mais conservadores nesse cenário. Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, observa que os gestores locais buscam uma análise minuciosa antes de investir, demonstrando cautela diante dos custos iniciais e dos estudos disponíveis até o momento.

Educação e Capacitação como Caminho para Mitigar Riscos

Para os especialistas, o uso responsável da IA depende diretamente da educação dos usuários, que precisam entender como essa tecnologia funciona e quais são as implicações do seu uso. Essa capacitação demanda tempo e planejamento, aspectos que Gibson acredita estarem sendo negligenciados. Ele reforça a importância de definir claramente os objetivos com a IA, conhecer os riscos envolvidos e evitar pressa na implementação.

Segurança em Alta nas Prioridades Corporativas

O relatório também indica que a segurança de dados se tornou a principal preocupação das lideranças, com 56% apontando o tema como o maior desafio na adoção da IA — um aumento de 19 pontos percentuais em comparação ao ano anterior. Esse cenário tem impactado diretamente o uso dos modelos de linguagem de grande escala (LLMs), como ChatGPT e Copilot, que registraram queda na percepção de sucesso, de 95% para 81%.

Em contrapartida, cresce o investimento em governança e qualidade dos dados. A proporção de empresas que aprimoram os dados para treinamento subiu de 39% para 49%, a adoção de frameworks de governança avançou de 32% para 45%, e auditorias regulares passaram de 36% para 44%. Organizações sem estratégias de explicabilidade dos modelos diminuíram de 42% para 24%.

Governança e Inovação Andam Juntas

Gibson ressalta que, embora a IA tenha apresentado resultados promissores, problemas como as alucinações e o retorno sobre investimento (ROI) abaixo do esperado evidenciam riscos para os negócios. A inteligência artificial não é determinística, o que exige atenção constante.

Por outro lado, ele e Wick enfatizam que governança e segurança não devem ser encaradas como barreiras ao avanço tecnológico, mas como condições para que a inovação aconteça de maneira segura e eficiente. Gibson projeta um futuro em que interfaces únicas permitirão solicitar resultados diretamente, tornando o processo mais simples e integrado. Para isso, é fundamental que as empresas se organizem e estruturarem a segurança antes de avançar na adoção da tecnologia.