Fenômeno batizado de “Shadow AI” cresce nas empresas brasileiras e expõe organizações a riscos que vão além da tecnologia, explica especialista
À medida que a inteligência artificial se consolida no ambiente corporativo, também crescem as preocupações relacionadas ao seu uso. No Brasil, 80% dos líderes afirmam estar preocupados com a utilização de ferramentas de IA externas sem a aprovação da empresa ou da área de TI, de acordo com o estudo global Value of AI, realizado pela SAP em parceria com a Oxford Economics.
O fenômeno recebeu o nome de Shadow AI e descreve o uso de chatbots, assistentes e outras soluções de IA sem conhecimento ou aprovação da área de tecnologia. Levantamento do Gartner mostra que 69% das empresas suspeitam ou já identificaram evidências de uso de ferramentas de IA generativa não autorizadas por seus funcionários. O relatório The State of AI Cyber Security, do Check Point Research, apurou que, a cada 80 prompts enviados a partir de dispositivos corporativos, um continha informações classificadas como de alto risco.
No Brasil, estudo conduzido pela SAP em parceria com a Oxford Economics aponta que 66% das companhias admitem esse tipo de uso com alguma frequência. Ou seja, o que começa como busca por produtividade individual tem se transformado em um problema estrutural, com impacto direto sobre segurança da informação, conformidade regulatória e a consistência dos resultados entregues por projetos que envolvem múltiplas equipes.
Para Marcus Garcia, diretor comercial da Konia Tecnologia, o dado que mais preocupa lideranças de tecnologia é a ausência de estrutura que acompanha essa adoção, mais do que a existência do uso informal em si:
“Quando a IA entra na empresa pela porta dos fundos, sem processo, sem governança e sem alinhamento entre áreas, ela carrega os mesmos riscos de qualquer tecnologia adotada sem planejamento. A diferença está na escala e no tipo de dado envolvido”, explica.
A adoção de baixo para cima, quando cada colaborador decide sozinho quais ferramentas usar e como usá-las, costuma gerar ganhos individuais de produtividade no curto prazo. Sem uma camada de coordenação corporativa, porém, esse movimento fragmenta o conhecimento gerado dentro da empresa, dificulta a padronização de processos entre times e cria pontos cegos justamente onde deveria haver rastreabilidade, no tratamento de dados de clientes, em decisões estratégicas e em código-fonte proprietário.
Garcia observa que o padrão já apareceu em outros ciclos de tecnologia corporativa: “vimos algo parecido com Big Data e com o IBM Watson. A tecnologia chega, parte da empresa passa a usá-la por conta própria, e quando é hora de integrar isso ao restante da operação falta estrutura para sustentar o que foi construído de forma isolada. Com IA generativa, esse ciclo se repete em menos tempo e envolve muito mais gente ao mesmo tempo”, diz.
O impacto, segundo o executivo, não se limita à segurança da informação. Projetos perdem consistência quando parte da equipe apoia decisões em ferramentas de IA e parte não usa nenhuma, ou usa ferramentas diferentes entre si, sem que a organização meça o efeito disso nos resultados entregues ao cliente final.
Bloquear o acesso às ferramentas, na avaliação de Garcia, tende a empurrar o uso para fora do alcance da empresa, sem eliminar o risco. O caminho passa por reconhecer que a demanda já existe entre os times e construir, a partir dela, uma estrutura de governança que aproxime segurança, compliance e áreas de negócio antes que os riscos se materializem.
Sobre Marcus Garcia
Executivo e especialista em inovação tecnológica com mais de 20 anos de experiência no mercado de TI. Como Diretor Comercial da Konia Tecnologia, lidera projetos de transformação digital baseados no ecossistema Microsoft, entregando soluções completas em DevSecOps, automação (RPA), inteligência artificial e desenvolvimento low-code/no-code. Com livros técnicos publicados e dezenas de artigos em veículos como DevMedia, Linha de Código e MSDN Magazine Brasil, Marcus é reconhecido por traduzir a complexidade tecnológica em estratégias eficientes de negócios. Além do trabalho corporativo, é um mentor ativo e criador de treinamentos em TI, investindo na formação de profissionais para que dominem as ferramentas mais avançadas do mercado e gerem impacto direto, mensurável e duradouro.
foto: Image by DC Studio on Magnific
