A transformação com a IA generativa é estratégica para empresas de qualquer tamanho. O ganho de produtividade em tarefas simples pode empoderar os funcionários e liberar tempo para atividades mais nobres, criativas e produtivas.
Por isso é importante adotá-la, mas de forma responsável e controlada, para não cair em armadilhas pelas quais já passamos em outros estágios da computação.
Quando a empresa não oferece, o funcionário improvisa
Quando a empresa não oferece IA generativa aos funcionários, eles podem querer usá-la por conta própria e costumam começar pelas versões gratuitas do ChatGPT, do Gemini, do Grok ou até de alguma LLM chinesa.
A maioria das versões gratuitas prevê nos termos de uso que os dados enviados podem ser usados para treinar os modelos. Isso pode expor dados estratégicos e até dados sensíveis, como informações pessoais, o que coloca a empresa em desconformidade com a LGPD (Lei Geral de Proteção de Dados).
No caso de ferramentas hospedadas em outros países, há ainda uma questão de jurisdição: os dados passam a ser armazenados e tratados sob leis diferentes das brasileiras, o que dificulta qualquer pedido de exclusão ou auditoria.
Mesmo quando optam por um plano pago, muitos usuários acabam criando a conta com o e-mail pessoal e instalando o aplicativo também no celular e no computador de casa.
Ao enviar dados da empresa para processamento nessas contas, esses usuários passam a ter acesso a esses dados também fora da empresa. Se a conta for compartilhada com algum familiar, ou mesmo só por estar disponível no computador de casa, pessoas sem vínculo com a empresa podem acessar essas informações.
E quando esse funcionário deixa a empresa, o histórico de conversas, com todos os documentos, planilhas e contratos enviados, vai junto com ele. Não há como a TI revogar o acesso a uma conta que nunca foi da empresa.
Esse fenômeno é conhecido como Shadow AI, e já falamos dele neste outro artigo.
Cada um do seu jeito: alucinações e silos
Outro problema é que cada funcionário adota a ferramenta da forma que acha melhor, sem guardrails (barreiras de proteção que limitam o que a IA pode fazer e responder) e sem cuidados contra alucinações, o que pode gerar documentos com informações falsas.
Além disso, surgem silos de informação muito parecidos com os que existiam nos anos 90: antes de as empresas terem redes de computadores, algumas informações existiam apenas em determinadas máquinas.
Mais recentemente, com o fenômeno Shadow IT, aconteceu algo semelhante. Com fornecedores contratados diretamente pelos departamentos, as informações passaram a ficar espalhadas, acessíveis a poucos, com backup e gestão sem critérios definidos.
Adoção com critério
Para não perder vantagem competitiva, a postura deve ser de adoção com critério. A empresa deve experimentar, com o incentivo da diretoria.
O primeiro passo é oferecer uma alternativa oficial. Os planos corporativos das principais ferramentas (ChatGPT Enterprise, Gemini for Workspace, Microsoft 365 Copilot, Claude for Work, entre outros) em geral não usam os dados dos clientes para treinamento e oferecem login com a conta corporativa (SSO, Single Sign-On), controle de acesso e gestão centralizada. Proibir sem oferecer uma alternativa só empurra o uso para a sombra.
Os treinamentos são uma das formas mais rápidas de absorver e disseminar o conhecimento. Treinamentos personalizados para a área de atuação da empresa podem ser extremamente eficazes.
Os funcionários que se destacarem devem ser os disseminadores.
Juntos, TI e jurídico devem formalizar uma política de uso aceitável de IA, com regras simples e claras: quais ferramentas estão liberadas, que tipo de dado nunca pode ser enviado (dados pessoais de clientes, informações financeiras não públicas, código-fonte proprietário) e a quem recorrer em caso de dúvida.
Empoderamento com responsabilidade
Da mesma forma que os usuários são empoderados, também devem ser responsabilizados. Eles precisam entender que não podem encaminhar diretamente textos, e-mails, planilhas e apresentações gerados pela IA sem uma revisão, sem um toque humano e sem checar fatos e dados.
Também devem entender que, do outro lado, seus trabalhos serão revisados, analisados e resumidos por IA. Um toque humano no lugar certo será percebido pelas pessoas, mas os erros também serão identificados.
Conclusão
A IA veio para ficar, e cabe às empresas adotá-la do jeito certo.
Assim como aconteceu com a nuvem e com o Shadow IT, organizar a adoção desde o início é sempre mais barato do que remediar um vazamento ou uma decisão tomada com base em dados inventados.