Para muitas empresas, o comboio da IA está a avançar a toda a velocidade. Muitas empresas optam, por exemplo, por trabalhar com o Copilot para implementar IA e apoiar os colaboradores. Ao mesmo tempo, muitas empresas proíbem os seus colaboradores de partilhar informações sensíveis com LLMs públicos, pois, caso contrário, essas informações podem acabar nas mãos de uma entidade externa.
RAG (Retrieval-Augmented Generation)
Mas como aplicar a IA de forma segura dentro de uma empresa? Idealmente, os colaboradores devem poder consultar informações da empresa de forma rápida e fiável, sem que os dados sensíveis saiam da organização. Normalmente, isto não é resolvido através do treino de um modelo com documentos internos (o que é dispendioso e não garante respostas fiáveis e verificáveis). Em vez disso, utiliza-se RAG (Retrieval-Augmented Generation): os documentos internos são tornados pesquisáveis e, quando é feita uma pergunta, o sistema recupera os trechos relevantes para os fornecer como contexto a um modelo de linguagem.
Implementar IA de forma híbrida: pesquisa local, formulação externa
Para esta pesquisa, pode ser utilizado um modelo de linguagem open source, alojado localmente e gerido pela própria organização (nesse caso, os dados sensíveis nunca saem do ambiente da empresa). Para a etapa final de “compreensão” e formulação da resposta, pode então ser utilizada uma API externa (como GPT ou Claude), desde que apenas sejam enviados fragmentos de contexto que não permitam identificar dados sensíveis ou que já tenham sido previamente aprovados. Desta forma, cria-se uma abordagem híbrida que permite poupar custos em comparação com um sistema totalmente alojado internamente, mantendo, ao mesmo tempo, o controlo sobre os dados que são partilhados externamente. Isto traduz-se em ganhos ao nível da soberania digital.
Ao escolher um modelo de linguagem open source, é importante verificar como este foi treinado, quão transparentes são os seus criadores relativamente aos dados de treino e à licença, e como a qualidade dos resultados será avaliada de forma sistemática.
Quer fazer esta ponderação para a sua própria organização? Os nossos Serviços de consultoria em IA ajudam na escolha do modelo e na avaliação de fornecedores, com uma tarifa pública de 175 € por consultor e por hora. A abordagem híbrida deste artigo é exatamente a forma como funciona o Assistente de IA para o espaço de trabalho: um modelo à sua escolha, sobre os seus próprios documentos, dentro da UE. Quer saber mais? Entre em contacto connosco.
