A Targa Telematics acaba de pôr a funcionar um sistema de inteligência artificial para os seus programadores que tem uma particularidade importante: fica todo dentro de casa. Nada sai para clouds públicas ou serviços de terceiros. A empresa, que se dedica a soluções digitais para a mobilidade conectada, desenvolveu esta plataforma em parceria com o Gruppo Zenit e a Hewlett Packard Enterprise, e o resultado está à vista: nas primeiras sete semanas, cerca de 150 engenheiros fizeram 30 mil pedidos à plataforma, que processou mais de 3,4 mil milhões de tokens e gerou 65 milhões de tokens de respostas.
A ideia por trás do projecto é simples de explicar: a IA generativa está a tornar-se uma ferramenta do dia-a-dia de quem programa, mas há uma preocupação crescente com a fiabilidade, a segurança e a integração com os sistemas que já existem. A solução encontrada pela Targa Telematics passa por usar modelos de IA open-weight — modelos abertos, que podem ser executados localmente — e correr tudo na infraestrutura da própria empresa. Ou seja, o processo de inferência acontece todo lá dentro, sem que nenhum dado ou informação proprietária tenha de sair para fora.
Esta abordagem permite à empresa beneficiar do ritmo de inovação do ecossistema de código aberto, mas sem abrir mão do controlo sobre os seus activos de informação, da governação dos modelos e da possibilidade de os personalizar conforme as necessidades do negócio. É, de certa forma, o melhor dos dois mundos: inovação com protecção de dados.
Carlo Stefanelli, CTO da Targa Telematics, explica a motivação por trás da iniciativa. «A IA generativa está a tornar-se, cada vez mais, uma ferramenta do dia-a-dia dos nossos programadores. Assim, queríamos criar um ambiente de desenvolvimento totalmente instalado na nossa própria infraestrutura, mantendo o controlo absoluto sobre o nosso código, os nossos dados e o nosso conhecimento tecnológico», afirma. «Uma abordagem on-premise, baseada em modelos open-weight, é fundamental para garantir que toda a informação permanece integralmente no ambiente da empresa, permitindo-nos promover a inovação sem comprometer a segurança nem o controlo dos dados.»
A plataforma não serve apenas para programar. Funciona também como assistente de IA e, ao executar os modelos de linguagem de grande dimensão no ambiente interno, garante que a informação nunca sai do perímetro da empresa. Isto é particularmente relevante numa altura em que as exigências regulamentares e de mercado em matéria de soberania dos dados, cibersegurança e conformidade são cada vez maiores. Ao mesmo tempo, mantém-se a flexibilidade necessária para experimentar novos modelos de IA.
O Gruppo Zenit, fornecedor de serviços de gestão de TI especializado em infraestruturas de centros de dados e redes de elevado desempenho, contribuiu para a concepção de uma infraestrutura robusta, centrada na segurança, na continuidade do negócio e na governação dos dados a longo prazo. A HPE disponibilizou a capacidade de computação necessária para executar os processos de inferência e as ferramentas para garantir que o ambiente on-premise é fiável, escalável e gerido de forma segura.
«A IA só pode gerar valor quando a infraestrutura que a suporta é concebida para garantir segurança, escalabilidade e facilidade de gestão. O nosso papel é apoiar as empresas no desenvolvimento de ecossistemas onde a inovação e a protecção de dados possam crescer e evoluir em conjunto. O projecto que desenvolvemos com a Targa Telematics demonstra como a experimentação com IA pode ser transformada numa plataforma preparada para impulsionar a evolução do negócio», afirma Giuseppe Barbera, CEO do Gruppo Zenit.
Os números das primeiras sete semanas mostram que a solução foi rapidamente adoptada pelas equipas de desenvolvimento. A robustez da infraestrutura on-premise fica também evidente pela quantidade de pedidos processados. Com este projecto, a Targa Telematics reforça as suas competências em IA generativa e cria um modelo de infraestrutura que poderá ser replicado em futuros casos de utilização.
