O Itaú está trabalhando ativamente no desenvolvimento de uma nova camada de gestão de memória dedicada à ia.i, sua principal assistente de inteligência artificial conversacional voltada para o público. A novidade tecnológica tem como objetivo principal permitir que o próprio cliente tenha total autonomia para escolher quais informações o sistema poderá utilizar durante os atendimentos, além de definir quais conversas a inteligência artificial poderá memorizar ao longo do tempo. O anúncio oficial da ferramenta ocorreu em São Paulo, durante o evento Meetup Itaú Tech, momento em que a instituição financeira também aproveitou para detalhar a estratégia de governança corporativa que aplica atualmente aos seus diversos agentes de inteligência artificial. Essa abordagem unificada combina diferentes frentes de segurança, englobando testes adversariis avançados, mecanismos de proteção conhecidos como guardrails e o monitoramento contínuo das operações tecnológicas. Contudo, até o momento da apresentação oficial do recurso, a diretoria do banco optou por não divulgar nenhuma previsão exata sobre quando a novidade será efetivamente lançada para o público em geral nos canais digitais.
A tecnologia da ia.i foi estruturada para permitir que o usuário interaja diretamente com uma ampla gama de serviços financeiros utilizando exclusivamente a linguagem natural, eliminando a necessidade de depender da navegação tradicional por menus complexos ou telas engessadas dentro do aplicativo oficial do banco. Para funcionar com eficiência, essa assistente inteligente se apoia em uma arquitetura robusta composta por agentes especializados, que realizam consultas a bases de informações e executam tarefas cotidianas diretamente ligadas à vida financeira do usuário. Com a iminente implementação da nova camada de gerenciamento de dados, o cliente também ganhará o poder de decisão sobre o armazenamento ou o esquecimento de informações geradas a partir de interações anteriores com o sistema. Essa inovação deixa evidente uma tensão inerente à própria arquitetura dos sistemas modernos: ao mesmo tempo em que a personalização avançada da experiência do usuário depende estritamente do acesso a dados financeiros detalhados, a proteção rigorosa dessas mesmas informações exige a imposição de limites claros e restritivos para o uso corporativo e algorítmico.
Arquitetura tecnológica e autonomia de dados na inteligência artificial
Para viabilizar essa arquitetura sem comprometer a segurança, a estratégia de inteligência artificial generativa adotada pela instituição financeira aproveita plenamente toda a infraestrutura que o banco já possui consolidadada em termos de segregação de ambientes, controle estrito de acesso e auditorias rigorosas. Sobre essa base sólida de segurança da informação, a equipe técnica acrescenta controles específicos e direcionados para garantir o funcionamento adequado dos agentes autônomos. A personalização do atendimento precisa caminhar lado a lado com a privacidade digital, respeitando a vontade dos titulares das contas correntes e demais produtos financeiros oferecidos pela corporação.
Durante sua participação no painel intitulado “Do contexto à experiência: a nova era da GenAI”, Fayner Felicio, superintendente de Produtos Digitais e Estratégia com IA Generativa do Itaú, destacou a importância fundamental de colocar o controle nas mãos dos usuários finais. O executivo resumiu essa premissa durante o evento ao afirmar textualmente: “Tenho que dar autonomia para cada um desses clientes escolher como e quais dados querem que serem usados”. Essa visão coloca a transparência e o consentimento do consumidor no centro do desenvolvimento de ferramentas baseadas em inteligência artificial conversacional no mercado financeiro brasileiro.
O desafio técnico reside em equilibrar a conveniência dos assistentes virtuais inteligentes com a exigência regulatória e ética de resguardar o sigilo bancário. Enquanto a inteligência artificial precisa contextualizar o histórico financeiro para oferecer respostas úteis, ágeis e assertivas, o cliente deve manter o direito soberano de apagar rastros e limitar o escopo de memória do assistente. Essa dinâmica redefine a forma como os aplicativos bancários interagem com o público, migrando de uma interface puramente transacional para uma experiência conversacional profundamente personalizada, mas rigidamente delimitada por escolhas individuais de privacidade.
Governança contínua e os novos desafios na avaliação de riscos
A chegada dos modelos generativos de inteligência artificial ao ecossistema corporativo alterou de forma definitiva a maneira tradicional de avaliar riscos tecnológicos, uma vez que esse tipo de tecnologia não produz respostas estáticas ou totalmente previsíveis. Para lidar com essa volatilidade inerente aos algoritmos de linguagem natural, a governança corporativa precisa evoluir para acompanhar o dinamismo dos sistemas em tempo real. A adoção de metodologias estáticas já não atende às demandas de um ambiente tecnológico em constante mutação, exigindo ciclos contínuos de verificação e aprimoramento interno.
Bárbara Correia, gerente de IA Responsável e Privacidade de Dados do Itaú, explicou detalhadamente a necessidade dessa mudança de paradigma durante as discussões técnicas apresentadas no encontro corporativo. A especialista detalhou o conceito de adaptação contínua ao declarar exatamente: “A governança precisa se tornar cíclica. Não funciona mais chegar com um projeto, fazer uma avaliação, emitir um parecer de risco e seguir aquelas condicionantes”. Essa perspectiva demonstra que o acompanhamento da inteligência artificial deve perdurar por todo o ciclo de vida da aplicação, desde a concepção inicial até o uso cotidiano pelos clientes do banco em larga escala.
Para estruturar essa vigilância constante, a instituição financeira divide o seu modelo de controle em três frentes operacionais complementares: a realização de testes rigorosos, a implementação de mecanismos robustos de proteção e o monitoramento ininterrupto das atividades. O objetivo central dessa metodologia integrada é conseguir identificar e corrigir eventuais falhas comportamentais ou técnicas antes mesmo que o problema chegue a impactar a experiência do usuário final. Além disso, o acompanhamento pós-implantação assegura que os agentes autônomos continuem operando dentro dos parâmetros de conformidade esperados pela organização e pelas normativas do setor.
Metodologia de testes adversariais e a classificação dinâmica de dados
Como parte fundamental da frente de testes em busca de vulnerabilidades, a equipe de tecnologia do banco emprega a prática de AI red team. Nesse processo estruturado, equipes internas especializadas assumem um papel deliberadamente provocativo, tentando induzir os agentes de inteligência artificial a fornecer informações inadequadas, a ignorar instruções fundamentais de segurança ou a responder estritamente fora de sua finalidade original de negócio. A intenção é forçar o sistema a revelar pontos fracos em ambiente controlado antes que explorações reais ocorram.
A dinâmica por trás dessa estratégia de estresse tecnológico foi detalhada por Bárbara Correia, que resumiu a abordagem da equipe ao afirmar: “Queremos fazer a tecnologia se comportar da pior forma possível”. As falhas, desvios e comportamentos indesejados descobertos durante essas simulações intensivas são imediatamente catalogados e convertidos em novos dados de aprendizado. Essas informações alimentam diretamente os guardrails, que funcionam como barreiras e limites algorítmicos rigorosos que regem o comportamento dos agentes inteligentes em produção. Na instituição, tais controles abrangem desde o estrito cumprimento das regras negociais até a manutenção de um tom de voz adequado para as aplicações, enquanto o monitoramento contínuo aponta exatamente onde novos ajustes se fazem necessários.
O reexame de informações ao integrar agentes autônomos
Outro ponto crítico levantado pelos especialistas durante o evento diz respeito ao tratamento dado às informações corporativas e dos clientes quando inseridas em ambientes impulsionados por inteligência artificial. A especialista defendeu categoricamente que a classificação tradicional de um dado não pode mais ser tratada como um status definitivo e imutável. Uma informação que já foi catalogada anteriormente considerando critérios tradicionais de confidencialidade, finalidade específica e regras estritas de acesso acaba ganhando usos totalmente novos e imprevistos no momento exato em que ingressa no ecossistema de um agente autônomo de IA.
Isso acontece porque o agente inteligente possui a capacidade analítica de cruzar essa informação com inúmeros outros dados disponíveis na base, inferindo conclusões complexas que jamais estiveram registradas de maneira explícita na base documental original. Cruzando dados variados de vendas, despesas corporativas e contratos vigentes, por exemplo, o sistema pode deduzir com precisão a real situação financeira de uma empresa sem que jamais tenha recebido um relatório financeiro tradicional para esse fim. Sobre essa complexidade analítica, a gerente destacou: “Quando o dado passa a integrar um agente, um cenário agêntico, ele precisa ser reavaliado. Precisa passar por etapas de avaliação que vão desde um sistema, um agente avaliando, até seres humanos avaliando”.
Com o rápido crescimento no volume de aplicações baseadas em inteligência artificial dentro das corporações, essa revisão minuciosa não pode depender exclusivamente de análises manuais, lentas e centralizadas. Por esse motivo, parte significativa dos controles operacionais precisa ser totalmente automatizada e integrada nativamente às plataformas tecnológicas. Dessa maneira, os casos considerados de menor risco seguem fluxos padronizados e céleres, enquanto as situações mais sensíveis recebem camadas adicionais de avaliação humana especializada.
O equilíbrio delicado entre controle excessivo e utilidade da tecnologia
Apesar da necessidade premente de segurança, a governança de inteligência artificial também precisa encontrar um ponto de equilíbrio financeiro e prático entre a proteção corporativa, os custos operacionais envolvidos e a utilidade real da ferramenta para o negócio. Um agente de inteligência artificial que seja excessivamente restritivo acaba falhando ao ponto de deixar de responder até mesmo a solicitações e pedidos legítimos feitos pelos usuários legítimos da plataforma digital.
Nesse cenário de restrição exagerada, embora a organização continue rigorosamente protegida contra vazamentos e desvios graves, ela acaba perdendo o benefício principal e a eficiência operacional que esperava obter ao adotar a tecnologia inovadora. O segredo para o sucesso na gestão de agentes inteligentes reside justamente na calibragem fina dessas barreiras, permitindo a inovação sem abrir mão da segurança cibernética e da privacidade rigorosa dos dados dos clientes.
