Sim, você está certo em muitos pontos. IA ter acesso a dados sensíveis como CPF, N. De cartão e etc não é uma vantagem. Sobre o consumo da API, realmente precisa do monitoramento, treinar a IA para identificar que aquele usuário não quer ajuda e sim "Jogar conversa fora" e redirecionar ele para um atendente humano. Sobre benefícios, é sim benéfico, veja o Banco Inter, Nubank e a Hostinger usando o Fin AI da Intercom(usam api da OpenAI) para ajudar clientes com dúvidas mais basicas, isso reduz a fila de atendimento que na maior parte das vezes é apenas pessoas perguntando "SSL Grátis?", "Como instalar wordpress?", "Quero saber mais sobre esse plano", assim permite os operadores terem mais foco em pessoas que realmente precisam de ajuda técnica. Se o seu cliente tem dúvidas em como alterar a senha e precisa de ajuda humana para isso, significa que a sua plataforma não tem um visual "intuitivo" ou fácil de compreender.
Assim, você está certo em muitos pontos, pontos importantes por sinal. Obrigado!