No ano passado, um viajante aéreo em luto perguntou ao chatbot da Air Canada sobre as tarifas de luto. O bot inventou uma política de reembolso que não existia. O cliente agiu, a companhia aérea foi parar na Justiça e a história se tornou viral. O tribunal rejeitou o argumento da Air Canada de que o seu chatbot era uma “entidade jurídica separada” responsável pelas suas próprias ações e condenou a companhia aérea a pagar uma indemnização.
Esse incidente é agora um conto de advertência para todas as marcas que ampliam a IA nas comunicações com os clientes. E uma nova pesquisa da plataforma de comunicação com o cliente Sinch sugere que está longe de ser um caso isolado.
Cerca de 74% das empresas já foram forçadas a reverter um agente de IA implantado devido a falhas de governança, de acordo com PecadoRelatório “AI Production Paradox” do ch. Aqui está a diferença: as empresas com as proteções mais maduras, aquelas que investiram mais pesadamente em conformidade, protocolos de segurança e supervisão, retrocederam a uma taxa ainda maior de 81%. As equipes que fazem o máximo para evitar falhas estão falhando com mais frequência, e não menos.
“Se a governança fosse a solução, as equipes mais maduras recuariam menos, e não mais”, disse Daniel Morris, diretor de produtos da Sinch. “As equipes de engenharia estão gastando a maior parte do tempo construindo e mantendo sistemas de segurança, em vez de se concentrarem na melhoria da experiência do cliente. Essa é a taxa de proteção que atrasa as organizações.”
O impacto do imposto de proteção
Para as equipes de marketing, esse imposto de proteção tem um custo direto. Cada hora que a engenharia gasta na reconstrução da infraestrutura de segurança é uma hora que não é gasta nas melhorias da experiência do cliente que geram receita.
A Air Canada não está sozinha. O chatbot de uma concessionária de automóveis concordou em vender um Chevy Tahoe por US$ 1 após uma pegadinha. Um bot de suporte de IA na startup de codificação Cursor inventou uma política de login inexistente, desencadeando uma onda de cancelamentos de clientes. O bot de uma empresa de entrega xingou um cliente e escreveu um poema destruindo seu próprio empregador. Cada incidente se tornou viral. Cada um danificou uma marca. E cada um deles ajuda a explicar a descoberta da Sinch de que três em cada quatro empresas já reverteram um agente de IA implantado.
A Sinch entrevistou 2.527 tomadores de decisão empresariais em 10 países e seis setores. As descobertas que mais importam para os profissionais de marketing:
- 62% das empresas já possuem agentes de comunicação de IA em produção e 88% esperam implantar um dentro de 12 meses. A pressão para implantar é intensa.
- 74% foram forçados a reverter um agente implantado devido a falhas de governança. Três em cada quatro organizações de marketing já sentiram a dor de uma implementação de IA que teve de ser desfeita.
- 84% das equipes gastam pelo menos metade do seu tempo de engenharia reconstruindo a infraestrutura de segurança do zero. Essa é a capacidade de engenharia que poderia ser direcionada para personalização, expansão de canais e otimização de campanhas.
- Quando um agente de IA falha, 35% do impacto cai na fila de suporte. Quase a mesma percentagem, 34%, depende da percepção da marca – e essa é mais difícil de reparar.
A qualidade da infraestrutura foi o preditor mais forte do sucesso da implantação, concluiu o estudo, superando a escolha do modelo, o tamanho da equipe e o orçamento. No entanto, a maioria das organizações afirma que o seu atual fornecedor é insuficiente em pelo menos uma área crítica.
Os agentes de comunicação com o cliente de IA lidam com as conversas dos clientes em grande escala: chatbots em sites, agentes de voz em contact centers, respondedores automatizados de SMS e e-mail e plataformas omnicanal que roteiam e respondem entre canais. Eles variam de simples bots de perguntas frequentes a agentes sofisticados que autenticam usuários, processam transações e personalizam respostas com base no histórico do cliente.
A pesquisa de Sinch rastreia agentes já em produção, e não pilotos ou experimentos internos. Esses são sistemas nos quais os profissionais de marketing confiam todos os dias, onde uma falha significa clientes frustrados, tempos de espera mais longos e danos à marca que se espalham em minutos.
Escolher a base errada é o risco real
Jayashree Iyangar, líder global de dados CX e IA da HGS, uma empresa de experiência digital, disse que as descobertas correspondem ao que ela vê em campo. Os profissionais de marketing já passaram da fase piloto, observou ela, e o verdadeiro desafio está nas operações.
“A questão principal é como a IA pode ser orquestrada perfeitamente em vários canais, e não se pode ser implantada em um só”, disse Iyangar.
Ela ressaltou que o perfil de risco varia significativamente de acordo com o caso de uso. Um chatbot de marketing que se atrapalha com uma oferta promocional tem menos peso do que um agente de serviço que lida mal com uma questão delicada de faturamento. “A supervisão humana permanece central em ambientes de serviços onde o risco de impacto negativo no cliente é maior”, disse ela. “É também aí que vemos mais casos de reversões de IA.”
Seus clientes pesquisam em qualquer lugar. Certifique-se de que sua marca aparece.
O kit de ferramentas de SEO que você conhece, além dos dados de visibilidade de IA de que você precisa.
Comece o teste gratuito
Comece com
A sua opinião sobre a infra-estrutura reflecte a conclusão central de Sinch. “Uma parte significativa do esforço está sendo gasta na construção e manutenção de sistemas de segurança, em vez de na melhoria da experiência do cliente”, disse ela. Ela está vendo organizações se consolidarem em torno de equipes centralizadas de governança de IA que lidam com confiança, conformidade e segurança separadamente dos próprios casos de uso de IA.
Três movimentos que os profissionais de marketing podem tomar agora
Para as equipes de marketing, o estudo aponta três movimentos práticos.
- Deixe a infraestrutura orientar sua decisão de fornecedor. A qualidade da infraestrutura prevê o sucesso da implantação mais do que qualquer outra variável nos dados do Sinch. Ao avaliar os fornecedores, pergunte sobre a engenharia de proteção, a orquestração entre canais e até que ponto sua equipe absorverá a carga de segurança. A plataforma certa cuida da maior parte do trabalho de segurança, para que sua equipe possa se concentrar na experiência do cliente.
- Planeje o imposto de proteção em seu roteiro. Os sistemas de segurança não são um custo único de configuração. Eles consomem recursos contínuos de engenharia que, de outra forma, seriam dedicados a melhorias de CX. Faça um orçamento para essa realidade desde o início, em vez de observar seu cronograma escorregar quando ocorrerem reversões.
- Pressionar por uma função de governação separada. A observação de Iyangar sobre equipes centralizadas de governança de IA alinha-se diretamente com os dados. Manter os casos de uso de IA e a engenharia de governança separados reduz a sobrecarga. O marketing não deve possuir infraestrutura de segurança. Deve fazer parceria com uma função de governança dedicada que lide com confiança, conformidade e segurança, liberando o marketing para se concentrar no trabalho que afeta diretamente os clientes.
