O imposto do “recurso de IA”: quando a IA piora um produto

Nem todo produto precisa de IA. Na verdade, às vezes colocar IA pode piorar um produto que estava ótimo.

Essa é a parte do boom da IA de que a gente não fala o suficiente. Um recurso pode ser mais inteligente, mais avançado e mais impressionante numa demo — e ainda assim criar uma experiência pior para quem de fato usa.

Teve uma época em que adicionar um recurso novo a um produto geralmente significava adicionar algo útil. Uma busca melhor, um checkout mais rápido, um jeito novo de organizar informação ou um recurso que resolvia um problema de que os usuários já reclamavam.

Aí chegou a IA.

De repente, quase todo produto tinha a chance de ganhar um recurso de IA. Assistentes de escrita apareceram nos apps de e-mail. Resumos com IA surgiram nas ferramentas de reunião. Chatbots foram parar nos softwares de atendimento ao cliente. Apps de produtividade começaram a sugerir o que o usuário deveria fazer em seguida.

E, sinceramente, alguns desses recursos são úteis de verdade.

Mas existe um problema crescente no jeito como a IA está sendo adicionada aos softwares. Às vezes, a pergunta não é “Que problema a IA pode resolver para os nossos usuários?”. É “Onde dá para colocar IA no nosso produto?”.

Essa pequena diferença pode levar a um produto surpreendentemente ruim.

IA não é melhoria automática

Colocar IA num produto não deixa o produto mais inteligente automaticamente. Imagine um app de notas que já deixa você buscar nas suas anotações em um segundo. Agora imagine adicionar um chatbot de IA em que você pergunta ao app o que escreveu seis meses atrás.

Parece impressionante.

Mas, se o chatbot demora mais para responder, às vezes entende errado a sua pergunta ou dá uma resposta sem mostrar exatamente de onde veio a informação, a experiência pode acabar sendo pior do que simplesmente buscar nas suas notas.

O recurso de IA é mais avançado. O produto não é necessariamente melhor.

Esse é o imposto do recurso de IA: a complexidade, o custo, a incerteza e o atrito para o usuário que vêm junto quando se coloca IA onde um software tradicional talvez já funcionasse bem.

O jeito antigo era previsível

O software tradicional é, em grande parte, determinístico. Você clica num botão, algo acontece. Você digita uma senha, o sistema confere. Você busca uma palavra, o sistema encontra resultados correspondentes.

Os usuários aprendem esses padrões rápido porque o software se comporta de forma consistente.

A IA é diferente. Faça a mesma pergunta duas vezes e você pode receber duas respostas diferentes. Passe uma informação um pouco diferente e ela pode interpretar o seu pedido de outro jeito. Às vezes ela acerta. Às vezes erra com toda a confiança.

Isso não é necessariamente um defeito da IA. Faz parte de como sistemas probabilísticos funcionam.

Mas cria um problema de design difícil. Os usuários continuam esperando que o software se comporte como software.

Se um recurso de IA vai fazer uma recomendação, resumir algo, gerar conteúdo ou executar uma ação em nome do usuário, o produto precisa comunicar o que a IA está fazendo e o que o usuário pode esperar dela.

Senão, a imprevisibilidade vira problema do usuário.

Mais inteligência pode significar mais trabalho

Uma das promessas da IA é reduzir esforço. Mas recursos de IA mal pensados podem criar outro tipo de trabalho.

Suponha que um aplicativo gere automaticamente o resumo de uma reunião. Parece ótimo. Você economiza tempo.

Só que agora você precisa ler o resumo com atenção, porque não tem certeza absoluta de que ele não deixou passar algo importante. Talvez precise comparar com a transcrição original. Talvez precise corrigir alguns erros antes de compartilhar com a equipe.

A tarefa não sumiu. Parte do trabalho só mudou de lugar: saiu de fazer a tarefa e foi para conferir se a IA fez a tarefa direito.

Isso pesa ainda mais em situações em que a precisão importa.

Um rascunho gerado por IA pode poupar tempo de quem escreve, porque dá para editar. Mas um relatório financeiro, um documento jurídico ou uma configuração técnica gerados por IA exigem um nível de confiança bem diferente.

Quanto menos a tarefa tolera erros, mais cara fica a incerteza da IA.

O problema da “IA em todo lugar”

Outro problema é que recursos de IA podem começar a aparecer em todo canto só porque os usuários se acostumaram a ver o selo de IA.

Um botão “Pergunte à IA” é adicionado ao painel. Depois aparece outro dentro da página de busca. Depois tem um assistente de IA nas configurações. Depois uma recomendação gerada por IA aparece na página inicial.

Uma hora o produto começa a parecer que está o tempo todo tentando puxar conversa com você.

Mas nem toda interação precisa de uma conversa.

Às vezes o usuário só quer clicar num botão. Às vezes quer um filtro. Às vezes quer uma caixa de busca. Às vezes quer uma configuração que faça exatamente o que diz.

A melhor experiência com IA talvez seja aquela em que o usuário mal percebe que tem IA envolvida.

A IA deve tirar atrito, não criar mais uma camada

Os recursos de IA mais úteis costumam ter algo em comum: eles se encaixam naturalmente num fluxo de trabalho que já existe.

Pense na escrita. Se o usuário seleciona um parágrafo e pede ao produto para deixá-lo mais curto, a IA pode ajudar de verdade. O usuário já sabe o que está fazendo, e a IA só deixa essa tarefa mais rápida.

Agora imagine obrigar o usuário a abrir um chat de IA separado, explicar em que documento está trabalhando, copiar o texto para a conversa, pedir uma reescrita e depois colar o resultado de volta.

A IA está fazendo a parte difícil. O produto está fazendo o usuário trabalhar mais para chegar até ela.

Uma boa IA deve parecer um atalho. Não deve parecer mais um aplicativo que você precisa aprender.

Também existe um custo que ninguém vê

Recursos de IA não são de graça só porque, do ponto de vista do usuário, parecem fáceis de adicionar.

Por trás da interface existem custos de modelo, infraestrutura, latência, monitoramento, limites de uso, tratamento de dados, questões de segurança e manutenção contínua.

Um recurso tradicional pode ter um custo por interação relativamente previsível. Um recurso de IA pode trazer custos variáveis, dependendo de quantos dados são processados e de com que frequência os usuários interagem com ele.

Em pequena escala, isso talvez não faça muita diferença.

Em grande escala, pode virar uma questão séria para o negócio.

Um recurso que deixa o produto um pouco mais conveniente não vale necessariamente a pena se cada interação aumenta bastante o custo de atender aquele usuário.

Isso pesa especialmente em produtos com muitos usuários gratuitos.

O problema maior é a confiança

A coisa mais valiosa que a IA pode trazer para um produto nem sempre é inteligência.

É confiança.

Se um sistema de IA me ajuda a terminar algo mais rápido deixando claro o que fez, me dando controle e me permitindo corrigi-lo, a chance de eu confiar nele é muito maior.

Se ele toma decisões por mim em silêncio e de vez em quando erra, eu passo a olhar cada resultado com desconfiança.

E, quando o usuário precisa conferir tudo o que um recurso de IA faz, a economia de tempo prometida começa a desaparecer.

É por isso que transparência importa.

Os usuários devem saber quando a IA está sendo usada, principalmente quando o resultado pode afetar algo importante. Eles devem ter como revisar, editar, desfazer ou rejeitar o que o sistema produz.

O objetivo não é fazer a IA parecer autônoma. O objetivo é fazer o usuário se sentir no controle.

Não adicione IA. Encontre o trabalho certo para ela.

A melhor pergunta para uma equipe de produto não é:

“Onde podemos colocar IA?”

É:

“Onde o usuário está gastando tempo à toa, e a IA poderia reduzir esse esforço de forma significativa?”

Essa é uma pergunta bem mais difícil.

Ela pode levar a um recurso de IA. Pode levar a um algoritmo de busca melhor. Pode levar a uma automação. Pode não levar a nada.

E tudo bem.

A IA não deveria ter que aparecer em cada canto de um produto para provar que o produto é moderno.

Às vezes a melhor decisão de produto é deixar quieto um recurso que já funciona bem.

O futuro não é IA em todo lugar

Provavelmente vamos ver mais IA dentro dos softwares, não menos.

Mas eu não acho que os produtos vencedores vão ser necessariamente os que têm mais recursos de IA. Vão ser os que usam IA onde ela realmente melhora a experiência.

A diferença é sutil, mas importante.

A IA não deveria ser mais uma camada para o usuário atravessar. Não deveria transformar ações simples em conversas. Não deveria deixar o usuário o tempo todo se perguntando se o sistema entendeu direito.

E não deveria existir só porque todo concorrente tem um botão de IA.

Os melhores recursos de IA vão acabar ficando quase invisíveis. Eles vão eliminar trabalho repetitivo, lidar com a complexidade nos bastidores e entregar resultados melhores aos usuários sem pedir atenção para si mesmos.

Esse provavelmente é o teste de verdade.

Se tirar a IA piora o produto, ela tem lugar ali. Se tirar não muda nada, talvez ela nunca tenha sido necessária.