Entre todas as preocupações que os profissionais de marketing têm ao trazer a IA para a tomada de decisões, há uma sobre a qual não falamos o suficiente: somos muito rápidos em presumir que a IA sabe o que está acontecendo em nossas cabeças quando construímos modelos?

Isso decorre de uma preocupação crescente com a introdução de preconceitos ao criar prompts e formatar consultas. O preconceito pode resultar de não fornecer contexto e nuances – o conhecimento que vive em nossas cabeças, que recorremos quando tomamos decisões por conta própria, mas esquecemos de considerar quando trabalhamos com IA.

Por que o contexto é essencial?

Eu poderia simplesmente presumir que você sabe o que é contexto e por que precisamos fornecê-lo à medida que construímos nossas consultas. Mas então você pode perder as razões pelas quais considero isso tão importante. Meus pontos não terão o mesmo impacto e sua compreensão poderá ser distorcida ou distorcida.

A mesma coisa pode acontecer se confiarmos demais na capacidade de pensar da IA.

Contexto é o que damos ao nosso modelo de IA para ajudá-lo a classificar, analisar e relatar resultados e insights com precisão. É como adicionar condições ao criar um fluxo de trabalho de e-mail automatizado.

Isso vai além das questões básicas sobre qual modelo usar e para que usá-lo. Temos que lembrar que temos uma ferramenta incrivelmente poderosa, mas que não é infalível. Temos que pensar em como o estamos usando e quais informações precisamos fornecer para obter insights e análises precisas e úteis.

Entendo. Envolvemos a IA e presumimos que ela sabe tudo ou que o nosso contexto não importa. Mas isso ignora meu ponto principal. A IA sabe muito, mas só você conhece o contexto em que está fazendo perguntas.

Resumindo, a IA não consegue ler as nossas mentes. Com muita frequência, criamos consultas que presumem que sim. Isso colore as respostas que a IA nos dá.

3 maneiras de se proteger contra preconceitos ao usar IA

Aqui estão três práticas a serem seguidas para obter os resultados mais valiosos de suas consultas de IA.

1. Forneça contexto e nuances

Conversei com executivos de uma empresa que estava lidando com uma situação em que um executivo sênior confiscou o modelo de IA, carregou indevidamente informações operacionais confidenciais da empresa em formato bruto e pediu ao modelo que as interpretasse.

Além de não verificar se os dados não seriam compartilhados fora da empresa, esse executivo falhou de duas outras maneiras importantes:

• Ao fornecer apenas dados brutos, ele não deu ao modelo de IA nenhum contexto a considerar ao analisar as informações e formular suas respostas.
• Ele escreveu as instruções para sugerir que queria um resultado negativo ou para confirmar seu preconceito.

O treinamento do modelo de IA fez com que ele captasse essa negatividade implícita. Sem contexto, o modelo de IA não poderia pensar além da negatividade incorporada nas instruções.

As recomendações resultantes — surpresa! – eram negativos e imprecisos. Se a empresa tivesse tomado decisões com base nesse resultado tendencioso, teria seguido um caminho desastrosamente errado.

Presumimos que a máquina captará nuances na escolha das palavras ou no tom de voz da mesma forma que um ser humano faria. Ou esperamos que utilize o raciocínio baseado em experiências anteriores que não fazem parte da sua memória de dados.

Vejo profissionais de marketing cometendo esse erro ao explorar o uso de IA em seus programas de marketing. Eles estão tratando a IA como uma tática e não como parte de uma estratégia.

Como tudo no marketing (e na vida, se você pensar bem), a estratégia tem que vir antes da tática. Você desenvolve primeiro a estratégia (a abordagem) e depois a estratégia orienta suas decisões táticas. A IA é, acima de tudo, uma tática – uma ferramenta para ajudá-lo a executar sua estratégia para atingir seu objetivo.

Como parte do desenvolvimento dessa estratégia, temos agora de definir como evitar preconceitos e como reconhecê-los no desenvolvimento e nos resultados. Também precisamos conhecer o contexto que precisamos fornecer para construir um modelo confiável.

Isso tem que ser o primeiro. Você não pode fazer isso na hora. Perder essa etapa significa que todas as informações inseridas estarão incompletas e sua análise será falha.

2. Forneça informações suficientes para ajudar seu modelo de IA a tomar as melhores decisões

Como você evita resultados falhos? Uma maneira é fazer o que fiz ao treinar um dos meus modelos de IA em uma empresa. Carreguei cerca de 47 arquivos diferentes, contratos, PowerPoints, artigos e inúmeras outras fontes de informação, o que deu ao modelo um contexto completo para o assunto que estava pesquisando.

Então fiz uma coisa que os especialistas em IA não discutem muito.

Perguntei ao modelo: “O que você precisa saber? Que informações estão faltando?” Isso ajuda o modelo a preencher a lacuna e a evitar a tomada de decisões sem informações cruciais, como o contexto.

Ouvimos todos os dias falar de empresas que estão substituindo funcionários por IA. A mais recente é a Block, a empresa por trás do Square, Cash App e Afterpay. O CEO Jack Dorsey disse que a força de trabalho menor “se moveria mais rápido com equipes menores e altamente talentosas usando IA para automatizar mais trabalho”.

Ótimo. Mas os funcionários humanos fornecem o contexto de que os modelos de IA precisam para fornecer melhores resultados. Um modelo de IA tem apenas o contexto que lhe fornecemos. Devemos reconhecer que o preconceito prejudicará as nossas empresas se não o levarmos a sério nesse passo.

Aqui está outro exemplo. Fazer análises é um excelente uso para IA. Ele pode acelerar insights que você pode destacar para examinar crescimento, perdas ou oportunidades que você não descobriria de outra forma.

Se eu carregar meus dados de envio de e-mail e pedir ao meu modelo de IA para analisá-los e sugerir horários alternativos para o envio de campanhas de e-mail, preciso explicar que enviamos e-mails às quartas e sextas-feiras porque é quando atualizamos os números de inventário.

Acreditamos que nossos assinantes abrem mais nossos e-mails nas manhãs de sábado. Se você não adicionar esse contexto, estará prejudicando a análise.

Você precisa adicionar essa etapa à sua estratégia de análise de IA. É onde você diz: “Aqui está o que eu sei e o que fortalece minhas decisões”.

Esta etapa é o que chamo de memorialização. Você cataloga tudo o que sabe sobre como tomar decisões em seu trabalho, para que, ao sair dele, a próxima pessoa que se sentar em sua cadeira tenha uma base completa de informações.

Você pode hesitar em fazer isso porque significa abrir mão do seu ingrediente secreto – o contexto e o valor que você agrega ao seu trabalho.

Mas você tem que desistir. Seu modelo de IA precisa de todas essas informações para tomar uma decisão alinhada com o que você sabe.

Isso não é tudo. Você deve procurar constantemente falhas na interpretação. Não ignore um comentário ou descoberta questionável. Não presuma que seu modelo sabe o que você sabe. Não presuma que você pode resolver o problema mais tarde.

Há uma ciência nisso. Nossos executivos precisam garantir que estamos abordando isso.

3. Use a inovação incremental para descobrir preconceitos e adicionar contexto

Grandes avanços chamam a atenção e impedem palestras em conferências de negócios, mas raramente levam a mudanças sustentáveis ​​e gerenciáveis.

A IA alimenta o apetite por melhorias instantâneas. Os fornecedores de tecnologia de IA estão vendendo ao alto escalão o sonho de avanços monumentais e transformadores da empresa. O nível C acha isso ótimo. Os acionistas vão adorar. O conselho de administração vai delirar.

Mas será que o diretor, o diretor sênior, o gerente, o vice-presidente ou o vice-presidente sênior podem fazer com que isso funcione?

A inovação incremental é uma alternativa mais viável. São necessários pequenos passos para chegar a algo grandioso. Você faz uma mudança, estuda o efeito e depois desenvolve o que aprendeu para fazer a próxima. Cada etapa é uma prova que pode revelar uma lacuna ou fraqueza. Em termos de IA, isso significa revelar onde uma consulta tendenciosa ou não contextual pode desviá-lo.

Sim, pode levar mais tempo para conseguir do que uma mudança generalizada. Hoje em dia, muitas vezes não temos o tempo necessário para fazer essas mudanças informadas e sustentáveis. Mas pode produzir melhores resultados a longo prazo.

Você aprende todas as nuances do contexto. Você pode colocar duas pessoas no mesmo projeto, trabalhando na mesma base de informações e ver se o resultado é o mesmo.

Isso não significa que movimentos grandiosos não valham a pena. Mas nesta fase, você terá que fazer algumas perguntas difíceis:

• Essas mudanças são realistas?
• Temos guarda-corpos instalados?
• Aprendemos os guarda-corpos?
• Como podemos garantir que não teremos problemas?

Um profissional de marketing me disse recentemente: “Quando a IA começar a publicar anúncios e e-mails, algumas empresas cometerão erros. Eles serão muito públicos, muito barulhentos e muito flagrantes. Porque alguém em algum lugar confiará na máquina para tomar todas as decisões e essa será a atitude errada.

Essas decisões não serão bem informadas porque carecem de contexto e são tendenciosas. Porque é difícil provar em escala.”

As saídas de IA são tão boas quanto suas entradas

A IA é uma ferramenta poderosa. A tecnologia está se movendo mais rápido a cada dia e não podemos desacelerá-la por tempo suficiente para estabelecer barreiras e regras.

Mas, como profissionais de marketing responsáveis, temos que fazer isso. Ninguém quer ser a pessoa que aperta um botão e envia uma campanha que foi fundamentalmente falha porque não consideramos o preconceito ou o contexto.

Isso não significa que devemos parar de usar IA (grande não). Todo profissional de marketing deve usar IA da maneira que melhor atenda aos seus programas. Mas temos que ser criteriosos e responsáveis ​​na forma como utilizamos e gerimos as nossas abordagens.

Apenas lembre-se disto: a IA não pode entrar no seu cérebro e saber há quanto tempo você está naquela empresa, as conversas que você tem com colegas de trabalho, suas preferências e as regras da empresa. Reserve um tempo para garantir que você está levando em consideração o preconceito e o contexto ao desenvolver sua estratégia.

Principais conclusões

• Os resultados da IA ​​são tão confiáveis ​​quanto o contexto e as suposições incorporadas no prompt.
• A falta de contexto introduz preconceito ao forçar a IA a interpretar informações incompletas ou enganosas.
• Os profissionais de marketing devem tratar a IA como uma ferramenta dentro de uma estratégia definida, e não como um tomador de decisões.
• Fornecer informações detalhadas, incluindo regras e restrições de negócios, melhora a precisão e a relevância.
• Os testes incrementais ajudam a identificar preconceitos antecipadamente e a refinar como o contexto é aplicado ao longo do tempo.