O que se perde quando trabalhamos com IA, de acordo com a neurociência

No início deste ano, participei do Fórum Econômico Mundial em Davos, nos Alpes suíços, ao lado de CEO influentes, líderes políticos, acadêmicos e economistas. Após a conferência, participei de uma série de sessões virtuais de acompanhamento e observei uma tendência incomum: nem todos os participantes eram humanos. Na verdade, um número surpreendente de convidados enviou agentes de IA em seu lugar — bots que participaram da conversa, fizeram anotações e, posteriormente, enviaram resumos por e-mail para seus colegas humanos. Em um caso, esperava-se um grupo de 12 pessoas, mas acabamos com seis humanos e seis agentes de IA. Foi uma experiência incomum para mim, mas parece ser algo que está se tornando cada vez mais comum: entre 50% e 79% dos executivos afirmam que suas organizações estão adotando agentes de IA. Embora nem todos os agentes estejam atuando como substitutos dos executivos em reuniões, esse é claramente um caso de uso que interessa aos executivos ocupados. Isso me fez refletir. Em teoria, agentes de IA como esses são extremamente úteis. Eles podem participar de uma reunião de uma hora e enviar notas detalhadas em poucos minutos, liberando você para se concentrar em outras tarefas. No entanto, na prática, eles realmente substituem a sua presença? Você obtém o mesmo entendimento profundo das questões discutidas ou apenas um resumo superficial? E quanto à qualidade da conversa para todos os outros participantes? Para mim, a presença dos agentes de IA tirou o clima da sala virtual. Nas sessões em que eles participaram, as conversas pareciam cada vez mais monótonas e vazias, sem a rica discussão que eu esperava. Considere algo ainda mais comum hoje em dia: quando deixamos de participar de uma reunião e lemos o resumo da reunião no Microsoft Teams ou no Zoom. Isso é suficiente? Quais são as vantagens e desvantagens de fazer isso? Esses resumos estão presentes em quase todas as reuniões atualmente. É claro que, se a reunião foi uma conversa simples que incluiu detalhes de um projeto rotineiro direto, talvez ler o resumo seja adequado. Mas e se todos começarem a fazer isso? Precisamos de limites sobre quantas pessoas realmente participam das conversas atualmente? Essa experiência despertou em mim uma reflexão mais profunda sobre a IA e a metacognição humana — especificamente, como os seres humanos refletem sobre seu próprio pensamento e aprendem de forma mais eficaz, e como a IA pode ajudar ou atrapalhar esse processo à medida que continua a avançar e se integrar às nossas vidas. A IA oferece a perspectiva tentadora de assumir muitos dos nossos fardos mentais diários. Mas quais benefícios não óbvios da cognição humana estamos abrindo mão nesse processo? A IA possui vantagens inegáveis. De fato, já estamos observando diferenças significativas de produtividade entre aqueles que utilizam bem a IA e aqueles que não a utilizam. Portanto, a questão não é se devemos utilizar a IA, mas como utilizá-la sem perder nossa capacidade de pensar, processar e refletir, e experimentar os benefícios que resultam disso — as qualidades que nos tornam humanos. Em outras palavras, como preservamos o “material do pensamento” e o que corremos o risco de perder se não o fizermos? O poder da atenção Enviar um agente de IA para uma reunião pode privar-nos de uma das experiências mais impactantes para o cérebro humano: concentrar-se em ideias com outras pessoas em tempo real. Estar na presença de outras pessoas, mesmo em ambientes virtuais, aumenta a força da nossa atenção nessas ideias e nos circuitos neurais que as sustentam. A neurociência demonstrou que, quando nos concentramos em ideias na companhia de outras pessoas, codificamos as informações em nosso cérebro de forma mais profunda e com maior compreensão. Isso ocorre porque evoluímos para prestar muita atenção aos sinais sociais — quem está falando, como os outros respondem e o que isso pode significar para nossa posição no grupo. Portanto, apenas estar na presença de outras pessoas ativará mais fortemente o cérebro. De fato, quando refletimos e processamos informações com outras pessoas, começamos a construir um entendimento comum. No cérebro, isso leva à sincronia neural, um alinhamento dos sinais elétricos cerebrais. Pesquisas demonstram que o aumento da sincronia entre vários cérebros está associado a um maior entendimento comum, sendo que quanto mais cérebros estão envolvidos, mais forte é a sincronização. Não obtemos esse efeito de atenção, ou a ativação de circuitos neurais robustos, ao ler um resumo de uma reunião gerado por IA. É semelhante à forma como ler a versão resumida de um romance não nos proporciona a mesma experiência que ler o livro propriamente dito. Podemos compreender o enredo, mas perdemos a riqueza, a profundidade e as personagens que o tornam memorável. Não nos emocionamos com o resumo do livro, e também não nos emocionamos com o resumo da reunião. Da mesma forma, enviar um membro da equipe ou subordinado direto a uma reunião para resumir as conclusões não proporcionará a qualidade de compreensão ou insight sobre as conversas em questão. O valor da “ativação disseminada” Pensar e processar ideias com outras pessoas em tempo real desencadeia algo no cérebro chamado ativação difusa. Quando você pensa em uma ideia, esse processo de pensamento ativa um certo número e padrão de circuitos em todo o cérebro — uma reação em cadeia neural. Quando você então fala sobre essa mesma ideia para outra pessoa, você ativa um conjunto diferente de circuitos — muito mais circuitos, em relação a essa ideia — em outras partes do cérebro. O resultado? A disseminação da ativação neural em tempo real por todo o cérebro. Essa ativação desencadeia pensamentos ou ideias sobre outros conceitos, permitindo-nos encontrar implicações e aplicações para as ideias com mais facilidade, considerar múltiplos ângulos, reconhecer padrões e integrar novas informações ao conhecimento existente. Quanto mais forte for a rede, mais fácil será conectar-se a outras redes, na forma de implicações, preocupações ou próximos passos. Quando as ferramentas de IA interrompem esse processo fisiológico, fornecendo resumos ou respostas instantâneas sem espaço para discussão, não há oportunidades para que a ativação se espalhe, e nossos pensamentos permanecem superficiais e unidimensionais. Esse é um dos benefícios secundários do aumento da atenção em tempo real: ao nos alinharmos com outras pessoas em tempo real, acionamos a ativação de circuitos robustos. Nossos pensamentos se tornam mais ricos e profundos, aumentando assim nossa capacidade de compreender, lembrar e tomar decisões sobre nosso trabalho. De fato, um estudo recente e frequentemente citado destacou o impacto imediato de confiar na IA para produzir nosso trabalho e descarregar parte do nosso pensamento. Nesse estudo, 83% das pessoas que utilizaram IA generativa para ajudá-las a escrever uma redação tiveram dificuldade em lembrar o conteúdo de seu trabalho, enquanto entre aquelas que puderam utilizar outro tipo de mecanismo de busca ou nenhuma ferramenta, apenas 11% tiveram dificuldade em lembrar. Depender da IA efetivamente prejudica nossa capacidade de pensar e lembrar nosso próprio trabalho. A motivação que vem de ter suas próprias ideias Além do poder da atenção e da ativação da difusão, trabalhar com IA pode comprometer o elemento mais importante do pensamento humano: a geração de nossas próprias ideias. Todas as empresas, invenções, descobertas científicas e obras-primas criativas começam com uma percepção — aquele momento de “aha” em que alguém vê um problema ou conceito de uma maneira totalmente diferente. A descarga de dopamina que vem de uma percepção alimenta nossa motivação para agir, seja para resolver um problema desafiador no trabalho, inventar um dispositivo que economiza trabalho ou experimentar uma nova maneira de fazer negócios. Algumas percepções são tão fortes que suas memórias duram para toda a vida. A última coisa que desejamos é que a IA nos prive, ou a outros, da oportunidade de gerar nossas próprias percepções ou de estabelecer conexões profundas que nos inspirem a mudar o mundo. No entanto, isso pode ocorrer quando dependemos da IA para nos representar em uma conversa. Podemos ter acesso rápido às soluções, mas perdemos o poder motivador que resulta de chegar a uma solução por conta própria, ou podemos até mesmo privar outras pessoas de gerar suas próprias ideias quando não estamos presentes para compartilhar nossa perspectiva em uma reunião. Hora de fazer uma pausa Em nossa pressa para adotar essas ferramentas e a velocidade de processamento que elas nos prometem, talvez precisemos fazer uma pausa para refletir sobre o que estamos terceirizando — não apenas em termos de tarefas, mas em termos do próprio pensamento. A promessa da descarga cognitiva é inegavelmente atraente: quem não gostaria de pensar menos sobre o mundano? No entanto, essa conveniência pode ter um custo. Quando descarregamos consistentemente nossa atenção, perdemos oportunidades de reflexão mais profunda e sacrificamos nossos momentos de insight, correndo o risco de embotar as qualidades que nos tornam humanos. . . . Portanto, a verdadeira questão não é se devemos utilizar a IA, mas como utilizá-la de forma inteligente. Como devemos utilizar a IA para aprimorar, e não substituir, nosso melhor raciocínio? A resposta pode estar no que escolhemos delegar e no que escolhemos manter. É hora de refletirmos mais sobre o que é o pensamento.

O que se perde quando trabalhamos com IA, de acordo com a neurociência

Resumo.

Partner Center