Gestão Financeira & Controladoria

Heteronomia Cognitiva: entenda por que a inteligência artificial pode estar pensando por nós

RESUMIR COM:

A distância entre o despertar e o primeiro acesso ao mundo digital encolheu de forma notável nos últimos anos. O que antes exigia dez ou quinze passos até um computador agora se resolve com um simples toque de dedo. Ainda assim, o que deveria soar como ganho de tempo tem se revertido, cada vez mais, em uma espécie de cansaço persistente — um sinal de que algo nessa equação não fecha. Há, nesse cenário, certo desconforto: não sobra espaço nem tempo para pausa ou prostração. Levanta-se da cama como quem reconhece que, hoje mais do que nunca, é preciso se adaptar, já que quase tudo — dentro ou fora da máquina — passou a operar por algoritmos. Agir em conformidade com essas lógicas automatizadas tornou-se quase obrigatório, e isso incomoda.

É difícil negar: entregamos às máquinas um conhecimento que antes nos pertencia. Delegamos a especialistas de mercado a tarefa de nos ensinar scripts de interação social — como publicar um post, iniciar uma conversa, encerrar um relacionamento, parecer executivo, parecer inteligente, discursar em público. Curiosamente, esses mesmos roteiros hoje são produzidos por máquinas, a pedido desses especialistas, apenas para lhes conferir autoridade sobre determinado tema.

A heteronomia cognitiva e a perda do saber-pensar

Por mais que se tente enxergar isso como avanço, a sensação predominante é de perda. No século XIX, o operário perdeu para a máquina o domínio manual de seu ofício. No século XXI, a humanidade corre o risco de perder para a inteligência artificial o próprio saber-pensar. Vale destacar: ninguém foi forçado a isso. Não houve coerção. A rendição aconteceu por conforto, por cansaço, por pressa — e ninguém está isento dessa constatação.

Há pouco tempo, ao pedir que uma máquina escrevesse sobre algo pessoal, o resultado pareceu, à primeira vista, autêntico. O texto era fluente, bem estruturado, elegante. A satisfação inicial logo deu lugar ao receio: se uma máquina consegue expressar um pensamento de forma tão particular, o que resta do pensamento original de quem o solicitou?

Essa inquietação resume a tese central deste texto: estamos nos habituando à heteronomia cognitiva — condição em que o pensamento, o julgamento e a formação de crenças de uma pessoa passam a ser determinados por fontes externas, como autoridades, grupos, mídias ou tecnologias de inteligência artificial, em vez de resultarem do uso autônomo da própria razão. Esse fenômeno se consolida justamente porque não é percebido como perda, e sim como vantagem.

Da ditadura visível à psicopolítica do “sim”

Por muito tempo, o poder exercido pelos recursos digitais parecia se assemelhar a uma espécie de ditadura. Hoje, esse conceito parece impreciso. Uma ditadura se mostra, tem rosto, provoca revolta. O cenário atual se aproxima menos de Orwell, em que o poder proíbe e vigia, e mais de Huxley, em que as pessoas aprendem a amar aquilo que as domina.

Byung-Chul Han deu nome a esse regime: psicopolítica. Trata-se de um poder que não diz “não”. Diz “sim, mais, mostre-se, compartilhe”. Em vez de esmagar a liberdade, ele se alimenta dela. Foucault já apontava que o poder mais eficaz é o que se instala dentro do próprio sujeito, enquanto Deleuze observou que os muros da fábrica e da prisão foram substituídos por um controle contínuo, sem paredes, que cabe no bolso e dorme ao lado da cama.

Mas isso tudo não se trata de uma mera escolha? Podemos a qualquer tempo escolher não fazer parte disto. Não é bem verdade. Quem se recusa paga com a irrelevância, com o esquecimento, com a invisibilidade. Fora da arena digital resta a vida crua: a impaciência dos outros, o silêncio, o peso de existir sozinho e, quiçá, entediado.

A inteligência artificial, portanto, não chegou a um terreno virgem. Antes dela, o feed das redes sociais já havia preparado o solo. Heidegger descreveu, em 1927, a curiosidade que salta de novidade em novidade sem se deter em nada, e o falatório que circula sem que ninguém se aproprie do que diz — de certa forma, antecipando o comportamento diante das telas atuais.

O corpo cansado e a prótese que pensa por nós

Pascal já afirmava que toda a agitação humana nasce da incapacidade de ficar só num quarto. Hoje, esse quarto tem uma janela luminosa que nunca se apaga. Skinner explicaria o motivo de voltarmos a ela repetidamente, como quem puxa a alavanca de um caça-níquel: a recompensa imprevisível é a que mais aprisiona. Debord já previa a existência convertida em espetáculo, e Goffman mostrou que sempre encenamos um eu para os outros — só que agora o palco não fecha, a plateia é infinita e cada gesto recebe uma nota.

Han acrescenta que essa encenação obedece a uma ditadura da positividade: todos vigorosos, sorridentes, realizados. A tristeza virou defeito, a dúvida virou fraqueza, o pensamento lento virou desperdício. O resultado é um cansaço que se instala no corpo ao fim de cada noite perdida na ocupação digital.

Esse sujeito exausto, distraído e ansioso por aprovação recebeu de presente os modelos de linguagem — que escrevem como nós — como uma prótese. Toda prótese, porém, cedo ou tarde deixa de ser percebida quando todos passam a usá-la. A diferença é que o livro guardava o pensamento de alguém, enquanto a máquina produz um pensamento que não pertence a ninguém: é a média estatística de tudo o que já foi dito. Por isso, os algoritmos tendem a achatar até o juízo estético, até que tudo só pareça belo se tudo parecer com tudo.

Esse achatamento fica evidente em redes profissionais como o LinkedIn, onde circulam textos que soam inteligentes e não dizem nada, opiniões sem biografia, emoções sem corpo, convicções sem risco — uma espécie de falatório heideggeriano em escala industrial.

O risco para a democracia e para os negócios

É nesse ponto que a sociedade se torna plástica: moldável, lisa, sem resistência. Uma mente que não sustenta um argumento longo aceita qualquer argumento curto. Uma mente que não suporta o tédio aceita qualquer distração. Uma mente que terceiriza a própria voz aceita qualquer voz. Esse excesso de informação substitui o debate, e é justamente o debate que sustenta uma democracia. Assim, o que está em jogo não é apenas a qualidade dos textos produzidos, mas a capacidade de autogoverno de cada indivíduo.

Ainda assim, não se trata de defender o abandono da inteligência artificial — isso seria hipócrita e inútil. Se ela funciona como um pharmakon, a questão não é se devemos usá-la, mas como evitar que o remédio se transforme em veneno.

O mesmo raciocínio vale para o mundo corporativo. Especialistas de mercado que vendem scripts de como parecer executivo ou parecer inteligente talvez não percebam que estão corroendo justamente aquilo de que uma empresa mais depende: o juízo próprio de quem toma as decisões. Uma organização formada por profissionais que terceirizam a própria voz tende a produzir relatórios fluentes, apresentações elegantes e estratégias que soam inteligentes sem dizer nada de fato. Quando todos recorrem à mesma máquina, todos recebem a mesma média estatística do passado — e aquilo que antes diferenciava uma empresa da outra se dissolve num mercado em que tudo se parece com tudo.

Pior ainda: decisões passam a ser tomadas por quem já não sustenta um argumento longo, aceitando o argumento curto que a tela oferece, com convicções sem risco e, por consequência, sem responsabilidade. Assim como o operário do século XIX perdeu o saber-fazer das mãos e tornou-se substituível, o profissional que entrega à máquina o saber-pensar caminha para o mesmo destino — e, junto dele, a empresa que confundiu fluência com inteligência.

O desafio real está em questionar o recurso automático à prótese tecnológica como primeira e inexorável opção, sobretudo quando a ideia de fazer se associa apenas a resultado, e não a um processo mais amplo de revelar o mundo. Colocar em dúvida a utilidade da inteligência artificial beira a ingenuidade; não se trata de escolher entre o nostálgico e o futurista, mas de impor disciplina ao uso dessas ferramentas. E adotar qualquer disciplina, nesse contexto, exige coragem — a mesma coragem de ler um livro inteiro ou de sustentar uma ideia até que ela se torne, de fato, própria.

Com informações de mitsloanreview.com.br.

Veja mais
Advent International: fundo bilionário mira negócios maiores no Brasil

Advent International: fundo bilionário mira negócios maiores no Brasil

Advent International capta US$ 30 bilhões e mira negócios maiores...

Enterprise World Models: entenda como a simulação pode virar vantagem competitiva da IA

Entenda o conceito de Enterprise World Models e como a...
Vitória de Lula: veja como o CEO da Gerdau avalia os impactos para o setor do aço

Vitória de Lula: veja como o CEO da Gerdau avalia os impactos para o setor do aço

CEO da Gerdau, Gustavo Werneck, analisa os dois lados da...