O direito de não usar inteligência artificial

Há momentos históricos em que uma tecnologia nova ingressa na experiência humana como possibilidade, outros em que se consolida como conveniência e alguns, muito mais raros e decisivos, em que deixa silenciosamente de pertencer ao domínio das escolhas para converter-se em pressuposto de participação social; é precisamente nesse terceiro momento que a inteligência artificial parece começar a ingressar, e é também nesse momento que surge uma pergunta que, à primeira vista, pode parecer excêntrica, conservadora ou até contraditória com o espírito de uma época fascinada pela aceleração tecnológica, mas que talvez venha a tornar-se uma das questões fundamentais da liberdade no século XXI: existe, ou deveria existir, um direito de não utilizar inteligência artificial? A pergunta não se confunde com a defesa da ignorância tecnológica, não exprime hostilidade à inovação, não pressupõe que os sistemas inteligentes sejam intrinsecamente nocivos e tampouco pretende restaurar uma sociedade anterior à computação; seu objeto é inteiramente distinto, porque procura determinar se uma tecnologia cuja utilização produz vantagens econômicas, cognitivas, profissionais e institucionais extraordinárias pode transformar-se, justamente por sua eficiência, numa estrutura de coerção indireta capaz de retirar do indivíduo a possibilidade real de recusá-la. Isaiah Berlin (1909–1997), ao distinguir a liberdade negativa — compreendida como espaço no qual o sujeito não é impedido de agir por interferências externas — da liberdade positiva — associada à capacidade de governar a própria existência — ofereceu uma chave particularmente adequada para compreender esse problema: não basta perguntar se alguma lei obriga alguém a utilizar uma plataforma inteligente; é necessário perguntar se o ambiente econômico, profissional, educacional e administrativo tornou a recusa tão onerosa que a liberdade formal de rejeitá-la se converteu numa liberdade praticamente fictícia. John Stuart Mill (1806–1873) já percebia que a coerção social pode ser tão poderosa quanto a coerção jurídica, porque comunidades são capazes de impor padrões de comportamento sem mobilizar qualquer sanção estatal expressa; Alexis de Tocqueville (1805–1859), por outra perspectiva, advertiu para uma forma de poder social que não precisa destruir o dissidente, bastando isolá-lo do espaço no qual as decisões relevantes são tomadas; Émile Durkheim (1858–1917), ao pensar os fatos sociais como maneiras de agir, pensar e sentir dotadas de exterioridade e coercitividade, forneceu talvez uma descrição ainda mais precisa do fenômeno que começa a emergir: ninguém precisa decretar obrigatoriamente o uso da inteligência artificial para que uma sociedade inteira passe a pressupô-lo como normal, esperado, racional, responsável e profissional. A coerção tecnológica mais sofisticada não virá necessariamente sob a forma de uma ordem que diga “use inteligência artificial”; ela poderá surgir de modo difuso quando o trabalhador que não utiliza IA produzir em oito horas aquilo que seu colega produz em duas, quando o estudante que escreve sozinho competir com colegas que mobilizam sistemas capazes de pesquisar, organizar e revisar informações em segundos, quando o advogado que raciocina integralmente sem assistência algorítmica enfrentar escritórios que automatizam triagem jurisprudencial, revisão documental e estruturação de argumentos, quando o médico que se recusa a empregar ferramentas preditivas tiver de justificar por que não consultou um sistema capaz de apontar riscos invisíveis ao exame humano, quando o servidor que insiste em procedimentos manuais se tornar a exceção estatisticamente improdutiva e quando o cidadão que não aceita intermediários algorítmicos encontrar serviços públicos e privados concebidos para usuários que aceitam sua mediação. Nesse ponto, a questão deixa de ser tecnológica e passa a ser política, jurídica, filosófica e antropológica: uma sociedade pode legitimamente organizar-se de modo que determinado instrumento continue juridicamente facultativo, mas existencialmente obrigatório? E, sobretudo, existe liberdade quando a pessoa pode dizer não em teoria, mas o custo de dizer não consiste em perder competitividade, empregabilidade, acesso, reconhecimento, velocidade, renda e talvez a própria possibilidade material de permanecer na atividade que escolheu?

A história da técnica permite perceber que essa transformação de possibilidade em necessidade não constitui fenômeno inteiramente novo, embora a escala atual seja singular. Martin Heidegger (1889–1976), ao examinar a essência da técnica, insistiu em que ela não deveria ser compreendida apenas como conjunto de instrumentos neutros disponíveis ao uso humano; mais profundamente, a técnica estabelece uma determinada maneira de revelar o mundo, fazendo com que coisas, natureza e finalmente o próprio homem apareçam como recursos disponíveis, calculáveis e mobilizáveis. Jacques Ellul (1912–1994) foi ainda mais incisivo ao sustentar que a sociedade técnica tende a privilegiar espontaneamente o procedimento mais eficiente, não porque alguém imponha explicitamente essa escolha, mas porque a eficiência se transforma no critério dominante de legitimação. Uma vez inventado um método capaz de alcançar determinado resultado mais rapidamente, com menor custo e maior previsibilidade, a alternativa menos eficiente começa a necessitar de justificativa; pouco a pouco ocorre uma inversão da carga argumentativa: inicialmente é o usuário da tecnologia que precisa explicar por que pretende empregá-la, depois ambas as opções coexistem e, finalmente, é aquele que rejeita a tecnologia que precisa explicar por que insiste em não utilizá-la. Lewis Mumford (1895–1990), ao estudar as relações entre técnica e civilização, percebeu como sistemas técnicos deixam de ser utensílios particulares para formar estruturas integradas de organização social; Günther Anders (1902–1992) descreveu o crescente desnível entre nossa capacidade de produzir artefatos e nossa capacidade de compreender plenamente suas consequências; Herbert Marcuse (1898–1979) mostrou que a racionalidade tecnológica pode adquirir caráter político precisamente quando a organização eficiente da sociedade transforma determinadas possibilidades históricas em necessidades aparentemente naturais. A inteligência artificial reúne e amplifica esses elementos porque não automatiza apenas força física, transmissão, cálculo ou armazenamento; ela começa a penetrar justamente os domínios nos quais o ser humano tradicionalmente reconheceu sua singularidade: linguagem, interpretação, aconselhamento, decisão, imaginação, previsão, criação, raciocínio, comunicação e produção simbólica. Uma máquina de escrever podia alterar o modo de redigir, mas não argumentava; uma calculadora alterava a relação com a aritmética, mas não formulava hipóteses; um banco de dados armazenava precedentes, mas não construía uma narrativa jurídica; um mecanismo de busca localizava páginas, mas não apresentava uma síntese dialógica das informações encontradas. Sistemas contemporâneos ultrapassam gradualmente essa distinção porque participam da própria execução cognitiva da atividade. Assim, a recusa da inteligência artificial não significa simplesmente decidir trabalhar de maneira mais artesanal; pode significar renunciar a uma expansão artificial de capacidades cognitivas que passa a compor o padrão normal de desempenho do grupo. Quando isso ocorre, a tecnologia deixa de competir apenas com o indivíduo e começa a redefinir aquilo que a sociedade considera desempenho humano suficiente. Hannah Arendt (1906–1975), ao distinguir labor, trabalho e ação, forneceu instrumentos valiosos para questionar o que acontece quando atividades tradicionalmente vinculadas à construção do mundo humano são progressivamente intermediadas por sistemas não humanos; Karl Marx (1818–1883), ao analisar como os instrumentos de produção podem reorganizar as relações entre trabalhador, atividade e produto, permitiria acrescentar que a introdução de uma tecnologia não altera apenas a velocidade do trabalho, mas modifica a estrutura de dependências na qual esse trabalho ocorre; Max Weber (1864–1920), por sua vez, provavelmente reconheceria na inteligência artificial uma nova etapa da racionalização: a substituição crescente da contingência, da demora, da subjetividade e da imprevisibilidade por procedimentos calculáveis, mensuráveis e reproduzíveis. O problema não está nessa racionalização em si, que pode eliminar erros, ampliar capacidades e democratizar recursos anteriormente inacessíveis; ele aparece quando aquilo que começou como auxílio transforma-se em requisito implícito de normalidade, porque então a pergunta deixa de ser “quais benefícios a inteligência artificial oferece?” e passa a ser “qual preço deve pagar aquele que deseja permanecer intelectualmente, profissionalmente ou existencialmente fora dela?”.

ESQUEMA I — DA FERRAMENTA À OBRIGAÇÃO INVISÍVEL

possibilidade técnica → vantagem comparativa → adoção disseminada → redefinição do padrão de desempenho → expectativa social → desvantagem da recusa → custo crescente de não adesão → compulsoriedade material sem compulsoriedade formal

Essa sequência permite compreender por que o direito de não utilizar inteligência artificial não pode ser reduzido ao simplismo de afirmar que nenhuma pessoa é obrigada a abrir determinado aplicativo. A liberdade não se mede exclusivamente pela ausência de uma ordem jurídica direta; mede-se também pela existência de alternativas reais. Amartya Sen (1933–2023), ao desenvolver a abordagem das capacidades, demonstrou que direitos formalmente idênticos podem corresponder a possibilidades concretas profundamente diferentes, porque a liberdade substantiva depende das condições que permitem ao sujeito efetivamente escolher entre cursos de ação; Martha Nussbaum (1947–), desenvolvendo essa tradição, reforçou a ideia de que dignidade não consiste apenas na proibição de interferências, mas também na preservação das condições necessárias para que uma vida seja efetivamente escolhida. Transportado para a questão tecnológica, isso significa que uma pessoa cuja carreira se torna inviável sem inteligência artificial pode continuar juridicamente autorizada a rejeitá-la e, simultaneamente, perder substantivamente sua liberdade de fazê-lo. Friedrich Hayek (1899–1992), embora partindo de fundamentos muito diferentes, também contribuiu para esclarecer o valor da descentralização e da pluralidade das escolhas individuais diante de estruturas que pretendem determinar antecipadamente comportamentos socialmente eficientes; Michael Polanyi (1891–1976), ao destacar o conhecimento tácito — aquilo que sabemos sem conseguir integralmente explicitar — mostra por que a substituição sistemática de procedimentos humanos por mediações inteligentes pode acarretar não apenas ganhos produtivos, mas também perda de determinadas formas de competência cuja importância aparece apenas quando deixam de ser praticadas. Aquele que utiliza um sistema de navegação constantemente talvez chegue mais rapidamente aos destinos e, ao mesmo tempo, desenvolva menos orientação espacial; quem terceiriza cálculos realiza operações mais rapidamente e talvez retenha menor domínio intuitivo dos números; quem delega constantemente redação, revisão, síntese e organização argumentativa a uma inteligência artificial pode aumentar sua produtividade e simultaneamente reduzir determinadas capacidades que apenas o exercício produz. Não se trata de romantizar dificuldades nem de afirmar que toda terceirização cognitiva empobrece o homem: Platão (428/427–348/347 a.C.), pela voz de Sócrates (470/469–399 a.C.), já registrava a antiga suspeita de que a escrita poderia enfraquecer a memória, e a história demonstrou que a escrita, longe de destruir a inteligência humana, permitiu formas de pensamento impossíveis numa cultura exclusivamente oral. A advertência histórica é precisamente por isso importante: tecnologias cognitivas podem simultaneamente enfraquecer determinadas competências e criar outras superiores; a questão relevante é saber quem decide quais competências podem desaparecer, em qual ritmo, sob quais condições e com quais garantias para aqueles que desejem preservá-las. Ivan Illich (1926–2002), crítico das instituições que ultrapassam determinado ponto de intensidade e acabam produzindo o contrário da finalidade que justificava sua existência, oferece aqui uma provocação fecunda: uma tecnologia destinada a ampliar a autonomia intelectual pode, depois de certo limiar, começar a produzir dependência intelectual? Se a resposta for afirmativa ainda que apenas em algumas atividades, torna-se possível formular uma ideia fundamental: o direito de não usar inteligência artificial não seria um direito contra a tecnologia, mas um direito contra a monopolização tecnológica das formas legítimas de agir. Ele protegeria a existência de caminhos humanos não mediados sempre que a mediação deixasse de ser apenas uma possibilidade e passasse a constituir condição de inclusão, avaliação, contratação, aprendizado ou participação social.

No trabalho, essa questão alcança talvez sua forma mais imediata e concreta porque a relação empregatícia já contém assimetrias estruturais de poder que tornam insuficiente a ficção de que toda adoção tecnológica resulta de escolha individual. Karl Polanyi (1886–1964), ao mostrar que o trabalho não pode ser tratado como mercadoria comum sem consequências sociais profundas, lembraria que reorganizações produtivas aparentemente técnicas redistribuem poder, segurança e vulnerabilidade entre pessoas reais; Harry Braverman (1920–1976), analisando a degradação do trabalho no capitalismo industrial, mostrou como processos de racionalização podem separar concepção e execução, retirar conhecimento do trabalhador e incorporá-lo à organização produtiva; Richard Sennett (1943–) descreveu posteriormente como formas flexíveis e instáveis de capitalismo transformam identidades profissionais, carreiras e vínculos; Shoshana Zuboff (1951–), inicialmente ao estudar a informatização do trabalho e mais tarde as economias baseadas em captura comportamental, demonstrou que tecnologias informacionais não apenas aumentam produtividade, mas produzem novas possibilidades de observação, classificação e controle. A inteligência artificial introduz uma variável adicional: ela pode não apenas monitorar aquilo que o trabalhador faz, mas indicar como deve fazê-lo, avaliar sua produtividade, sugerir decisões, ordenar prioridades, redigir comunicações, classificar desempenho e comparar resultados entre pessoas. Em determinado estágio, o trabalhador que não deseja utilizar IA não estará simplesmente recusando uma ferramenta disponível; estará potencialmente recusando a própria arquitetura gerencial dentro da qual seu trabalho passou a existir. Frederick Winslow Taylor (1856–1915) procurou decompor tarefas para encontrar a maneira mais eficiente de executá-las; a gestão algorítmica contemporânea pode realizar um taylorismo incomparavelmente mais granular, contínuo e adaptativo, transformando praticamente cada ação em dado e cada dado em fundamento para uma nova orientação. Michel Foucault (1926–1984), ao analisar as disciplinas modernas, percebeu que o poder mais eficiente não necessita manifestar-se permanentemente como proibição: ele organiza espaços, distribui posições, observa comportamentos, cria padrões e induz os sujeitos a regularem a si mesmos. Um ambiente profissional intensamente mediado por inteligência artificial pode realizar algo semelhante sem qualquer autoridade visível: dashboards, recomendações, indicadores, pontuações, previsões, avaliações automatizadas e metas comparativas formam uma normatividade operacional que pode ser mais efetiva que ordens expressas. Nesse cenário, o direito de não usar inteligência artificial precisaria ser pensado não como prerrogativa absoluta de inviabilizar atividades empresariais, mas como proteção contra certas formas de imposição desproporcional, especialmente quando a ferramenta invade a autonomia intelectual, produz monitoramento excessivo, substitui juízos profissionais protegidos, exige fornecimento de dados pessoais, condiciona promoções, modifica silenciosamente critérios de avaliação ou transforma a recusa tecnológica em motivo indireto de exclusão. Ronald Dworkin (1931–2013) insistiria em que igualdade política exige tratar as pessoas com igual consideração e respeito; Robert Alexy (1945–) lembraria que direitos fundamentais coexistem com outros princípios e devem ser harmonizados por estruturas de proporcionalidade; Luigi Ferrajoli (1940–) poderia situar o problema na necessidade de submeter poderes, inclusive poderes privados, a limites quando sua capacidade material de afetar liberdades se torna estrutural. A empresa possui interesses legítimos de produtividade, competitividade e organização; o trabalhador possui interesses legítimos de autonomia, privacidade, identidade profissional e preservação de determinadas competências. O problema jurídico sério começa precisamente onde ambas as posições são verdadeiras, porque direitos relevantes raramente surgem para solucionar situações em que apenas um lado possui razões.

ESQUEMA II — O CONFLITO NO TRABALHO

interesse empresarial legítimo em eficiência × autonomia profissional do trabalhador × necessidade de adaptação tecnológica × proteção contra vigilância e gestão algorítmica excessivas × direito de preservar competências humanas × igualdade entre aderentes e não aderentes × responsabilidade pelo resultado produzido com auxílio artificial

Conclusão: nem proibição geral da IA, nem poder irrestrito de impor sua utilização; a questão correta é determinar quando a exigência tecnológica é funcionalmente necessária e quando se converte em subordinação cognitiva desproporcional.

A expressão “subordinação cognitiva” talvez seja necessária para nomear fenômeno que os conceitos tradicionais do direito do trabalho ainda não capturam integralmente. A subordinação clássica diz respeito ao poder de direção sobre o modo de prestação do trabalho; a subordinação algorítmica refere-se à mediação desse poder por sistemas que distribuem tarefas, avaliam condutas e condicionam recompensas; a subordinação cognitiva acrescenta um elemento novo: a organização passa a influenciar não apenas o que deve ser feito, mas também quais instrumentos mentais ou para-mentais devem participar do processo pelo qual o trabalhador chega ao resultado. Um advogado pode receber uma tese jurídica previamente estruturada por um sistema; um jornalista pode ser orientado a utilizar uma ferramenta para produzir rascunhos; um professor pode ser obrigado a empregar plataformas adaptativas; um médico pode encontrar protocolos nos quais recomendações algorítmicas aparecem antes de sua avaliação; um programador pode ter sua produtividade calculada pressupondo uso de copilotos; um designer pode competir internamente com trabalhadores que geram dezenas de alternativas sintéticas em minutos; um tradutor pode ser contratado não mais para traduzir, mas para revisar tradução automatizada; um pesquisador pode ser pressionado a utilizar mecanismos capazes de acelerar revisão bibliográfica e elaboração preliminar de hipóteses. Adam Smith (1723–1790), frequentemente lembrado apenas pela defesa dos mercados, já percebia que a extrema divisão do trabalho poderia atrofiar capacidades do trabalhador quando sua atividade fosse reduzida à repetição de poucas operações; Marx (1818–1883) radicalizou essa percepção com o conceito de alienação; Georges Friedmann (1902–1977) examinou as consequências humanas da fragmentação industrial; André Gorz (1923–2007) questionou a centralidade social do trabalho e as formas de heteronomia produzidas pela organização econômica. A IA pode inverter parcialmente esse processo ao retirar tarefas repetitivas e permitir que trabalhadores se concentrem em atividades superiores, o que constitui possibilidade emancipatória real; mas pode também gerar alienação cognitiva quando o trabalhador deixa progressivamente de compreender ou dominar o processo pelo qual os resultados que assina são produzidos. Aqui aparece uma distinção decisiva: ser auxiliado por uma inteligência artificial não equivale necessariamente a permanecer autor intelectual do resultado. A fronteira depende do grau de delegação, da possibilidade de revisão, do domínio técnico do usuário, da transparência sobre o procedimento e da capacidade concreta de rejeitar a recomendação do sistema. Immanuel Kant (1724–1804), para quem esclarecimento significava a saída do homem de uma menoridade imputável à incapacidade de servir-se do próprio entendimento sem direção alheia, seria um interlocutor inevitável. A famosa convocação kantiana para ousar saber ganha nova tensão quando aquilo que dirige o entendimento não é um tutor humano, uma autoridade religiosa ou um soberano, mas um sistema estatístico incomparavelmente mais rápido e, em muitos domínios, mais informado que o indivíduo. O risco contemporâneo não consiste simplesmente em obedecer à máquina; consiste em abandonar progressivamente a capacidade de formar um juízo independente porque o custo de fazê-lo se torna elevado demais. O profissional continua formalmente responsável, mas a infraestrutura cognitiva da decisão é externa; continua assinando o documento, mas não concebeu integralmente sua estrutura; continua diagnosticando, mas parte do caminho diagnóstico foi produzido antes que seu próprio raciocínio começasse; continua ensinando, mas o conteúdo, a avaliação e o acompanhamento foram parcialmente organizados por sistemas que ele não criou. O direito de não usar inteligência artificial pode, nesse contexto, adquirir uma função análoga à de uma reserva de autonomia intelectual: não para garantir que todo trabalho permaneça manual, mas para impedir que determinadas profissões se convertam em simples postos de validação humana de decisões algorítmicas.

No ensino, a questão assume configuração ainda mais profunda porque a educação não existe apenas para produzir respostas corretas; existe, precisamente, para formar a pessoa capaz de chegar a elas. John Dewey (1859–1952) compreendeu a educação como experiência, processo e participação; Jean Piaget (1896–1980) estudou a construção ativa das estruturas cognitivas; Lev Vygotsky (1896–1934) mostrou como aprendizagem e desenvolvimento se articulam por mediações sociais; Paulo Freire (1921–1997) insistiu na dimensão emancipatória do aprendizado e na oposição entre educação como depósito e educação como construção crítica; Hannah Arendt (1906–1975), em sua reflexão sobre a crise da educação, percebeu que educar significa introduzir novos seres humanos num mundo que os precede sem lhes retirar a possibilidade de renová-lo. Nenhuma dessas perspectivas permite reduzir a educação à maximização da velocidade com que determinada resposta é produzida. Se um estudante recebe uma questão de filosofia e uma inteligência artificial lhe entrega em poucos segundos uma síntese sofisticada de Aristóteles (384–322 a.C.), René Descartes (1596–1650), David Hume (1711–1776), Kant (1724–1804), Georg Wilhelm Friedrich Hegel (1770–1831) e Ludwig Wittgenstein (1889–1951), a qualidade objetiva da resposta pode superar a que ele produziria sozinho; entretanto, a diferença educacional fundamental reside em saber se o estudante utilizou a síntese como novo material para pensar ou se substituiu o próprio processo de elaboração pela recepção de um produto terminado. Alfred North Whitehead (1861–1947) advertiu contra o conhecimento inerte, acumulado sem capacidade de mobilização; Jerome Bruner (1915–2016) enfatizou a aprendizagem como processo de construção; Edgar Morin (1921–) insiste na necessidade de formar um pensamento capaz de enfrentar complexidade, incerteza e interdependência. A inteligência artificial pode colaborar extraordinariamente com cada um desses objetivos se utilizada como interlocutora, simuladora, crítica e instrumento de expansão; mas pode igualmente prejudicá-los se transformar-se numa máquina de eliminar as dificuldades cognitivas que precisamente deveriam formar o estudante. A dificuldade possui função educacional. O aluno que luta durante horas para organizar um argumento talvez produza um texto inferior ao que uma IA construiria em minutos, mas é possível que justamente nessas horas tenham ocorrido as transformações cognitivas que justificam a existência da atividade. Nietzsche (1844–1900), para quem formação e superação exigem enfrentamento, perceberia imediatamente o problema de uma cultura que começa a eliminar todo atrito intelectual; Søren Kierkegaard (1813–1855), interessado na apropriação subjetiva da verdade, lembraria que determinada verdade compreendida por outro não substitui aquilo que o indivíduo precisa fazer interiormente para torná-la sua. A educação encontra-se, portanto, diante de um paradoxo estrutural: quanto melhor a inteligência artificial se tornar na execução de tarefas acadêmicas, menos essas tarefas poderão continuar sendo utilizadas ingenuamente como medida de aprendizado. Proibir integralmente a IA seria provavelmente inviável e intelectualmente empobrecedor; permitir indiscriminadamente seu uso produziria o risco de confundir desempenho assistido com competência adquirida. Nesse espaço intermediário, o direito de não usar IA adquire uma dimensão inesperada: pode ser necessário garantir ao estudante oportunidades reais de aprender sem mediação artificial, ambientes nos quais lentidão, erro, tentativa, memória, elaboração e esforço não sejam tratados como ineficiências a serem eliminadas, mas como componentes constitutivos da formação humana.

ESQUEMA III — EDUCAÇÃO NÃO É PRODUÇÃO DE RESPOSTAS

resposta correta ≠ conhecimento conhecimento ≠ compreensão compreensão ≠ elaboração própria elaboração própria ≠ autonomia crítica autonomia crítica ≠ simples velocidade cognitiva

IA pode aumentar: acesso + personalização + comparação + revisão + experimentação + alcance.

IA pode diminuir: esforço formativo + memória operacional + tolerância à dificuldade + autoria + experiência do erro + confiança no próprio julgamento.

Portanto: a questão educacional não é “usar ou não usar IA”, mas preservar deliberadamente contextos em que certas capacidades só podem ser avaliadas e desenvolvidas sem ela.

Esse ponto exige uma distinção conceitual fundamental entre direito à inteligência artificial, direito com inteligência artificial e direito contra a compulsoriedade da inteligência artificial. O primeiro surgirá quando sistemas inteligentes se tornarem tão relevantes para educação, saúde, trabalho e acesso à informação que sua ausência produzir desigualdade grave; nesse cenário, impedir que determinados grupos tenham acesso à IA poderá equivaler a privá-los de uma infraestrutura cognitiva distribuída socialmente. O segundo diz respeito ao conjunto de garantias que devem acompanhar sua utilização: transparência, proteção de dados, explicabilidade quando cabível, revisão humana, segurança, não discriminação e responsabilização. O terceiro, mais negligenciado, protege justamente aquele que não quer ou não pode utilizar a ferramenta. Esses três direitos não são contraditórios; são complementares porque liberdade tecnológica significa preservar tanto a possibilidade de acesso quanto a possibilidade de recusa. Norberto Bobbio (1909–2004) observou que novos direitos surgem historicamente quando transformações sociais produzem novas formas de ameaça e novas pretensões de proteção; direitos que pareceriam inconcebíveis em determinado momento tornam-se necessários quando a estrutura da vida muda. Samuel Pufendorf (1632–1694), Hugo Grócio (1583–1645), John Locke (1632–1704) e outros autores do jusnaturalismo moderno pensaram direitos em torno de necessidades humanas concretas existentes nas sociedades de seu tempo; constitucionalismos posteriores incorporaram garantias relacionadas a novas configurações de poder. Ninguém precisaria de proteção de dados pessoais numa sociedade sem capacidade massiva de coleta, armazenamento e correlação de informações; ninguém precisaria de direito à desconexão numa economia em que trabalho e presença digital jamais ultrapassassem o espaço físico da empresa; ninguém precisaria discutir neutralidade de rede numa sociedade sem infraestrutura digital; ninguém precisaria discutir um direito de recusar decisões exclusivamente automatizadas se decisões automatizadas não existissem. Da mesma maneira, talvez ainda soe artificial falar em direito de não usar inteligência artificial porque estamos historicamente próximos do momento em que utilizá-la ainda parece uma escolha. Entretanto, direitos frequentemente se tornam visíveis justamente quando uma escolha está prestes a desaparecer. Giorgio Agamben (1942–) chama atenção, em contextos muito distintos, para o modo como exceções podem naturalizar-se e transformar a estrutura ordinária; Byung-Chul Han (1959–), analisando a sociedade do desempenho, demonstra como coerções modernas frequentemente não aparecem como imposições externas, mas como exigências internalizadas de produtividade. Aplicado à IA, isso significa que o poder de coerção pode operar pelo desejo de não ficar para trás. Não é necessário que empregador, universidade ou governo obriguem formalmente alguém a usar determinada tecnologia; basta que resultados esperados sejam calibrados segundo aqueles capazes de utilizá-la. A obrigação migra da norma para a métrica. O sistema não ordena: simplesmente redefine o que conta como desempenho aceitável. Assim nasce uma das formas mais discretas de coerção contemporânea: você continua livre para recusar a ferramenta, desde que aceite deixar de competir com quem a utiliza.

Essa afirmação conduz diretamente ao problema da igualdade. Aristóteles (384–322 a.C.) já compreendia que igualdade não consiste em tratar uniformemente situações diferentes; a tradição posterior desenvolveria incontáveis variações dessa ideia. John Rawls (1921–2002), ao pensar princípios de justiça escolhidos sob condições que neutralizam vantagens contingentes, perguntaria como devem ser distribuídos benefícios e ônus de uma tecnologia que aumenta capacidades de modo desigual; Ronald Dworkin (1931–2013) investigaria quais desigualdades podem decorrer legitimamente das escolhas individuais e quais precisam ser corrigidas porque resultam de circunstâncias sobre as quais o sujeito não tem controle; Amartya Sen (1933–2023) deslocaria a atenção dos recursos para capacidades reais. A inteligência artificial embaralha essas categorias porque a decisão de utilizá-la pode ser simultaneamente escolha e necessidade. Uma pessoa pode preferir trabalhar sem IA por convicção intelectual; outra pode rejeitá-la por temor de exposição de dados; outra pode não dominar a tecnologia; outra pode possuir deficiência que dificulte interação com determinados sistemas; outra pode estar proibida por dever de confidencialidade; outra pode exercer profissão na qual ferramentas disponíveis não sejam confiáveis; outra simplesmente pode desejar preservar a experiência de realizar determinada atividade sem assistência. São razões diferentes que não justificam necessariamente o mesmo grau de proteção, mas demonstram por que a dicotomia “usuários racionais versus resistentes irracionais” seria grosseiramente inadequada. Pierre Bourdieu (1930–2002) provavelmente acrescentaria que a competência tecnológica funciona como nova forma de capital cultural: aquilo que parece habilidade individual é distribuído socialmente de maneira desigual, conforme educação, renda, idade, profissão, idioma, acesso e redes. Manuel Castells (1942–), ao analisar a sociedade em rede, já mostrou que inclusão e exclusão contemporâneas dependem cada vez mais da posição do indivíduo em estruturas informacionais. A IA pode radicalizar essa diferença: não possuir acesso ou competência para utilizá-la pode equivaler, em determinados setores, a trabalhar com uma fração das capacidades disponíveis aos demais. Entretanto, existe uma consequência paradoxal: a política pública precisa simultaneamente ampliar acesso para que ninguém seja prejudicado por não poder usar e preservar a recusa para que ninguém seja prejudicado por não querer usar. Não poder usar IA e não querer usar IA são problemas distintos; uma sociedade livre deve impedir que o primeiro decorra de desigualdade e que o segundo produza automaticamente exclusão.

O conceito de neutralidade tecnológica, frequentemente invocado em debates regulatórios, também precisa ser reexaminado. A ideia de que o direito deveria regular funções, riscos e efeitos sem amarrar-se a tecnologias específicas possui grande valor porque evita obsolescência normativa; entretanto, nenhuma sociedade é realmente neutra diante das tecnologias que estrutura. Langdon Winner (1944–) demonstrou que artefatos podem possuir consequências políticas porque seu desenho distribui possibilidades, acessos e controles; Bruno Latour (1947–2022), recusando a separação simplista entre sociedade e técnica, mostrou como redes sociotécnicas associam humanos e objetos numa mesma estrutura de ação; Don Ihde (1934–2024) analisou fenomenologicamente como tecnologias mediam nossa relação com o mundo. Um sistema de atendimento que só funciona por aplicativo não é neutro diante de quem não possui smartphone; uma universidade que organiza todas as atividades numa plataforma não é neutra diante de quem deseja permanecer offline; uma empresa que integra IA generativa a todos os fluxos de trabalho não é neutra diante de quem rejeita utilizá-la. A arquitetura contém normatividade. Lawrence Lessig (1961–) sintetizou essa percepção na ideia de que códigos e arquiteturas regulam comportamentos tanto quanto normas jurídicas, mercados e costumes. O direito de não usar IA, portanto, dependeria não somente de proibições antidiscriminatórias, mas também da existência de rotas alternativas funcionalmente reais. Não basta afirmar que o cidadão pode solicitar atendimento humano se esse atendimento demora dez vezes mais; não basta permitir prova acadêmica sem IA se o ensino inteiro pressupõe ferramentas inteligentes; não basta autorizar empregado a não utilizar determinado sistema se as metas são calculadas pelo desempenho daqueles que o utilizam; não basta oferecer consentimento se a recusa impede acesso ao serviço principal. Consentimento sem alternativa pode tornar-se ritual. Friedrich Nietzsche (1844–1900) insistiria na importância de desconfiar das palavras nobres quando as relações reais de força apontam em outra direção; Foucault (1926–1984) lembraria que poderes modernos operam frequentemente na organização das possibilidades, não somente na imposição de comandos. Assim, a pergunta juridicamente relevante não é apenas “houve consentimento para usar IA?”, mas também “era possível recusar sem sofrer uma desvantagem desproporcional?”. Essa mudança de pergunta desloca o debate da formalidade para a substância.

ESQUEMA IV — A LIBERDADE TECNOLÓGICA COMPLETA

direito de acessar

+

direito de compreender

+

direito de utilizar

+

direito de saber quando está sendo utilizada

+

direito de contestar seus resultados

+

direito de solicitar intervenção humana em situações relevantes

+

direito de preservar dados e autonomia

+

direito de não utilizar quando houver alternativa razoável

Essa autodeterminação tecnológica pode ser compreendida como desenvolvimento contemporâneo de uma ideia muito mais antiga: a pessoa não deve ser tratada exclusivamente como objeto de processos que não controla. Kant (1724–1804), ao formular a exigência de tratar a humanidade sempre também como fim e nunca simplesmente como meio, ofereceu um fundamento normativo que permanece extremamente poderoso diante de sistemas capazes de classificar, prever e orientar comportamentos; Hegel (1770–1831) concebeu a liberdade não como isolamento, mas como reconhecimento institucional de uma vontade que se sabe participante da ordem comum; Axel Honneth (1949–) desenvolveu a teoria do reconhecimento mostrando que autonomia depende de relações sociais nas quais o indivíduo é reconhecido como sujeito. Uma inteligência artificial não precisa possuir consciência, intenção ou personalidade para alterar essas relações de reconhecimento. Basta que instituições comecem a tratá-la como interlocutor preferencial e o humano como fonte de ruído. Um candidato a emprego pode ser avaliado por filtros automatizados antes que qualquer pessoa o conheça; um trabalhador pode receber feedback produzido estatisticamente; um estudante pode interagir mais frequentemente com tutores artificiais do que com professores; um paciente pode ser triado por modelos preditivos; um consumidor pode ser atendido indefinidamente por agentes sintéticos; um cidadão pode apresentar solicitações a sistemas que antecipam respostas. Em todos esses casos existe um ganho potencial de escala, eficiência e disponibilidade. Mas existe também uma questão de reconhecimento: há contextos nos quais ser ouvido por uma pessoa não é luxo, mas parte da própria natureza do direito exercido? Emmanuel Levinas (1906–1995), ao colocar a relação com o rosto do outro no centro da ética, sugeriria uma resposta especialmente exigente; Martin Buber (1878–1965), distinguindo relações Eu-Tu e Eu-Isso, permitiria perguntar se determinadas instituições podem converter excessivamente sujeitos em objetos processáveis; Paul Ricoeur (1913–2005), ao pensar identidade, narrativa e reconhecimento, mostraria que decisões humanas não são apenas problemas de classificação, mas frequentemente exigem compreender histórias. O direito de não interagir com IA poderia, portanto, aparecer em situações específicas como direito a uma relação humana, especialmente quando estão em jogo sofrimento, conflito, julgamento moral, vulnerabilidade ou exercício de direitos fundamentais. Não porque seres humanos sejam infalíveis — evidentemente não são —, mas porque responsabilidade possui uma dimensão relacional que nenhum aumento de precisão estatística elimina. Uma decisão pode estar correta e ainda assim ser institucionalmente problemática se ninguém puder responder por ela, explicar por que foi tomada ou escutar aquilo que o caso singular possui de não classificável.

A medicina exemplifica esse dilema de forma particularmente clara. Hipócrates (c. 460–c. 370 a.C.) representa simbolicamente uma tradição na qual a relação terapêutica envolve conhecimento, prudência e responsabilidade pessoal; Hans-Georg Gadamer (1900–2002), ao refletir sobre saúde e medicina, insistiu na impossibilidade de reduzir completamente a prática clínica a aplicação técnica de conhecimento; Georges Canguilhem (1904–1995) mostrou que normal e patológico não são categorias puramente estatísticas; Michel Foucault (1926–1984), examinando o nascimento da clínica, revelou como formas de saber médico organizam maneiras de ver o corpo e a doença. A IA promete ampliar diagnóstico, previsão de risco, interpretação de imagens, descoberta de padrões e organização de informações em escalas que nenhum médico isoladamente poderia atingir. Seria irracional rejeitar esses ganhos por princípio. Mas precisamente porque sua utilidade pode tornar-se extraordinária, aparece uma questão delicada: poderá o médico, no futuro, recusar racionalmente uma recomendação algorítmica sem assumir risco jurídico adicional? Se um sistema estatisticamente superior sugere determinado diagnóstico e o profissional discorda, quem será considerado responsável se o resultado adverso ocorrer? Com o tempo, ferramentas inicialmente opcionais podem converter-se em padrão de diligência. O mesmo pode acontecer no Direito. Se sistemas de pesquisa jurídica conseguem encontrar precedentes relevantes com taxa superior à pesquisa exclusivamente humana, poderá um advogado deixar de utilizá-los sem correr o risco de ser acusado de negligência? Se sistemas de detecção conseguem identificar fraudes que escapam ao auditor comum, será legítimo não consultá-los? Se um software pode prever interações medicamentosas, o médico poderá ignorá-lo? A expansão tecnológica cria um fenômeno jurídico conhecido: aquilo que é tecnicamente possível começa a redefinir aquilo que é juridicamente exigível. Hans Jonas (1903–1993), ao formular uma ética da responsabilidade adequada ao poder tecnológico moderno, advertia que novas capacidades aumentam também o alcance de nossas obrigações. A inteligência artificial pode produzir exatamente esse efeito: quanto mais capaz se torna de evitar erros, mais difícil será justificar não utilizá-la. O direito de não usar IA encontrará então seu limite mais difícil, porque liberdade individual não pode servir como fundamento para expor terceiros a riscos evitáveis. A solução, portanto, não será absoluta. Em determinadas atividades, o uso de sistemas comprovadamente seguros poderá tornar-se obrigação profissional legítima; em outras, a recusa deverá ser protegida. A fronteira dependerá de risco, evidência, impacto sobre terceiros, disponibilidade de alternativas e natureza da tarefa. Nenhum direito sério é construído ignorando seus limites; o desafio está justamente em defini-los sem permitir que a exceção engula a liberdade.

A esfera jurídica apresenta problema ainda mais grave porque julgar possui dimensão que não pode ser confundida com prever. Oliver Wendell Holmes Jr. (1841–1935) observou que o Direito poderia ser analisado a partir das previsões sobre aquilo que tribunais fariam; o realismo jurídico norte-americano explorou intensamente o comportamento decisório; Alf Ross (1899–1979) procurou compreender o Direito a partir de práticas efetivas; Hans Kelsen (1881–1973), por caminho completamente distinto, construiu uma teoria normativa que separava validade e causalidade; Herbert Hart (1907–1992) mostrou a textura aberta da linguagem jurídica; Ronald Dworkin (1931–2013) insistiu em que decidir casos difíceis implica interpretar princípios e construir a melhor justificativa da prática jurídica; Robert Alexy (1945–) desenvolveu uma concepção discursiva da argumentação; Jürgen Habermas (1929–) ligou legitimidade à possibilidade de justificação racional. A inteligência artificial pode aprender padrões de decisões anteriores e prever resultados, mas previsão não equivale a justificação. Um juiz que decide porque um sistema informou que noventa por cento dos casos semelhantes foram julgados de determinada maneira não realizou necessariamente o ato jurídico de justificar por que aquele caso deve receber igual tratamento. A diferença é ontológica: causalidade estatística descreve regularidades; normatividade procura razões. David Hume (1711–1776) já demonstrava que nenhuma quantidade de fatos produz por si só um dever; Kant (1724–1804) separaria os domínios da causalidade natural e da razão prática; Kelsen (1881–1973) faria distinção semelhante entre ser e dever-ser. O risco da IA jurídica consiste precisamente em oferecer respostas tão convincentes, rápidas e probabilisticamente fundamentadas que a diferença entre previsão e decisão desapareça na prática. Nesse contexto, o direito de não usar inteligência artificial pode assumir uma dimensão institucional: talvez certos atos devam preservar zonas de elaboração humana não apenas por nostalgia, mas porque a legitimidade do ato depende de uma pessoa responder por razões que compreende. Um juiz pode utilizar IA para organizar documentos, localizar precedentes e comparar argumentos; outra coisa é permitir que a estrutura essencial da decisão seja gerada por sistema que o magistrado apenas valida superficialmente. Um advogado pode utilizar IA como ferramenta de pesquisa; outra coisa é assinar raciocínios cuja formação não domina. Lon Fuller (1902–1978), ao pensar a moralidade interna do Direito, destacaria exigências de publicidade, coerência e inteligibilidade; Neil MacCormick (1941–2009) lembraria a centralidade da justificação racional; Chaïm Perelman (1912–1984) e Lucie Olbrechts-Tyteca (1899–1987) ressaltariam a dimensão argumentativa orientada a auditórios reais. Direito é produção institucional de razões. Se a inteligência artificial se tornar capaz de produzi-las melhor do que muitos humanos, surgirá uma tentação extraordinária de terceirizar o próprio núcleo justificativo. Exatamente por isso será necessário determinar quais atividades jurídicas podem ser artificialmente assistidas e quais não devem perder um responsável humano que realmente compreenda aquilo que afirma.

ESQUEMA V — ASSISTÊNCIA NÃO É SUBSTITUIÇÃO

IA localiza → humano interpreta IA compara → humano distingue IA sugere → humano avalia IA prevê → humano justifica IA organiza → humano responde IA produz possibilidade → humano assume autoria

Quando essa sequência se inverte — humano apenas confirma aquilo que não construiu nem compreende — a responsabilidade permanece formal enquanto a autoria intelectual desaparece.

O paradoxo da responsabilidade merece desenvolvimento próprio. Se uma tecnologia se torna indispensável porque supera determinadas capacidades humanas, mas a pessoa continua responsável por verificar seu resultado, cria-se uma situação epistemologicamente estranha: exige-se que o indivíduo controle uma inteligência cujo valor está justamente em enxergar aquilo que ele não conseguiria enxergar sozinho. Se o médico pudesse integralmente verificar cada inferência do sistema, talvez parte da vantagem do sistema desaparecesse; se o advogado pudesse reproduzir manualmente toda busca realizada pela IA, pouco sentido haveria em utilizá-la; se o programador precisasse compreender antecipadamente cada linha sugerida antes de recebê-la, a automação perderia boa parte de sua função. Luciano Floridi (1964–), ao desenvolver uma filosofia da informação e uma ética adaptada a ambientes digitais, tem insistido na necessidade de pensar responsabilidade em ecossistemas compostos por múltiplos agentes e mediações; Daniel Dennett (1942–2024), embora tenha se ocupado de temas mais amplos relacionados à mente e à agência, oferece instrumentos para distinguir níveis de explicação e atribuição; John Searle (1932–), famoso por sua crítica às pretensões fortes da inteligência artificial, lembraria que manipulação formal de símbolos não equivale necessariamente a compreensão. O usuário de IA pode tornar-se responsável por algo que não compreende completamente, enquanto o sistema que produziu o conteúdo não é sujeito jurídico responsável. Forma-se uma espécie de vazio de imputação preenchido artificialmente pelo usuário final. O direito de não usar IA pode ser relevante justamente porque ninguém deveria ser obrigado a assumir responsabilidade por processos cuja lógica essencial lhe é inacessível. Essa tese, contudo, precisa ser modulada: utilizamos permanentemente tecnologias que não compreendemos em profundidade — automóveis, medicamentos, redes elétricas, sistemas bancários — e nem por isso nossa autonomia desaparece. A diferença surge quando o processo tecnológico substitui diretamente uma faculdade pela qual somos cobrados. Não se exige que o motorista compreenda termodinâmica para dirigir porque dirigir não consiste em construir o motor; mas se o juiz é obrigado a justificar uma decisão, delegar a produção das razões afeta o próprio objeto de sua responsabilidade. Gilbert Ryle (1900–1976), distinguindo saber que e saber como, ajudaria a perceber que competências possuem estruturas diferentes; Michael Polanyi (1891–1976) mostraria novamente que domínio prático envolve conhecimento tácito não redutível a instruções. Uma sociedade sensata deverá, portanto, distinguir tecnologias que ampliam a execução sem comprometer a competência essencial daquelas que substituem precisamente a faculdade cuja titularidade humana fundamenta a responsabilidade.

Há ainda uma dimensão existencial frequentemente ignorada nos debates sobre produtividade. O homem não realiza atividades apenas para obter resultados; frequentemente realiza atividades porque encontra nelas sentido. Aristóteles (384–322 a.C.) compreendia a vida boa em termos de atividade conforme a excelência; Tomás de Aquino (1225–1274) desenvolveria uma concepção teleológica na qual as ações humanas participam da realização de bens; Friedrich Schiller (1759–1805), ao pensar a educação estética, relacionou liberdade e desenvolvimento integral das faculdades; William Morris (1834–1896), crítico das formas industriais que esvaziavam o prazer do trabalho, defendia a importância da dimensão criativa da atividade produtiva; Richard Sennett (1943–), em sua reflexão sobre o artífice, mostrou como domínio, repetição e aperfeiçoamento produzem uma forma de relação ética com o trabalho. A IA reabre essa discussão em escala inédita porque oferece a possibilidade de eliminar não apenas tarefas penosas, mas também partes do processo que algumas pessoas valorizam justamente por serem difíceis. Um escritor pode querer escrever cada palavra; um fotógrafo pode querer compor a imagem sem geração sintética; um advogado pode preferir construir integralmente sua linha argumentativa; um professor pode desejar preparar sua própria aula; um programador pode obter satisfação em resolver determinado problema sem copiloto; um tradutor pode considerar a tradução uma atividade intelectual e estética, não mera transferência de sentido. Se a sociedade responde que essas escolhas são “ineficientes”, talvez esteja cometendo um erro de categoria. Eficiência responde à pergunta sobre a relação entre meios e fins; não decide quais fins merecem ser perseguidos. Max Weber (1864–1920) distinguiria racionalidade instrumental e racionalidade orientada por valores; Jürgen Habermas (1929–) alertaria contra a colonização de esferas da vida por lógicas sistêmicas; Charles Taylor (1931–) insistiria na importância dos horizontes de significado que estruturam identidades. Uma pessoa pode racionalmente escolher um processo mais lento porque o processo é parte do bem que procura. Caminhar não é uma forma defeituosa de chegar; cozinhar não é apenas método ineficiente de obter nutrientes; conversar pessoalmente não é mera transmissão lenta de informação; escrever à mão pode possuir valor que não se mede pelo número de caracteres produzidos por minuto. A existência humana está cheia de atividades cujo sentido seria destruído se seu único critério fosse eficiência. O direito de não usar inteligência artificial talvez precise proteger, portanto, não apenas liberdade profissional, mas também o direito de realizar determinadas coisas humanamente porque a maneira de fazê-las integra o próprio significado da atividade.

Isso conduz à estética. Walter Benjamin (1892–1940), ao analisar a obra de arte na era de sua reprodutibilidade técnica, mostrou que mudanças tecnológicas não apenas modificam mecanismos de produção e circulação, mas transformam o próprio estatuto da obra; Theodor Adorno (1903–1969) e Max Horkheimer (1895–1973) analisaram criticamente a indústria cultural e a padronização; Roland Barthes (1915–1980) problematizou a figura do autor; Michel Foucault (1926–1984) perguntou o que é um autor; Umberto Eco (1932–2016) explorou a abertura interpretativa da obra; Arthur Danto (1924–2013) investigou o que distingue arte e objeto comum num mundo em que propriedades perceptivas já não bastam para diferenciá-los. A arte gerada ou assistida por IA coloca todas essas perguntas novamente em circulação. Se um sistema pode produzir em segundos imagens visualmente impressionantes, músicas convincentes, narrativas complexas e estilos híbridos, a execução técnica perde parte de sua escassez. O valor pode migrar para intenção, seleção, contexto, conceito, biografia ou autenticidade do processo. Nesse cenário, a recusa da IA pode tornar-se elemento constitutivo de determinadas práticas artísticas. “Produzido sem inteligência artificial” talvez assuma função semelhante à de outras certificações de processo: não porque o resultado seja objetivamente melhor, mas porque o modo de produção possui valor para criador e público. Walter Benjamin (1892–1940) perguntaria qual nova forma de aura pode emergir exatamente quando a produção sintética se torna ilimitada. Talvez a aura futura não esteja na impossibilidade de reprodução do objeto, mas na comprovada presença de trabalho humano durante sua elaboração. Paradoxalmente, quanto mais perfeita se tornar a geração artificial, mais valor simbólico pode adquirir aquilo que é deliberadamente feito sem ela. Não será superioridade estética necessária; será diferença ontológica de processo.

A linguagem também poderá ser transformada. Ludwig Wittgenstein (1889–1951) escreveu que os limites da linguagem se relacionam de modo profundo com os limites do mundo e posteriormente mostrou que significados emergem de usos inscritos em formas de vida; Ferdinand de Saussure (1857–1913) compreendeu a língua como sistema de diferenças; Mikhail Bakhtin (1895–1975) enfatizou a dimensão dialógica dos enunciados; Noam Chomsky (1928–) revolucionou o estudo formal da linguagem; Jacques Derrida (1930–2004) desconstruiu pretensões de presença plena do significado. Sistemas de linguagem em larga escala passam agora a integrar diretamente essas formas de vida, interferindo não apenas no que lemos, mas no que escrevemos. Quando milhões de pessoas utilizam assistentes para revisar, completar, resumir e estilizar seus textos, a linguagem pública pode passar por uma espécie de normalização algorítmica. Expressões incomuns são corrigidas; estruturas ambíguas são simplificadas; idiossincrasias são tratadas como problemas; estilos convergem para padrões considerados claros, convincentes ou profissionais. A inteligência artificial pode enriquecer textos, mas também pode homogeneizá-los se utilizada de maneira acrítica. Pierre Bourdieu (1930–2002), ao analisar o poder simbólico da linguagem legítima, mostraria como determinadas formas de falar são socialmente privilegiadas; George Orwell (1903–1950), embora em contexto literário e político diferente, percebeu a relação íntima entre empobrecimento linguístico e redução de possibilidades de pensamento. O direito de não usar IA pode significar, em esfera cultural, direito de preservar a imperfeição da própria voz. Uma sociedade na qual todo e-mail, currículo, artigo, parecer, mensagem institucional e trabalho acadêmico seja previamente suavizado por sistemas de estilo pode tornar a linguagem mais correta e simultaneamente menos singular. O erro, a irregularidade, a frase incomum e a construção excessiva podem ser defeitos; podem também ser assinatura humana. Fernando Pessoa (1888–1935) provavelmente lembraria, por meio de sua própria multiplicidade de vozes, que identidade literária não surge da eliminação das contradições, mas frequentemente de sua intensificação. O desafio não é conservar erros por fetichismo, mas impedir que eficiência comunicacional elimine diferença expressiva.

ESQUEMA VI — O QUE PODE SER PERDIDO QUANDO TUDO É OTIMIZADO

demora → pode conter reflexão dificuldade → pode produzir competência erro → pode produzir aprendizagem repetição → pode produzir domínio incerteza → pode exigir julgamento imperfeição → pode carregar singularidade esforço → pode integrar o sentido da atividade limite → pode estimular invenção

A otimização só é racional depois que se sabe aquilo que não deve ser otimizado para fora da experiência humana.

O tema conduz inevitavelmente à dignidade. A Constituição das democracias contemporâneas, os sistemas internacionais de direitos humanos e grande parte da filosofia jurídica do pós-guerra atribuem à pessoa um valor que não depende de desempenho comparativo. Kant (1724–1804) fornece a formulação clássica: aquilo que possui preço pode ser substituído por equivalente; aquilo que possui dignidade não admite equivalência. Essa distinção adquire urgência num mundo em que capacidades anteriormente utilizadas para medir mérito humano podem ser superadas artificialmente. Se inteligência, velocidade de análise, memória, criatividade textual, cálculo e reconhecimento de padrões deixarem de constituir vantagens exclusivamente humanas, a sociedade terá de reaprender a distinguir valor pessoal de produtividade cognitiva. Michael Sandel (1953–), ao criticar os excessos da meritocracia, mostra como sociedades orientadas por desempenho transformam êxito em sinal de merecimento e fracasso em culpa; Byung-Chul Han (1959–) descreve a violência psíquica de uma sociedade na qual o indivíduo explora a si mesmo sob a linguagem da performance; Alain Ehrenberg (1950–) analisa as patologias de uma cultura baseada na obrigação de tornar-se autor eficiente da própria vida. A IA pode intensificar esse regime porque eleva drasticamente o padrão de produção esperado. Se uma pessoa consegue responder vinte mensagens por hora com assistência, por que responder cinco? Se consegue preparar uma apresentação em trinta minutos, por que pedir duas horas? Se consegue revisar cem documentos, por que revisar vinte? A ferramenta que economiza tempo pode paradoxalmente eliminar o tempo economizado porque a organização aumenta proporcionalmente as expectativas. Esse fenômeno já acompanhou outras tecnologias: produtividade crescente raramente se converte automaticamente em descanso equivalente. Keynes (1883–1946) imaginou que avanços produtivos poderiam reduzir radicalmente o tempo de trabalho; Bertrand Russell (1872–1970) chegou a defender filosoficamente o valor do ócio; Josef Pieper (1904–1997) tratou o lazer como fundamento cultural. A história econômica mostrou algo mais ambíguo: ganhos de produtividade podem reduzir esforço em algumas dimensões e simultaneamente criar novas demandas. A inteligência artificial pode produzir o maior paradoxo dessa tradição: uma tecnologia criada para poupar trabalho cognitivo pode tornar-se o instrumento que multiplica indefinidamente aquilo que se espera da cognição humana. Nesse contexto, o direito de não usar IA toca o direito de não aceitar que o máximo tecnicamente possível se converta automaticamente no mínimo profissionalmente exigível.

A ideia merece ser formulada com precisão: possibilidade técnica não gera, por si só, dever jurídico, profissional ou moral de utilização. Essa proposição parece trivial, mas suas consequências são profundas. Se existe um método mais rápido de responder mensagens, disso não segue que toda pessoa deva responder mais mensagens; se existe sistema capaz de gerar relatórios em segundos, disso não segue que a quantidade normal de relatórios deva crescer proporcionalmente; se modelos conseguem produzir análises preliminares instantâneas, disso não segue que prazos devam ser comprimidos até absorver toda a eficiência criada. David Ricardo (1772–1823), Karl Marx (1818–1883), John Maynard Keynes (1883–1946), Joseph Schumpeter (1883–1950) e inúmeros economistas analisaram, por perspectivas distintas, como inovações reorganizam produção, trabalho e distribuição; Schumpeter descreveu a destruição criadora, pela qual novas combinações econômicas substituem estruturas anteriores. O conceito explica dinamismo, mas não resolve a questão normativa sobre como os ganhos e custos da transformação devem ser distribuídos. Se a IA aumenta a produtividade de um trabalhador em cinquenta por cento, quem se apropria desse ganho? O empregado por meio de redução de jornada? A empresa por aumento de produção? O consumidor por preços menores? O proprietário da tecnologia por renda? A sociedade por crescimento econômico? Nenhuma lei natural responde. Trata-se de uma decisão institucional e distributiva. Thomas Piketty (1971–) chama atenção para como estruturas econômicas determinam a distribuição dos ganhos de crescimento; John Kenneth Galbraith (1908–2006) mostrou o papel das organizações e do poder na economia moderna; Elinor Ostrom (1933–2012) demonstrou que arranjos institucionais não precisam obedecer a dicotomias simplistas entre Estado e mercado. A discussão sobre IA precisa incorporar essa dimensão: não basta perguntar quantos empregos desaparecerão ou surgirão; é preciso perguntar quem controlará a produtividade adicional e se indivíduos terão liberdade real para não transformar todas as economias de tempo em novas obrigações.

O próprio tempo é talvez o elemento oculto de todo o problema. Agostinho de Hipona (354–430), nas suas célebres reflexões, percebeu a dificuldade quase paradoxal de definir aquilo que todos parecem conhecer intuitivamente; Henri Bergson (1859–1941) distinguiu tempo quantitativo e duração vivida; Edmund Husserl (1859–1938) examinou a constituição fenomenológica da temporalidade; Martin Heidegger (1889–1976) colocou o tempo no centro da estrutura da existência; Paul Ricoeur (1913–2005) investigou a relação entre tempo e narrativa. A inteligência artificial é, em grande medida, tecnologia de compressão temporal: reduz o intervalo entre pergunta e resposta, problema e solução, intenção e execução. Aquilo que demandava horas passa a demandar minutos; o que demandava dias passa a ocorrer em segundos. Economicamente, isso é produtividade. Fenomenologicamente, porém, é reorganização da experiência. Algumas atividades dependem precisamente do tempo que consomem. Pensar pode exigir incubação; escrever pode exigir hesitação; aprender pode exigir repetição; decidir pode exigir distância; compreender alguém pode exigir convivência. A aceleração não é intrinsecamente nociva, mas Hartmut Rosa (1965–), ao analisar a aceleração social, mostra como instituições modernas produzem um crescimento permanente da velocidade que não necessariamente amplia a sensação de disponibilidade temporal; ao contrário, pode gerar escassez crônica de tempo. A IA promete poupar horas e pode terminar aumentando aquilo que precisa ser realizado dentro delas. O direito de não utilizá-la, em certos contextos, pode converter-se portanto em direito à duração humana de determinadas atividades. Uma universidade pode dizer que determinado trabalho deve ser feito sem IA não porque odeie a tecnologia, mas porque deseja que o estudante permaneça tempo suficiente diante de um problema; um tribunal pode exigir elaboração humana de determinada decisão porque justificar exige responsabilidade; um artista pode rejeitar geração automática porque o próprio processo é parte da obra; um trabalhador pode reivindicar períodos nos quais sua produtividade não seja comparada a padrões artificialmente ampliados. O que está em jogo não é eficiência contra atraso; é pluralidade temporal contra a imposição de uma única velocidade.

Também seria equivocado imaginar que o direito de não utilizar IA beneficiaria apenas pessoas avessas à tecnologia. Ele pode proteger justamente os usuários mais sofisticados, porque quem conhece profundamente um instrumento pode reconhecer melhor os momentos em que ele não deve ser empregado. Aristóteles (384–322 a.C.) denominava phronesis a prudência necessária para julgar particulares sem reduzir ação prática a regras universais; Gadamer (1900–2002) recuperou a importância dessa tradição para a hermenêutica; Donald Schön (1930–1997) estudou a reflexão-na-ação de profissionais diante de situações singulares; Hubert Dreyfus (1929–2017), crítico de certas concepções de inteligência artificial, enfatizou o caráter situado e incorporado de muitas competências humanas. A verdadeira alfabetização em IA talvez não consista em utilizá-la o máximo possível, mas em saber quando utilizá-la, quando desconfiar dela e quando deliberadamente afastá-la. Um profissional que recorre automaticamente à IA em todas as tarefas pode ser menos tecnologicamente maduro que outro capaz de reconhecer contextos nos quais a mediação empobrece o julgamento. A sociedade ainda tende a tratar adoção como sinônimo de modernidade e resistência como sinônimo de atraso; essa equivalência precisará desaparecer. Tecnologias maduras são aquelas que podemos escolher, não aquelas às quais precisamos obedecer.

ESQUEMA VII — MATURIDADE TECNOLÓGICA

fase 1 — novidade: “é possível usar?” fase 2 — entusiasmo: “quanto podemos usar?” fase 3 — disseminação: “por que alguém não usaria?” fase 4 — dependência: “é possível funcionar sem usar?” fase 5 — maturidade: “em quais situações devemos usar e em quais devemos deliberadamente não usar?”

O problema político surge quando Estados incorporam IA à administração. Max Weber (1864–1920) descreveu a burocracia moderna como forma de dominação racional-legal fundada em competências, regras, registros e previsibilidade; Niklas Luhmann (1927–1998) analisou sistemas sociais por meio de operações comunicativas diferenciadas; Michel Crozier (1922–2013) mostrou como organizações burocráticas geram suas próprias racionalidades e círculos de rigidez. A administração pública vê na IA uma promessa compreensível: processar grandes volumes de requerimentos, identificar fraudes, organizar filas, prever demandas, automatizar atos repetitivos e reduzir custos. Tudo isso pode servir ao interesse público. Entretanto, existe diferença fundamental entre Estado usando IA internamente e Estado obrigando o cidadão a relacionar-se através dela. A primeira hipótese pode ser compatível com ampla liberdade individual se houver responsabilidade e supervisão; a segunda exige muito mais cautela. O cidadão não escolhe o Estado do mesmo modo que escolhe uma empresa. Se determinado serviço público essencial adota agentes artificiais como porta de entrada exclusiva, a recusa não significa simplesmente procurar outro fornecedor. Rousseau (1712–1778), Locke (1632–1704), Montesquieu (1689–1755), Hobbes (1588–1679) e toda a tradição contratualista, apesar de divergirem profundamente sobre fundamentos e limites do poder, partem da questão sobre como se legitima uma autoridade comum cujas decisões vinculam indivíduos. Num Estado constitucional, o cidadão deve poder identificar quem responde pelo ato que o afeta. Se uma decisão administrativa é sugerida por IA, o sistema pode ser auxiliar; se ninguém consegue explicar sua lógica ou corrigir seus erros, a tecnologia começa a interferir no devido processo. Lon Fuller (1902–1978) exigiria inteligibilidade; Friedrich Hayek (1899–1992) alertaria contra poderes arbitrários; Dworkin (1931–2013) exigiria igual consideração; Ferrajoli (1940–) destacaria garantias contra exercício incontrastado do poder. Um direito de não usar IA perante o Estado não significaria necessariamente o direito de exigir que nenhuma tecnologia participe do processamento administrativo; poderia significar direito a canais humanos alternativos em situações relevantes, direito de saber quando sistemas automatizados participam da decisão, direito de contestar o resultado perante autoridade humana, direito de não ser prejudicado apenas porque escolheu canal não automatizado e direito de que nenhum exercício essencial de cidadania dependa exclusivamente da capacidade de interagir com IA.

A democracia apresenta questão paralela. Jürgen Habermas (1929–) pensa a legitimidade democrática em relação à circulação pública de razões; Hannah Arendt (1906–1975) associa política à pluralidade e à ação entre pessoas; Claude Lefort (1924–2010) descreveu a democracia como regime no qual o lugar do poder permanece simbolicamente vazio; Chantal Mouffe (1943–) enfatiza a inevitabilidade do conflito e do agonismo político. A inteligência artificial pode enriquecer a esfera pública ao permitir acesso a informações, tradução, comparação de propostas e análise de dados; mas pode igualmente gerar conteúdos em escala industrial, personalizar persuasão e embaralhar fronteiras entre expressão humana e produção automatizada. O direito de não usar IA ganha aqui uma dimensão coletiva: deveria uma pessoa poder saber se está debatendo com outra pessoa? Existe direito a espaços políticos reservados à manifestação humana? Pode uma campanha inundar o debate com milhões de mensagens produzidas automaticamente? Se bots, agentes e avatares forem capazes de participar de discussões públicas indistinguivelmente de cidadãos reais, o ideal democrático de pluralidade pode ser quantitativamente colonizado por entidades que não possuem interesses próprios, mas amplificam interesses de quem as controla. Elias Canetti (1905–1994) estudou a dinâmica das massas; Gustave Le Bon (1841–1931), com inúmeras limitações de seu tempo, tentou compreender psicologia coletiva; Gabriel Tarde (1843–1904) analisou imitação e circulação social; Marshall McLuhan (1911–1980) mostrou que o meio altera a forma da experiência comunicativa. A IA transforma o meio num produtor ativo de mensagens. Nesse contexto, garantir a existência de espaços “human-only” pode parecer artificial no presente, mas pode tornar-se equivalente à exigência de autenticidade mínima da esfera pública. Assim como existem eleições nas quais cada pessoa possui um voto apesar de organizações poderem possuir recursos desiguais, talvez o futuro demande distinguir entre expressão de um cidadão e produção ilimitada de seus agentes artificiais.

Na esfera privada, o problema do consentimento ganha outra camada. John Locke (1632–1704) atribuiu papel central ao consentimento na legitimação de relações políticas; Kant (1724–1804) relacionou autonomia à capacidade de a vontade dar a si mesma sua lei; John Rawls (1921–2002) utilizou uma estrutura hipotética de escolha justa; teorias contratuais contemporâneas continuam a pressupor que consentimento possui valor quando existe compreensão e alternativa. Mas contratos digitais demonstraram como consentimento pode degradar-se em formalidade quando ninguém lê termos extensos e a recusa significa não utilizar serviço essencial. A IA pode aprofundar esse problema: plataformas podem pedir autorização para analisar dados, personalizar conteúdo, treinar modelos, gerar recomendações ou permitir interações automáticas, e o usuário clicar “aceito” porque a alternativa é perder funcionalidade indispensável. Alan Westin (1929–2013), pioneiro na reflexão moderna sobre privacidade, concebeu-a em termos de controle individual sobre informações; Helen Nissenbaum (1954–) desenvolveu a ideia de integridade contextual, mostrando que privacidade não significa apenas segredo, mas adequação dos fluxos informacionais aos contextos sociais. Um direito de não usar IA implicaria, portanto, mais que botão de recusa: exigiria impedir que serviços essenciais fossem artificialmente desenhados de maneira a tornar a recusa impraticável. Isso não deveria alcançar toda atividade privada indiscriminadamente; ninguém possui direito fundamental a exigir que qualquer empresa mantenha indefinidamente processo manual obsoleto. Mas quanto mais essencial o serviço, maior deve ser a preocupação com alternativas. Saúde, educação, bancos, seguros, serviços públicos, justiça e emprego possuem impacto existencial superior ao de serviços recreativos. A proporcionalidade deve refletir isso.

Também existe uma questão geracional. Karl Mannheim (1893–1947) mostrou como gerações compartilham determinadas posições históricas que moldam experiências; Margaret Mead (1901–1978) analisou diferenças culturais e processos de transmissão entre gerações; Zygmunt Bauman (1925–2017) descreveu a fluidez das condições modernas. Pessoas formadas antes da ubiquidade da IA podem perceber a tecnologia como ferramenta acrescentada a competências previamente adquiridas; pessoas nascidas depois dela talvez adquiram competências já por intermédio dessa mediação. A diferença é profunda. Quem aprendeu a escrever antes de assistentes generativos pode utilizá-los sabendo o que está delegando; quem nunca precisou escrever um texto longo sem assistência talvez sequer consiga distinguir quais operações foram terceirizadas. Quem aprendeu navegação antes do GPS percebe o que perdeu e ganhou; quem sempre utilizou GPS não possui a experiência anterior como referência. Isso não significa inferioridade das novas gerações; todas as tecnologias reorganizaram capacidades humanas. Sócrates (470/469–399 a.C.) poderia parecer cognitivamente limitado ao viver sem livros impressos, e nós parecemos limitados diante de futuros instrumentos ainda inexistentes. O ponto é outro: transições tecnológicas precisam preservar deliberadamente algumas capacidades quando ainda não sabemos se sua perda será reversível. O princípio da precaução, discutido em filosofia ambiental e política científica por autores como Hans Jonas (1903–1993), pode ser adaptado cognitivamente: quando uma sociedade introduz tecnologias capazes de substituir funções fundamentais de aprendizagem, deve evitar destruir rapidamente as condições necessárias para exercê-las sem assistência.

ESQUEMA VIII — PRINCÍPIO DE REVERSIBILIDADE COGNITIVA

Uma tecnologia cognitiva é socialmente mais segura quando:

o usuário pode utilizá-la → sem perder a capacidade básica de agir sem ela;

pode confiar nela → sem perder a capacidade de questioná-la;

pode delegar → sem perder a compreensão do que delegou;

pode acelerar → sem perder a capacidade de agir lentamente quando necessário;

pode automatizar → sem destruir irreversivelmente a competência humana correspondente.

O princípio da reversibilidade cognitiva não exige que cada pessoa preserve todas as competências historicamente existentes. Ninguém precisa saber fabricar papel para poder escrever, calcular logaritmos manualmente para ser matemático ou memorizar milhares de números telefônicos para viver autonomamente. A civilização progride justamente porque incorpora conhecimentos em estruturas externas. Alfred North Whitehead (1861–1947) observou que o avanço da civilização aumenta quando conseguimos realizar operações importantes sem pensar continuamente nelas; Andy Clark (1957–) defendeu a ideia de uma mente estendida, segundo a qual instrumentos externos podem integrar funcionalmente processos cognitivos; Edwin Hutchins (1948–) estudou cognição distribuída mostrando como grupos e artefatos formam sistemas cognitivos complexos. A inteligência artificial pode ser a expressão mais poderosa dessa longa história de extensão mental. Por isso seria intelectualmente pobre defender uma autonomia fundada na autossuficiência absoluta. O ser humano sempre pensou com outros humanos, livros, mapas, instrumentos, bibliotecas, instituições e linguagens. A novidade está no grau de autonomia da extensão. Um livro não responde a perguntas novas; uma calculadora não interpreta contexto; uma biblioteca não escolhe sozinha quais argumentos apresentar; um caderno não reformula sua hipótese. A IA funciona cada vez mais como extensão ativa que participa da própria elaboração. Isso não a torna inimiga da autonomia, mas exige que autonomia seja redefinida. Talvez autonomia no século XXI não signifique pensar sem ferramentas, e sim conservar capacidade de governar a relação entre nosso pensamento e ferramentas que também pensam funcionalmente conosco.

A psicanálise introduz ainda outro horizonte. Sigmund Freud (1856–1939) desestabilizou a ideia de sujeito transparente a si mesmo; Carl Gustav Jung (1875–1961) explorou estruturas simbólicas e inconscientes; Jacques Lacan (1901–1981) enfatizou a constituição do sujeito pela linguagem; Donald Winnicott (1896–1971) investigou criatividade, jogo e formação do self; Erich Fromm (1900–1980) analisou liberdade, conformismo e necessidades humanas numa sociedade moderna. A IA apresenta-se como interlocutor singular: disponível permanentemente, paciente, adaptável, não ofendido, capaz de reproduzir estilos de resposta e organizar narrativas pessoais. Pode ser instrumento extraordinário de reflexão, mas também pode criar uma relação assimétrica de dependência na qual o sujeito recorre a uma mediação automática antes de enfrentar silêncio, dúvida ou conflito interpessoal. Winnicott (1896–1971) provavelmente despertaria especial interesse diante de tecnologias que ocupam espaços de transição entre mundo interno e externo; Lacan (1901–1981) poderia perguntar que tipo de “Outro” se constitui numa máquina alimentada pelos discursos de milhões de pessoas; Freud (1856–1939) lembraria que aquilo que dizemos não coincide inteiramente com aquilo que queremos dizer. Uma IA capaz de oferecer respostas plausíveis a qualquer hora pode reduzir determinados custos psíquicos da solidão, mas também pode reconfigurar nossa tolerância à ausência de resposta. O direito de não usar IA talvez pareça estranho nesse campo, porque ninguém é formalmente obrigado a conversar com um sistema. Entretanto, instituições podem começar a oferecer apoio psicológico inicial, triagens e orientação por agentes artificiais. A pergunta será novamente: quando a eficiência deixa de ser suficiente? Há momentos em que uma pessoa tem direito não apenas a uma resposta adequada, mas a ser respondida por alguém cuja presença envolve responsabilidade e vulnerabilidade recíprocas?

A antropologia amplia a crítica à pretensão de universalidade tecnológica. Claude Lévi-Strauss (1908–2009) mostrou a complexidade estrutural de culturas muito diferentes da tradição ocidental industrial; Clifford Geertz (1926–2006) insistiu na interpretação densa dos sistemas simbólicos; Marcel Mauss (1872–1950) analisou práticas sociais nas quais economia, moral, religião e reciprocidade se entrelaçam; Marshall Sahlins (1930–2021) contestou pressupostos universalistas sobre racionalidade econômica. A IA contemporânea é produzida principalmente dentro de determinados ecossistemas tecnológicos, linguísticos, empresariais e culturais. Quando seus modelos se tornam infraestrutura global, existe risco de que padrões locais sejam apresentados como soluções universais. Idiomas de menor circulação, formas de conhecimento tradicionais, epistemologias comunitárias e práticas não facilmente digitalizáveis podem ocupar posição marginal. O direito de não usar IA pode então adquirir dimensão cultural: comunidades não deveriam ser obrigadas a traduzir toda sua experiência para sistemas externos como condição de participação institucional. A digitalização pode democratizar e preservar culturas; pode também impor categorias de classificação estranhas a elas. Boaventura de Sousa Santos (1940–) discute pluralidade epistemológica e injustiça cognitiva; Enrique Dussel (1934–2023) problematizou centralidades eurocêntricas; Frantz Fanon (1925–1961) mostrou como estruturas culturais e políticas podem impor imagens externas sobre sujeitos. Uma política global de IA precisa reconhecer que não adotar determinada mediação tecnológica pode ser também escolha coletiva de preservação cultural.

A questão ambiental adiciona paradoxo raramente associado ao direito de não usar. Tecnologia digital não é imaterial. Sistemas de IA dependem de centros de dados, energia, água, semicondutores, mineração, cadeias logísticas e infraestrutura física. Nicholas Georgescu-Roegen (1906–1994) introduziu a entropia no pensamento econômico; Herman Daly (1938–2022) desenvolveu concepções de economia ecológica; Hans Jonas (1903–1993) formulou sua ética em resposta ao poder técnico capaz de afetar gerações futuras. A utilização massiva de IA possui benefícios potenciais para otimização energética, pesquisa climática e eficiência industrial, mas também custo material. Nesse contexto, talvez se desenvolva no futuro uma ética do uso proporcional: utilizar IA onde seu valor justifique recursos e evitar sua invocação automática para tarefas triviais. A pergunta “precisamos realmente de inteligência artificial para isto?” pode adquirir dimensão ecológica, do mesmo modo que sociedades aprenderam gradualmente a perguntar se deslocamentos, embalagens ou consumos energéticos são necessários. O direito de não usar pode tornar-se também direito de escolher soluções de baixa tecnologia quando suficientes. Ernst Friedrich Schumacher (1911–1977), defensor de tecnologias adequadas à escala humana, encontraria aqui inesperada atualidade: a tecnologia mais sofisticada nem sempre é a tecnologia socialmente mais adequada.

Nenhum desses argumentos autoriza, contudo, uma celebração romântica da recusa. Há um risco oposto igualmente grave: transformar “feito sem IA” em privilégio de quem possui tempo, dinheiro e capital cultural suficientes para prescindir dela. Uma pessoa rica pode pagar professor particular enquanto outra depende de tutor artificial; um grande escritório pode contratar dezenas de pesquisadores enquanto um advogado autônomo utiliza IA para competir; uma empresa poderosa pode manter estruturas humanas especializadas enquanto pequenos negócios dependem de automação; um estudante com pais altamente escolarizados pode receber apoio humano que outro encontra apenas em sistemas digitais. Pierre Bourdieu (1930–2002) lembraria que escolhas culturais aparentemente livres carregam estruturas de classe; Rawls (1921–2002) exigiria que instituições considerassem os menos favorecidos; Sen (1933–2023) perguntaria pelas capacidades efetivas. O direito de não usar IA não pode converter-se em instrumento para impedir os vulneráveis de acessar uma ampliação cognitiva que os ajuda a competir com estruturas superiores. Por isso ele precisa existir ao lado — e não no lugar — de um direito de acesso. A sociedade injusta seria aquela em que os pobres fossem obrigados a utilizar IA porque não podem pagar por relações humanas enquanto os ricos compram atenção humana exclusiva; igualmente injusta seria aquela em que os pobres fossem privados da IA enquanto grupos privilegiados utilizassem as ferramentas mais avançadas. O ideal normativo não é universalizar uma única forma de relação com a tecnologia, mas ampliar a capacidade de escolha.

ESQUEMA IX — A DUPLA DESIGUALDADE A EVITAR

desigualdade de acesso: “não posso utilizar IA porque não tenho recursos.”

desigualdade de recusa: “não posso deixar de utilizar IA porque não tenho recursos.”

A primeira produz exclusão tecnológica. A segunda produz dependência tecnológica. Uma sociedade efetivamente livre precisa enfrentar ambas.

A formulação de um direito concreto exigiria critérios. Um direito absoluto de recusar qualquer tecnologia em qualquer relação seria impraticável. Empregadores precisam organizar processos; escolas precisam definir métodos; hospitais precisam adotar protocolos; Estados precisam modernizar serviços. O direito deveria, portanto, operar como princípio de proteção graduável conforme determinados fatores: essencialidade do serviço, impacto da decisão, disponibilidade de alternativa, risco a terceiros, sensibilidade dos dados, natureza intelectual da atividade, grau de autonomia profissional, possibilidade de revisão humana, custo da alternativa e intensidade da desvantagem imposta à recusa. Robert Alexy (1945–), com a teoria dos princípios e da proporcionalidade, fornece estrutura adequada para esse tipo de ponderação; Dworkin (1931–2013) insistiria em que direitos não podem ser sacrificados por simples conveniência agregada; Ferrajoli (1940–) enfatizaria garantias formais e substanciais capazes de limitar poderes; John Finnis (1940–) lembraria que bens humanos básicos não se reduzem a eficiência econômica. Uma empresa poderia exigir IA quando o instrumento for indispensável à própria função, assim como pode exigir software específico; seria mais problemático utilizá-la para monitorar emoções de trabalhadores ou substituir integralmente juízos profissionais. Uma universidade poderia ensinar estudantes a usar IA; deveria também preservar avaliações capazes de medir competências não assistidas quando relevantes. Um governo poderia automatizar triagens; deveria manter contestação humana em decisões de alto impacto. Um hospital poderia utilizar sistemas de apoio clínico; não deveria transformar algoritmo em autoridade incontestável. Uma instituição financeira poderia empregar modelos de risco; deveria oferecer caminhos para revisão de decisões relevantes. O direito de não usar não seria uma muralha, mas um princípio de fricção: uma exigência de justificar por que, naquele contexto, a tecnologia precisa ser obrigatória.

A fricção é conceito importante porque sociedades tecnológicas frequentemente tratam qualquer atrito como defeito. Entretanto, Cass Sunstein (1954–) e Richard Thaler (1945–), ao estudarem arquitetura de escolhas e nudges, demonstraram que pequenas características de ambientes decisórios alteram comportamentos; Evgeny Morozov (1984–) criticou o solucionismo tecnológico que transforma problemas políticos e sociais em questões técnicas aparentemente resolvíveis por aplicativos e dados. Determinadas fricções podem ser protetivas. Exigir confirmação antes de uma decisão irreversível; exigir dupla revisão em atividades sensíveis; obrigar alguém a explicar razões; manter atendimento humano; preservar etapas manuais em contextos educativos; desacelerar determinada decisão: tudo isso pode parecer ineficiente e ainda assim constituir desenho institucional racional. A inteligência artificial aumenta a tentação de remover todas as fricções porque sua promessa central é reduzir custo, tempo e esforço. Talvez uma das tarefas políticas do futuro seja identificar fricções que não são desperdício, mas garantias.

Isso vale especialmente para decisões automatizadas. Cesare Beccaria (1738–1794), ao criticar arbitrariedade penal e defender racionalização das penas, buscava limitar poder por regras; Jeremy Bentham (1748–1832) acreditava profundamente no cálculo racional das consequências; Bentham provavelmente se encantaria com sistemas capazes de processar vastas informações, mas seu utilitarismo também tornaria explícito o conflito entre maximização agregada e direitos individuais. Se um algoritmo produz decisões estatisticamente melhores para milhares de pessoas, é legítimo impor sua utilização a todas? John Stuart Mill (1806–1873), embora utilitarista, protegeu fortemente a individualidade porque experimentos de vida possuem valor social; Rawls (1921–2002) rejeitou a possibilidade de sacrificar liberdades fundamentais simplesmente por ganhos agregados. O direito de não usar IA pode representar justamente uma barreira contra a ideia de que precisão média superior encerra todo debate. Uma sociedade de pessoas não é uma função de perda a ser minimizada. Existem valores que resistem à agregação: autonomia, devido processo, autoria, intimidade, consciência, liberdade de expressão e responsabilidade.

A consciência talvez seja um dos campos mais importantes. John Locke (1632–1704) vinculou liberdade de consciência à tolerância; Voltaire (1694–1778) tornou-se símbolo da defesa da liberdade contra ortodoxias; Baruch Spinoza (1632–1677) argumentou em favor da liberdade de filosofar; Kant (1724–1804) fez da autonomia da razão uma exigência do esclarecimento. No futuro, pessoas poderão recusar certas utilizações de IA por convicção ética, religiosa ou filosófica. Alguns poderão considerar ilegítimo utilizar sistemas treinados sobre determinadas bases; artistas poderão rejeitar geração sintética por concepção estética; médicos poderão resistir a sistemas que contrariem concepções de cuidado; professores poderão defender práticas educacionais deliberadamente não automatizadas. Democracias pluralistas já desenvolveram mecanismos para lidar com objeções de consciência em contextos específicos. Isso não significa que toda convicção individual deva prevalecer sobre deveres profissionais; significa que a imposição tecnológica pode criar novos conflitos de consciência que não devem ser descartados como irracionalidade.

Há também uma questão de autenticidade. Charles Taylor (1931–) investigou o ideal moderno de autenticidade e sua relação com identidade; Søren Kierkegaard (1813–1855) fez da existência singular um problema filosófico central; Nietzsche (1844–1900) valorizou criação de valores e superação; Jean-Paul Sartre (1905–1980) radicalizou a responsabilidade do indivíduo por suas escolhas; Simone de Beauvoir (1908–1986) vinculou liberdade própria à liberdade dos outros. A inteligência artificial não elimina autenticidade, mas transforma as condições de sua percepção. Se uma pessoa recebe uma mensagem de amor, condolência, desculpa ou gratidão escrita integralmente por sistema generativo, o conteúdo pode ser linguisticamente perfeito; ainda assim, saber quem produziu as palavras altera seu significado. Isso demonstra que origem faz parte do sentido em determinadas comunicações. “Eu pensei nisso para você” é diferente de “pedi que uma máquina formulasse algo apropriado”, mesmo quando ambas as mensagens expressam intenção real. Não existe resposta universal sobre qual delas é legítima; existe apenas a necessidade de reconhecer que a mediação importa. O direito de não usar IA pode ser especialmente relevante em relações que dependem de autenticidade comunicativa. Talvez no futuro determinadas instituições adotem políticas de transparência sobre autoria sintética não porque conteúdo gerado seja falso, mas porque destinatários possuem interesse legítimo em saber qual foi o grau de participação humana.

ESQUEMA X — A PERGUNTA DA AUTENTICIDADE

Não basta perguntar:

“o conteúdo é verdadeiro?”

Também pode ser necessário perguntar:

“quem o formulou?” “quem o compreendeu?” “quem o escolheu?” “quem responde por ele?” “havia uma pessoa por trás dessas palavras?”

A verdade proposicional não esgota o significado humano de uma comunicação.

A educação sentimental da sociedade tecnológica dependerá de aprender essa diferença sem cair em purismos. Um texto produzido com ajuda de IA não é automaticamente menos autêntico; um texto escrito inteiramente sem IA não é automaticamente mais verdadeiro. Pessoas sempre utilizaram revisores, tradutores, editores, assessores, secretários e colaboradores. Grandes estadistas pronunciaram discursos escritos por terceiros; autores trabalharam com editores; profissionais contrataram equipes. A singularidade da IA não consiste em introduzir assistência pela primeira vez, mas em democratizá-la, acelerá-la e torná-la virtualmente ilimitada. Michel de Montaigne (1533–1592), que transformou o ensaio em investigação de si mesmo, talvez perguntasse menos quem digitou as palavras e mais se elas representam efetivamente aquilo que o autor pensou; Fernando Pessoa (1888–1935), mestre das identidades literárias múltiplas, lembraria que autoria nunca foi tão simples quanto presença de uma única voz. O direito de não usar IA não precisa ser sustentado pela fantasia de pureza autoral. Seu fundamento é liberdade de processo.

Essa liberdade precisa sobreviver também à economia das plataformas. Shoshana Zuboff (1951–) mostrou como modelos econômicos digitais podem transformar experiência humana em matéria-prima para previsão; Nick Srnicek (1982–) analisou capitalismo de plataforma; José van Dijck (1960–) examinou a plataformização de infraestruturas sociais. Quando IA é incorporada a sistemas operacionais, mecanismos de busca, editores de texto, navegadores, bancos, redes sociais e serviços públicos, torna-se difícil distinguir uso voluntário de participação involuntária. Uma pessoa pode não abrir conscientemente nenhum chatbot e ainda assim interagir diariamente com decisões, recomendações e classificações produzidas por IA. O verdadeiro direito de não usar talvez precise começar por um direito anterior: direito de saber quando a tecnologia está presente. Sem conhecimento da mediação, não existe recusa possível. Transparência, nesse sentido, é condição lógica de liberdade. Só é possível dizer não àquilo cuja existência é conhecida.

Entretanto, transparência também possui limites. Sistemas sofisticados podem ser tão complexos que explicar integralmente sua operação a cada usuário é impossível. Frank Pasquale (1974–) popularizou a crítica à sociedade da caixa-preta; Cathy O’Neil (1972–) mostrou como modelos matemáticos podem reproduzir injustiças em escala; Virginia Eubanks (1972–) analisou como sistemas automatizados afetam populações vulneráveis. Explicabilidade não significa transformar cada cidadão em cientista de dados; significa fornecer informação suficiente para que compreenda que um sistema participou da decisão, quais fatores relevantes foram considerados, quais consequências decorrem e como contestar o resultado. O direito de não usar IA precisa ser articulado a esse direito de contestação. Em algumas situações, a alternativa à IA não será impedir sua presença inicial, mas garantir que o humano possa sair do fluxo automatizado quando houver conflito relevante.

A filosofia política pode formular o problema como questão de poder. Hobbes (1588–1679) compreendeu soberania a partir da necessidade de uma autoridade capaz de garantir ordem; Locke (1632–1704) limitou o poder político por direitos; Montesquieu (1689–1755) buscou distribuir poderes para evitar abusos; Rousseau (1712–1778) relacionou legitimidade à vontade geral; Benjamin Constant (1767–1830) distinguiu liberdades antigas e modernas; Tocqueville (1805–1859) mostrou riscos de conformismo democrático; Hannah Arendt (1906–1975) distinguiu poder e violência; Foucault (1926–1984) deslocou a análise para microfísicas dispersas. A IA cria poder sem soberano único. Empresas desenvolvem modelos; empregadores os implementam; governos contratam sistemas; consumidores geram dados; trabalhadores treinam modelos; plataformas determinam interfaces; algoritmos reorganizam decisões. Não existe um Leviatã tecnológico isolado. Há uma ecologia de poderes sobrepostos. Por isso instrumentos jurídicos tradicionais, orientados a um agente claramente identificável, podem ser insuficientes. O direito de não usar IA funciona, nesse contexto, como limite distribuído: um pequeno espaço de resistência individual contra a totalização de um ecossistema que ninguém isoladamente controla.

Foucault (1926–1984) seria particularmente útil para compreender por que esse direito não pode ser reduzido à proibição de coerção explícita. O poder contemporâneo frequentemente age produzindo sujeitos, padrões e normalidades. A inteligência artificial pode participar dessa produção ao oferecer constantemente aquilo que é “mais provável”, “mais adequado”, “mais eficiente”, “mais profissional”, “mais convincente”. Uma recomendação não ordena, mas orienta. Milhares de recomendações acumuladas podem constituir uma norma cultural. Se todos os profissionais recebem sugestões semelhantes sobre como escrever, todos os estudantes recebem estruturas semelhantes sobre como argumentar e todos os consumidores recebem recomendações semelhantes sobre o que escolher, a liberdade individual permanece formal enquanto o horizonte de possibilidades se estreita estatisticamente. Gilles Deleuze (1925–1995), em sua reflexão sobre sociedades de controle, percebeu a transição de instituições fechadas para modulações contínuas; a IA pode intensificar essa lógica, personalizando influência em tempo real. O direito de não usar torna-se então também direito de escapar periodicamente da recomendação.

ESQUEMA XI — PODER ALGORÍTMICO SEM ORDEM

não proíbe → recomenda não manda → ranqueia não censura → reduz visibilidade não pune → diminui pontuação não exclui diretamente → torna improvável não obriga a usar → torna a recusa custosa

Esse é talvez o ponto em que a defesa do direito de não usar inteligência artificial encontra sua justificativa política mais forte. Liberdades clássicas foram construídas contra poderes visíveis: censores, soberanos, policiais, tribunais, igrejas, empregadores. O poder algorítmico pode operar sem rosto, intenção ou comando central. A decisão de adotar um sistema pode ser racional para cada instituição isoladamente e, ainda assim, produzir coletivamente uma sociedade na qual nenhum indivíduo consegue participar plenamente sem ele. Thomas Schelling (1921–2016) mostrou como decisões individuais podem gerar padrões coletivos não pretendidos; Friedrich Hayek (1899–1992) enfatizou ordens espontâneas produzidas sem planejamento central; Mancur Olson (1932–1998) analisou problemas de ação coletiva. A compulsoriedade da IA pode ser precisamente um resultado emergente: nenhum agente decidiu torná-la obrigatória, mas a soma das escolhas tornou a recusa impossível. Direitos existem muitas vezes para corrigir esse tipo de resultado sistêmico.

A comparação com dinheiro ajuda a compreender. Nenhuma pessoa específica obriga outra a possuir conta bancária, smartphone ou endereço digital; entretanto, sociedades podem organizar tantos serviços em torno dessas infraestruturas que viver sem elas se torna extremamente difícil. Georg Simmel (1858–1918), em sua filosofia do dinheiro, mostrou como meios de troca reorganizam relações sociais e formas de individualidade. A IA pode tornar-se infraestrutura semelhante: uma espécie de capital cognitivo básico. Nesse estágio, quem não a utiliza não será simplesmente alguém que prefere tecnologia antiga; poderá tornar-se estruturalmente análogo a quem não possui acesso à alfabetização digital. Essa perspectiva reforça a necessidade do duplo direito anteriormente formulado: acesso e recusa.

O maior erro seria transformar o debate numa guerra entre “humanistas” e “tecnólogos”. Gilbert Simondon (1924–1989) criticou justamente a separação entre cultura e técnica, argumentando que uma cultura incapaz de compreender objetos técnicos permanece incompleta; Norbert Wiener (1894–1964), fundador da cibernética, refletiu sobre responsabilidades sociais da automação; Alan Turing (1912–1954) abriu caminhos fundamentais para pensar inteligência em máquinas sem necessitar demonizá-las ou divinizá-las. A resposta adequada à IA exige cultura técnica suficiente para não temê-la e cultura humanística suficiente para não adorá-la. O direito de não usar não nasce do medo da inteligência artificial; nasce da confiança em que uma tecnologia verdadeiramente boa pode coexistir com a liberdade de recusá-la.

Há uma máxima política simples capaz de condensar o problema: toda tecnologia que só funciona socialmente quando sua recusa é impossível deixou de ser ferramenta e tornou-se infraestrutura de poder. Infraestruturas podem ser necessárias; água encanada, energia elétrica, sistemas monetários e telecomunicações também organizam profundamente nossas vidas. Mas quanto mais estrutural a tecnologia, maior deve ser a preocupação jurídica com condições de acesso, alternativas, responsabilidade e controle democrático. A liberdade não exige viver fora de infraestruturas; exige impedir que elas governem silenciosamente todos os aspectos da existência sem possibilidades de contestação.

O direito de não usar IA terá provavelmente manifestações diferentes conforme o contexto. No emprego, poderá aparecer como proteção contra determinadas formas de gestão algorítmica ou exigências invasivas. Na educação, como preservação de avaliações e experiências de aprendizagem não assistidas. Na saúde, como direito a explicação e atendimento humano em situações relevantes. Na administração pública, como alternativa funcional e revisão humana. Na cultura, como direito de distinguir obras humanas e sintéticas quando essa informação for material. Nas relações privadas, como direito de saber quando se interage substancialmente com agente artificial. Na proteção de dados, como possibilidade real de recusar determinados processamentos. Na atividade profissional, como garantia de que ferramentas auxiliares não eliminem indevidamente autonomia técnica. Em todos os casos, o conteúdo específico dependerá de proporcionalidade.

ESQUEMA XII — UMA POSSÍVEL DOGMÁTICA DO DIREITO DE NÃO USAR IA

1. Transparência: ninguém pode recusar aquilo que não sabe estar sendo usado.

2. Alternatividade: sempre que razoável, atividades essenciais devem oferecer rota humana ou não automatizada.

3. Não retaliação desproporcional: a recusa legítima não deve gerar prejuízo artificialmente construído.

4. Responsabilidade: nenhuma instituição deve transferir integralmente ao indivíduo os riscos de um sistema que ela própria impôs.

5. Preservação de competência: educação e profissões devem manter espaços em que capacidades humanas essenciais sejam exercidas sem substituição automática.

6. Revisão humana: decisões de alto impacto precisam admitir contestação efetiva por pessoa responsável.

7. Proporcionalidade: quanto maior o risco para terceiros e mais indispensável a tecnologia, menor pode ser o espaço de recusa.

8. Autonomia institucional limitada: empresas, escolas e governos podem organizar suas atividades, mas não transformar conveniência tecnológica em coerção indiscriminada.

9. Direito de acesso paralelo: proteger a recusa não pode converter-se em privilégio dos que já possuem recursos.

10. Reversibilidade cognitiva: adoção tecnológica não deve destruir desnecessariamente a possibilidade humana de executar funções essenciais sem ela.

A noção de reversibilidade talvez seja decisiva porque toda transição tecnológica contém irreversibilidades. Depois que infraestruturas desaparecem, competências se perdem e mercados se reorganizam, voltar atrás pode tornar-se impossível. Albert Hirschman (1915–2012), ao pensar as opções de saída, voz e lealdade diante de organizações, ofereceu uma estrutura particularmente útil: indivíduos preservam liberdade quando podem sair, protestar ou escolher alternativas. A IA pode reduzir progressivamente a “saída” se todos os serviços convergirem para arquiteturas semelhantes. Nesse ponto, a “voz” — capacidade de contestar e influenciar o desenho dos sistemas — torna-se ainda mais importante. Um direito de não usar funcionaria como institucionalização parcial da saída. Não precisa eliminar a tecnologia; precisa impedir que todas as portas levem obrigatoriamente a ela.

Existe finalmente uma questão ontológica. O ser humano sempre se definiu em relação às técnicas que produz. Ernst Cassirer (1874–1945) chamou-o de animal simbólico; Aristóteles (384–322 a.C.) de animal político e racional; Benjamin Franklin (1706–1790) popularizou a imagem do homem como animal fabricante de ferramentas; Marx (1818–1883) compreendeu atividade produtiva como constitutiva da relação humana com o mundo; Heidegger (1889–1976) problematizou a própria maneira técnica de desvelar os entes. A IA é talvez a primeira tecnologia de uso massivo que parece participar das faculdades por meio das quais historicamente descrevemos nossa especificidade. Isso explica simultaneamente fascínio e ansiedade. Porém, talvez a questão esteja formulada incorretamente quando perguntamos se máquinas se tornarão humanas. A pergunta mais concreta é como os humanos serão transformados por viver permanentemente em cooperação com sistemas intelectualmente ativos.

Donna Haraway (1944–), em sua figura do ciborgue, rejeitou fronteiras rígidas entre humano e máquina; Andy Clark (1957–) fala numa condição naturalmente ciborgue da cognição; Bernard Stiegler (1952–2020) entendeu técnica e humanidade como constitutivamente entrelaçadas. Essas perspectivas ajudam a evitar a nostalgia de um humano “puro” que nunca existiu. Nós somos seres técnicos desde antes da escrita. O direito de não usar IA, portanto, não precisa proteger uma essência humana pré-tecnológica. Pode proteger algo mais modesto e mais importante: a liberdade de escolher em que medida cada pessoa deseja integrar determinada tecnologia à constituição de suas próprias capacidades e práticas.

Isso explica por que o termo adequado talvez não seja “direito à resistência tecnológica”, mas “direito à autodeterminação cognitiva”. A expressão captura o verdadeiro objeto: poder decidir quando, como, para quê e em qual intensidade delegar operações intelectuais a sistemas artificiais. Assim como a autodeterminação informativa não significa viver sem produzir dados, mas possuir garantias sobre seu tratamento, autodeterminação cognitiva não significa pensar sem tecnologias, mas preservar algum governo sobre as mediações do próprio pensamento.

A distinção é crucial porque o futuro dificilmente será dividido entre usuários e não usuários de IA. Haverá graus, contextos, intensidades e formas. Uma pessoa poderá usar sistemas para tradução e rejeitá-los para escrita; utilizar ferramentas médicas e evitá-las em relações pessoais; aceitá-las no trabalho e recusá-las em produção artística; empregá-las para pesquisa e não para elaboração final. A liberdade estará nessa granularidade. Um regime que oferece apenas as opções “usar tudo” ou “rejeitar tudo” já fracassou.

ESQUEMA XIII — AUTODETERMINAÇÃO COGNITIVA

Não é:

humano OU máquina.

É:

humano decidindo quando pensar sozinho; humano decidindo quando pensar com outros humanos; humano decidindo quando pensar com máquinas; humano sabendo distinguir essas situações; humano permanecendo responsável pela decisão de transitar entre elas.

Essa formulação pode parecer demasiadamente centrada no indivíduo diante de uma transformação coletiva. É por isso que Cornelius Castoriadis (1922–1997) se torna importante. Sua ideia de autonomia não se limita ao indivíduo que escolhe; inclui sociedades capazes de reconhecer que suas próprias instituições são criações históricas e, portanto, podem ser questionadas. Uma sociedade dominada tecnologicamente não é aquela que possui muitas máquinas, mas aquela que começa a tratar decisões tecnológicas como inevitabilidades externas. “A IA substituirá”, “a IA exigirá”, “a IA obrigará”, “a IA tornará impossível” são frequentemente frases que ocultam sujeitos humanos, empresas, políticas, escolhas e interesses. Tecnologia não produz sozinha uma ordem normativa. Instituições decidem como incorporá-la. Ulrich Beck (1944–2015), ao estudar a sociedade de risco, mostrou como modernização produz novos riscos que exigem reflexividade; Anthony Giddens (1938–) analisou reflexividade e transformação institucional na modernidade. A IA precisa ser submetida justamente a essa reflexividade: não basta perguntar o que é possível fazer; é necessário decidir democraticamente o que deve permanecer possível não fazer.

A diferença entre “não conseguir” e “não querer” torna-se filosoficamente decisiva. O progresso sempre buscou libertar seres humanos de necessidades: não precisar caminhar grandes distâncias, memorizar certos dados, realizar cálculos exaustivos, executar trabalho perigoso. Cada libertação tecnológica transformou aquilo que podíamos escolher fazer. Mas existe diferença entre liberar alguém da obrigação de realizar determinada tarefa e retirar-lhe a possibilidade de realizá-la. Uma máquina que permite não escrever manualmente aumenta liberdade enquanto a escrita manual continua possível; uma sociedade que extingue todas as formas de registro não digital reduz opções. A IA é emancipatória quando acrescenta capacidades; torna-se potencialmente opressiva quando substitui possibilidades a ponto de eliminar alternativas.

Isaiah Berlin (1909–1997) retorna, então, ao centro da análise. Pluralismo significa reconhecer que bens humanos são múltiplos, frequentemente incomensuráveis e algumas vezes conflitantes. Eficiência pode conflitar com privacidade; velocidade com reflexão; personalização com anonimato; segurança com autonomia; produtividade com descanso; precisão com discricionariedade; escala com relação humana. Nenhum algoritmo elimina esses conflitos porque eles não decorrem de falta de informação, mas da pluralidade de valores. A política existe justamente porque não há função única capaz de maximizar todos os bens simultaneamente. O direito de não usar inteligência artificial protege esse pluralismo contra uma redução particularmente sedutora: a ideia de que, se uma tecnologia realiza determinada tarefa melhor, sua adoção é necessariamente a decisão racional. “Melhor” depende do critério. Uma IA pode produzir texto mais correto, mas a finalidade pode ser aprender a escrever. Pode prever risco melhor, mas a finalidade pode incluir garantir contraditório. Pode atender mais pessoas, mas a finalidade pode incluir acolhimento humano. Pode gerar música mais rapidamente, mas a finalidade pode ser compor. Pode resumir um livro, mas a finalidade pode ser lê-lo.

ESQUEMA XIV — A FALÁCIA DA SUPERIORIDADE TÉCNICA

Se A executa X mais rapidamente que B, não se conclui que A deva substituir B.

Antes é preciso perguntar:

qual é a finalidade de X? o processo possui valor independente do resultado? há direitos envolvidos? há riscos a terceiros? há competências que precisam ser preservadas? quem responde pelo resultado? quem controla a ferramenta? qual é o custo da dependência? a alternativa continuará existindo?

O direito de não usar IA será, nesse sentido, um direito contra a transformação do possível em obrigatório pela simples força da vantagem técnica. Não existia necessidade de formulá-lo quando a tecnologia era periférica. Ele emerge exatamente porque a inteligência artificial está se aproximando da infraestrutura do pensamento social. Quanto mais útil ela se tornar, maior será a importância de proteger a liberdade diante dela. Essa aparente contradição desaparece quando compreendemos que direitos não são criados apenas para enfrentar aquilo que é mau; frequentemente são necessários para governar aquilo que é poderoso.

A imprensa livre exigiu limites ao Estado não porque a escrita fosse ruim, mas porque a circulação de ideias se tornou poderosa; direitos trabalhistas surgiram não porque a industrialização fosse simplesmente um mal, mas porque seu poder produtivo reorganizou profundamente relações sociais; proteção de dados tornou-se necessária não porque informação seja nociva, mas porque sua capacidade de concentração e processamento cresceu enormemente. Da mesma maneira, uma futura garantia de recusa da inteligência artificial pode tornar-se necessária exatamente porque a tecnologia funciona bem.

A maior ameaça não é uma máquina hostil decidindo dominar pessoas. Essa imagem é dramaticamente atraente e conceitualmente pobre. A ameaça mais plausível é muito mais banal: cada instituição adota IA porque é mais eficiente; cada trabalhador utiliza porque precisa competir; cada estudante utiliza porque precisa produzir; cada empresa utiliza porque precisa reduzir custos; cada governo utiliza porque precisa atender mais; cada cidadão utiliza porque todos os serviços pressupõem seu uso. Nenhuma decisão isolada parece opressiva. Entretanto, no final do processo, surge uma sociedade em que praticamente ninguém escolheu tornar a IA obrigatória e praticamente ninguém consegue viver sem ela. É exatamente para esse tipo de paradoxo que a liberdade jurídica deve servir.

A tradição liberal ensinou a desconfiar do soberano que proíbe. A tradição republicana ensinou a desconfiar da dominação arbitrária mesmo quando não há interferência constante. Philip Pettit (1945–) define liberdade republicana como não dominação: alguém pode não sofrer interferência atual e ainda assim não ser livre se estiver submetido à capacidade arbitrária de outro. Essa ideia amplia extraordinariamente a discussão. O problema não é apenas ser obrigado hoje a utilizar IA; é depender de instituições capazes de tornar seu uso obrigatório amanhã sem alternativa real. Uma pessoa que só consegue trabalhar, estudar, obter crédito, acessar serviços e participar politicamente através de sistemas inteligentes encontra-se numa posição de dependência estrutural, ainda que nenhum sistema isoladamente a esteja coagindo.

Por isso, a liberdade tecnológica do futuro precisará ser arquitetada antes que se torne necessária. Direitos construídos depois que infraestruturas já se tornaram irreversíveis tendem a chegar tarde. Hannah Arendt (1906–1975) valorizava a capacidade humana de iniciar algo novo; Hans Jonas (1903–1993) insistia na responsabilidade perante consequências futuras; Karl Popper (1902–1994) defendia instituições capazes de corrigir erros sem destruir toda a ordem social. O princípio comum é prudência institucional: preservar alternativas.

Preservar alternativas talvez seja a síntese mais simples de tudo. Não precisamos impedir o futuro; precisamos impedir que o futuro possua uma única porta.

ESQUEMA XV — A REGRA DE PRESERVAÇÃO DAS ALTERNATIVAS

Uma sociedade tecnologicamente livre é aquela em que:

inovação aumenta possibilidades, em vez de eliminá-las; automação reduz tarefas, sem necessariamente reduzir autonomia; eficiência cria tempo, em vez de apenas elevar metas; assistência amplia capacidade, sem destruir autoria; personalização melhora serviços, sem abolir anonimato; previsão ajuda decisões, sem substituir justificação; IA permanece disponível, sem se tornar inevitável.

Chegamos, então, à formulação final. O direito de não usar inteligência artificial não deve ser compreendido como direito de congelar o desenvolvimento tecnológico, impedir organizações de modernizarem seus processos ou exigir que toda atividade possua permanentemente uma versão analógica. Seria insustentável. Deve ser compreendido como direito complexo e contextual de preservar autonomia diante da crescente mediação artificial da vida. Seu conteúdo variará conforme a atividade; seus limites serão reais; conflitos precisarão ser ponderados; determinadas utilizações poderão ser legitimamente exigidas quando riscos a terceiros ou características essenciais da função assim determinarem. Mas o reconhecimento do princípio altera a estrutura da pergunta. Em vez de presumir que toda inovação eficiente pode ser obrigatoriamente incorporada, instituições precisariam justificar por que determinada mediação precisa ser inevitável.

A inversão é importante. Hoje perguntamos por que alguém deveria usar inteligência artificial. Em breve talvez seja necessário perguntar por que alguém não a utiliza. O direito que aqui se propõe impede uma terceira etapa ainda mais profunda: aquela em que ninguém mais pergunta nada porque utilizar tornou-se tão natural quanto respirar. O paradoxo tecnológico da liberdade reside precisamente aí. As melhores ferramentas são aquelas que ampliam nossas possibilidades; uma ferramenta que elimina a possibilidade de não utilizá-la mudou de natureza. Pode continuar benéfica, necessária e poderosa, mas já não é apenas instrumento. Tornou-se ambiente. E ambientes governam silenciosamente.

Talvez o grande problema político da inteligência artificial não seja saber se ela um dia possuirá consciência, vontade, personalidade ou direitos. Essas questões são fascinantes, mas permanecem especulativas diante de uma transformação muito mais concreta já em curso. O problema imediato é saber se os seres humanos continuarão possuindo espaços reais de escolha quando sistemas inteligentes estiverem presentes em praticamente todas as instituições que organizam a vida. Não precisamos esperar máquinas conscientes para perder autonomia; basta criar instituições inconscientemente dependentes delas.

A dignidade humana não exige superioridade sobre máquinas. Não exige escrever melhor, calcular melhor, diagnosticar melhor, memorizar melhor ou prever melhor. Se nossa concepção de dignidade depender da permanência dessas superioridades, ela ficará progressivamente vulnerável a cada avanço técnico. Pico della Mirandola (1463–1494), ao celebrar a indeterminação humana, localizava grandeza justamente na capacidade de formar a si mesmo; Kant (1724–1804) colocou dignidade na autonomia moral, não na performance; Hannah Arendt (1906–1975) encontrou singularidade na capacidade de iniciar; Sartre (1905–1980) radicalizou liberdade e responsabilidade; Levinas (1906–1995) encontrou exigência ética na presença do outro. Nenhuma dessas concepções precisa competir com benchmarks.

Possivelmente esse seja o aprendizado mais importante da era da inteligência artificial: o valor humano terá de ser defendido justamente quando determinadas capacidades humanas deixarem de ser raras. A inteligência artificial pode escrever melhor do que alguém e essa pessoa continuar possuindo razões para escrever. Pode desenhar melhor e alguém continuar possuindo razões para desenhar. Pode calcular melhor e alguém continuar possuindo razões para aprender matemática. Pode traduzir melhor e alguém continuar possuindo razões para aprender línguas. Pode diagnosticar melhor e ainda haver razões para existir medicina como relação humana. Pode organizar argumentos melhor e ainda haver razões para que juristas aprendam a pensar. Pode responder mais depressa e ainda haver razões para demorarmos diante de uma pergunta. Pode prever escolhas e ainda não possuir o direito de escolhê-las por nós. O direito de não usar inteligência artificial nasce exatamente desse intervalo entre capacidade técnica e sentido humano. Seu fundamento último não é medo. É soberania sobre a própria forma de existir.

ESQUEMA FINAL — A FRONTEIRA

Inteligência artificial como instrumento: “posso utilizá-la.”

Inteligência artificial como vantagem: “é melhor utilizá-la.”

Inteligência artificial como padrão: “esperam que eu a utilize.”

Inteligência artificial como condição: “preciso utilizá-la.”

Inteligência artificial como ambiente: “já não existe alternativa reconhecível.”

É entre o terceiro e o quarto estágio que o Direito precisa aparecer. Não para interromper a inovação. Não para transformar nostalgia em política pública. Não para proteger incompetência. Não para conservar procedimentos inúteis. Não para declarar guerra às máquinas. Mas para preservar aquilo que toda grande tecnologia deveria ampliar e jamais reduzir: a quantidade de caminhos que ainda permanecem abertos ao ser humano. Porque uma tecnologia que nos permite fazer mais pode ser emancipatória. Uma tecnologia que nos permite compreender mais pode ser extraordinária. Uma tecnologia que nos permite superar limites pode modificar a própria civilização. Mas uma tecnologia cuja presença transforma toda ausência em incapacidade, toda recusa em desvantagem e toda autonomia em ineficiência já colocou diante do Direito uma pergunta que o entusiasmo tecnológico não pode responder sozinho. A pergunta não é se queremos inteligência artificial. É evidente que a queremos, que a utilizaremos e que seus benefícios podem ser imensos. A pergunta verdadeiramente difícil é outra: continuaremos podendo não querê-la em determinados lugares, em determinados momentos e para determinadas partes de nós mesmos? Se a resposta for negativa, talvez tenhamos construído a ferramenta mais poderosa da história exatamente no momento em que esquecemos a diferença entre poder utilizá-la e precisar fazê-lo. Talvez a liberdade tecnológica do século XXI venha a depender justamente da preservação dessa diferença.