O HOMEM CONDENADO POR AQUILO QUE AINDA NÃO FEZ

PARTE I — DO ACONTECIMENTO AO POSSÍVEL: A INVERSÃO TEMPORAL DA RESPONSABILIDADE

1. O direito que julgava o passado começa a administrar o futuro

Durante quase toda a história das formas juridicamente organizadas de imputação, existiu uma relação estrutural entre acontecimento e responsabilidade: primeiro algo ingressava no mundo, depois esse algo era reconstruído, qualificado, atribuído e submetido a uma consequência normativa; mesmo quando o direito incorporava mecanismos preventivos, cautelares ou securitários, a prevenção permanecia ligada a uma situação objetivamente identificável, a um perigo concretamente reconhecível ou a uma conduta já exteriorizada, de maneira que a ordem temporal fundamental ainda podia ser representada pela sequência FENÔMENO → RECONSTRUÇÃO → QUALIFICAÇÃO → IMPUTAÇÃO → CONSEQUÊNCIA; Aristóteles (384–322 a.C.), ao distinguir atos voluntários, involuntários e praticados por ignorância, já percebia que a censura pressupunha alguma relação entre agente, conhecimento e ação; Tomás de Aquino (1225–1274) ligava a responsabilidade moral ao domínio racional da ação; Hugo Grotius (1583–1645) articulava culpa, obrigação e reparação dentro de uma ordem normativa fundada em atos atribuíveis; Samuel Pufendorf (1632–1694) elaborava o problema da imputação a partir da capacidade do agente de compreender e dirigir a própria conduta; Cesare Beccaria (1738–1794) procurava impedir que o poder punitivo escapasse do fato definido previamente em lei; Immanuel Kant (1724–1804) colocava no centro da moralidade a autonomia racional daquele a quem se pode atribuir uma máxima; Georg Wilhelm Friedrich Hegel (1770–1831) examinava a ação como exteriorização da vontade que ingressa no mundo objetivo e passa a produzir consequências imputáveis; Jeremy Bentham (1748–1832), embora profundamente orientado à prevenção, continuava concebendo o cálculo jurídico em relação a comportamentos, incentivos e consequências; Paul Johann Anselm von Feuerbach (1775–1833), com sua teoria da coação psicológica, projetava a ameaça penal para o futuro, mas justamente para impedir uma infração previamente tipificada, não para punir probabilidades individuais; Hans Kelsen (1881–1973) reconstruiria mais tarde a responsabilidade como relação de imputação normativa; H. L. A. Hart (1907–1992) demonstraria a complexidade dos conceitos de responsabilidade, capacidade e censurabilidade; Alf Ross (1899–1979), Herbert Lionel Adolphus Hart (1907–1992), Karl Larenz (1903–1993), Claus Roxin (1931–2025) e Günther Jakobs (1937–) desenvolveriam, por caminhos distintos, formas sofisticadas de determinar quando um resultado pode ser juridicamente atribuído a uma pessoa; entretanto, o cenário contemporâneo começa a deformar essa arquitetura porque a questão deixa de ser exclusivamente “o que aconteceu?” e passa cada vez mais a ser “o que provavelmente acontecerá?”, e essa substituição aparentemente pequena envolve uma transformação ontológica, epistemológica e política imensa: aquilo que ainda não existe começa a produzir consequências reais sobre aquele que existe; uma pessoa pode ter crédito recusado porque um modelo estima alta probabilidade de inadimplemento, ser submetida a fiscalização intensificada porque corresponde estatisticamente a um perfil de risco, receber tratamento administrativo distinto porque pertence a uma categoria associada a fraude, ser considerada mais perigosa porque compartilha características com grupos que apresentaram determinada taxa de reincidência, ter seu comportamento profissional antecipadamente classificado por mecanismos preditivos, ser excluída de determinada oportunidade porque sua trajetória anterior é interpretada como sinal probabilístico de um desempenho futuro indesejável; nesses casos, a arquitetura já não é ATO → PROVA → RESPONSABILIDADE, mas DADO → PADRÃO → PROBABILIDADE → CLASSIFICAÇÃO → CONSEQUÊNCIA, e a passagem entre essas duas estruturas não pode ser tratada como mero aperfeiçoamento tecnológico, porque modifica o objeto sobre o qual o poder incide: o indivíduo deixa de responder apenas pelo que fez e começa a sofrer efeitos por aquilo que um sistema calcula que poderá fazer; Adolphe Quetelet (1796–1874), ao formular o conceito de “homem médio”, foi decisivo para a transformação estatística das populações em objetos de governo; Francis Galton (1822–1911), levando a classificação humana a extremos hoje reconhecidamente problemáticos, mostrou como a estatística poderia ser convertida em instrumento de hierarquização; Émile Durkheim (1858–1917) demonstrou que fenômenos aparentemente individuais podiam apresentar regularidades sociais; Max Weber (1864–1920) descreveu a modernidade como progressiva racionalização e calculabilidade; Michel Foucault (1926–1984) percebeu que o poder moderno se tornava cada vez menos espetacular e cada vez mais normalizador, passando do castigo episódico ao acompanhamento contínuo das condutas; Ian Hacking (1936–2023) mostrou que classificações não são apenas descrições neutras de indivíduos, pois podem interagir com aqueles que classificam e modificar o próprio campo social; Gilles Deleuze (1925–1995) identificou, nas sociedades de controle, a transformação do indivíduo em “divíduo”, isto é, em parcelas informacionais processáveis; Ulrich Beck (1944–2015) descreveu uma sociedade crescentemente organizada em torno da produção, distribuição e administração de riscos; Niklas Luhmann (1927–1998) mostrou como sistemas sociais operam mediante redução seletiva de complexidade; e aquilo que, na sociedade estatística inicial, dependia de categorias grosseiras pode hoje ser realizado com milhões de variáveis, correlações opacas e atualização contínua, de forma que a previsão passa a apresentar-se com uma aparência de individualização paradoxal: o cálculo parece falar especificamente sobre “você”, mas frequentemente apenas projeta sobre você regularidades extraídas de outros; precisamente por isso, deve-se distinguir rigorosamente individualização nominal de individualização fenomenológica: um sistema pode gerar uma pontuação específica para uma pessoa sem jamais ter compreendido essa pessoa como fenômeno singular; pode conhecer milhares de dados e desconhecer aquilo que ocorreu; pode estimar de modo estatisticamente eficiente e reconstruir de modo ontologicamente pobre; pode produzir uma probabilidade correta no plano populacional e uma injustiça completa no plano individual; a tensão fundamental nasce porque a estatística opera sobre frequência enquanto a responsabilidade jurídica incide sobre singularidade, e a frequência descreve o comportamento de conjuntos sem determinar necessariamente a conduta de qualquer membro específico; se em determinada população quarenta por cento dos indivíduos praticam certo ato, isso significa simultaneamente que sessenta por cento não o praticam, de modo que a informação coletiva, embora relevante para planejamento, não resolve a questão individual; a passagem indevida ocorre quando a pergunta “qual é a incidência deste comportamento em pessoas com estas características?” é convertida silenciosamente na pergunta “esta pessoa praticará esse comportamento?”, e mais grave ainda quando esta segunda pergunta é transformada em uma terceira: “como devemos tratá-la agora em razão daquilo que talvez pratique depois?”; nesse terceiro movimento nasce aquilo que se pode chamar de imputação prospectiva imprópria, uma estrutura em que a consequência antecede o fato porque a possibilidade futura é tratada como substituto funcional do acontecimento ainda inexistente; o problema não está, portanto, na existência de prognósticos — toda ação humana envolve antecipação —, mas na mutação do estatuto do prognóstico: uma coisa é utilizar uma previsão para decidir quantos leitos hospitalares serão necessários, quais regiões precisarão de maior fiscalização ambiental, que infraestrutura será exigida por determinada população ou quais recursos uma política pública deverá reservar; outra, radicalmente distinta, é utilizar uma probabilidade agregada para restringir concretamente a esfera jurídica de uma pessoa como se aquilo que é estatisticamente provável já estivesse fenomenicamente consumado; a primeira situação é planejamento; a segunda aproxima-se da punição do possível; e entre elas deve existir uma fronteira rigorosa porque, se o direito permitir que a probabilidade substitua silenciosamente o acontecimento, estará invertendo a própria temporalidade da responsabilidade: a consequência deixa de seguir o fato e começa a precedê-lo, de modo que o sujeito passa a carregar no presente a sanção correspondente ao futuro que terceiros imaginaram para ele.

2. O fascínio epistemológico da previsão e a antiga fantasia de eliminar a incerteza

A vontade de antecipar o futuro não nasceu com os algoritmos, porque ela acompanha a própria história da racionalidade humana e corresponde, em larga medida, ao desejo de converter o contingente em inteligível, o incerto em calculável e o ameaçador em administrável; os antigos observavam astros, estações e regularidades naturais buscando transformar repetição em expectativa; Tucídides (c. 460–c. 400 a.C.) concebia sua história como aquisição destinada a permitir a compreensão de acontecimentos semelhantes no futuro; Aristóteles (384–322 a.C.) distinguia aquilo que ocorre necessariamente, aquilo que ocorre na maioria das vezes e aquilo que acontece por acaso, distinção extraordinariamente relevante para qualquer filosofia contemporânea do risco porque já recusava a redução do possível ao necessário; Agostinho de Hipona (354–430) enfrentou o paradoxo do tempo mostrando que futuro e passado não possuem a mesma presença do presente; Tomás de Aquino (1225–1274) distinguiu contingência criada e conhecimento divino sem dissolver completamente a liberdade humana; Nicolau Maquiavel (1469–1527) pensou a política precisamente na tensão entre virtù e fortuna, isto é, entre capacidade de agir e parcela irredutível de contingência; Thomas Hobbes (1588–1679) construiu parte decisiva de sua filosofia política sobre o medo racional diante da imprevisibilidade das ações alheias, transformando a segurança em fundamento da ordem civil; René Descartes (1596–1650) buscou um método capaz de eliminar a dúvida mediante decomposição racional; Blaise Pascal (1623–1662), simultaneamente matemático e filósofo da condição humana, participou da formação da teoria das probabilidades enquanto reconhecia os limites radicais da razão diante de determinados problemas; Baruch Spinoza (1632–1677) concebeu a natureza segundo uma necessidade rigorosa na qual o acaso decorreria de insuficiência do conhecimento; Gottfried Wilhelm Leibniz (1646–1716) imaginou uma racionalidade em que nada acontece sem razão suficiente, mesmo quando essa razão não é imediatamente acessível; David Hume (1711–1776), em contrapartida, mostrou a fragilidade da inferência indutiva, pois não existe dedução lógica que garanta que o futuro repetirá o passado; Pierre-Simon Laplace (1749–1827) formulou a imagem extrema de um intelecto que, conhecendo em um instante todas as forças da natureza e todas as posições dos corpos, conseguiria abarcar passado e futuro numa única equação; Auguste Comte (1798–1857) consagrou a máxima segundo a qual saber permitiria prever e prever permitiria prover; Adolphe Quetelet (1796–1874) transportou regularidades quantitativas para o estudo da sociedade; Charles Sanders Peirce (1839–1914) desenvolveu uma filosofia falibilista na qual o conhecimento progride sem adquirir garantia absoluta; Henri Poincaré (1854–1912) demonstrou limites profundos da previsão mesmo em sistemas determinísticos; Max Weber (1864–1920) descreveu o processo moderno de racionalização como avanço da calculabilidade; John Maynard Keynes (1883–1946) distinguiu situações em que probabilidades podem ser razoavelmente estimadas daquelas em que a incerteza escapa a mensuração precisa; Frank Knight (1885–1972) estabeleceu a célebre distinção entre risco mensurável e incerteza propriamente dita; Karl Popper (1902–1994) argumentou contra pretensões historicistas de predizer o desenvolvimento necessário das sociedades, demonstrando que o crescimento futuro do próprio conhecimento impede profecias históricas dessa natureza; Friedrich August von Hayek (1899–1992) insistiu que o conhecimento relevante para a coordenação social permanece disperso entre indivíduos; Norbert Wiener (1894–1964) formulou a cibernética a partir de informação, feedback e controle; Claude Shannon (1916–2001) estabeleceu fundamentos matemáticos da teoria da informação; Herbert Simon (1916–2001) mostrou que agentes reais decidem sob racionalidade limitada e restrições informacionais; Benoît Mandelbrot (1924–2010) expôs estruturas complexas e comportamentos extremos inadequadamente representados por modelos simplificados; Edward Lorenz (1917–2008) demonstrou como sistemas determinísticos podem apresentar extrema sensibilidade às condições iniciais, tornando previsões de longo prazo praticamente inviáveis; Daniel Kahneman (1934–2024) e Amos Tversky (1937–1996) revelaram desvios sistemáticos da intuição humana no julgamento sob incerteza; Nassim Nicholas Taleb (1960–) enfatizou a importância dos eventos raros de enorme impacto que modelos baseados em regularidades anteriores tendem a subestimar; Judea Pearl (1936–) distinguiu cuidadosamente correlação, intervenção e causalidade, lembrando que previsão acurada não equivale automaticamente a compreensão causal; todos esses autores, apesar das enormes diferenças entre si, convergem numa advertência que se torna crucial diante de sistemas preditivos contemporâneos: prever não é conhecer o futuro; é produzir uma proposição presente acerca de uma possibilidade futura com determinado fundamento e determinado grau de incerteza; essa distinção parece trivial, mas desaparece com facilidade quando uma porcentagem, um score ou uma classificação adquire aparência técnica suficiente para exercer autoridade; “risco de 78%” parece mais sólido que “suspeitamos que talvez aconteça”, ainda que a porcentagem dependa de escolhas metodológicas invisíveis: quais dados foram incluídos, quais foram excluídos, como a variável dependente foi definida, que população originou o modelo, qual período histórico serviu de base, quais correlações foram interpretadas como relevantes, como valores ausentes foram tratados, quais custos de falso positivo e falso negativo foram tolerados, que mudanças sociais ocorreram depois da coleta, que proxies substituíram características não diretamente observáveis, como a calibração foi realizada e, sobretudo, se aquela previsão populacional possui significado suficiente quando aplicada à singularidade daquela pessoa; a sofisticação matemática não dissolve essas perguntas, apenas pode ocultá-las; um modelo altamente complexo pode continuar epistemicamente limitado porque nenhuma quantidade de processamento transforma dados sobre o passado em conhecimento necessário do futuro; a forma essencial permanece PASSADO OBSERVADO → MODELO → FUTURO ESTIMADO, e entre cada elemento existem escolhas, contingências e margens de erro; o problema jurídico surge quando essa estrutura probabilística é institucionalmente recebida como se fosse FUTURO CONHECIDO, substituindo incerteza por aparência de certeza; nesse ponto, a estatística deixa de servir à prudência e começa a ameaçar a liberdade porque a pessoa é tratada como realização antecipada de sua probabilidade; a previsão torna-se especialmente perigosa quando acerta com frequência suficiente para conquistar confiança institucional, pois nenhum sistema precisa ser infalível para produzir injustiça estrutural: basta que sua taxa geral de acerto seja celebrada enquanto seus erros individuais são absorvidos silenciosamente pelas pessoas classificadas; uma ferramenta pode possuir ótima performance média e ainda destruir a vida de determinados indivíduos, porque o indivíduo injustamente classificado não experimenta uma “taxa de erro de quatro por cento”; experimenta cem por cento da consequência que lhe foi imposta; por isso, a passagem da epistemologia estatística à normatividade jurídica exige uma mediação que frequentemente é omitida: uma proposição descritiva sobre probabilidade não contém, por si, uma conclusão normativa sobre como alguém deve ser tratado; dizer “há elevada probabilidade de X” não equivale logicamente a dizer “portanto, podemos impor Y”; entre X e Y existe uma premissa normativa que precisa ser explicitada, justificada, limitada e submetida a controle; quando essa premissa permanece oculta, o algoritmo parece produzir a decisão, embora na verdade apenas forneça um elemento para uma decisão cuja legitimidade continua integralmente humana e jurídica; a RFA pode representar essa resistência mediante uma regra elementar: PROBABILIDADE ≠ FATO; CORRELAÇÃO ≠ CAUSA; PREVISÃO ≠ IMPUTAÇÃO; RISCO ≠ CULPA; POSSIBILIDADE ≠ RESPONSABILIDADE, e nenhuma sofisticação tecnológica pode apagar os sinais de desigualdade entre esses conceitos sem cometer uma redução epistemológica.

3. O nascimento do sujeito estatístico: quando a pessoa se transforma em perfil

A mudança decisiva que permite ao futuro presumido produzir efeitos presentes não depende apenas da melhoria da previsão; depende de uma transformação anterior na maneira pela qual o indivíduo é conhecido pelas instituições, porque ninguém pode ser convertido em objeto de antecipação sistemática enquanto permanecer fenomenologicamente singular e irredutível; para prever em escala é preciso decompor, classificar, comparar e reconstituir pessoas como conjuntos de variáveis; Michel Foucault (1926–1984) mostrou que a modernidade desenvolveu técnicas de observação, exame, registro e normalização mediante as quais indivíduos concretos passaram a ser inscritos em sistemas de saber e poder; seu conceito de biopolítica é particularmente relevante porque indica a emergência de formas de governo voltadas não apenas ao território ou à obediência jurídica, mas à administração da vida das populações mediante nascimentos, mortes, doenças, produtividade, sexualidade, saúde e risco; Adolphe Quetelet (1796–1874) procurou identificar regularidades quantitativas no comportamento humano e construiu a figura do homme moyen; Francis Galton (1822–1911) transformou diferenças individuais em objeto intensivo de medição e comparação, ao mesmo tempo em que suas concepções eugênicas demonstraram historicamente como a passagem da descrição para a hierarquização normativa pode assumir formas profundamente violentas; Émile Durkheim (1858–1917), ao estudar o suicídio, demonstrou que acontecimentos aparentemente íntimos apresentam regularidades sociais; Georg Simmel (1858–1918) percebeu como a modernidade monetária e metropolitana intensificava processos abstratos de equivalência; Max Weber (1864–1920) descreveu a burocracia como estrutura fundada em registros, competências, classificações e regras gerais; Karl Mannheim (1893–1947) examinou as relações entre localização social e estruturas do pensamento; Erving Goffman (1922–1982) demonstrou como identidades sociais são organizadas e apresentadas em contextos institucionais; Pierre Bourdieu (1930–2002) descreveu campos, capitais e habitus que estruturam probabilidades de ação sem convertê-las em fatalidades mecânicas; Zygmunt Bauman (1925–2017) analisou os mecanismos classificatórios e excludentes da modernidade; Niklas Luhmann (1927–1998) mostrou que sistemas sociais precisam reduzir complexidade mediante seleções; Ian Hacking (1936–2023) examinou profundamente o modo como categorias estatísticas constituem “tipos de pessoas” e podem desencadear efeitos de looping, isto é, pessoas classificadas reagem às classificações e alteram o próprio fenômeno classificado; Gilles Deleuze (1925–1995) identificou uma transição das instituições disciplinares fechadas para controles contínuos modulados por códigos; Manuel Castells (1942–) descreveu a sociedade em rede; Shoshana Zuboff (1951–) analisou formas econômicas baseadas na captura sistemática de dados comportamentais e sua transformação em previsões; Luciano Floridi (1964–) desenvolveu uma filosofia da informação na qual a existência contemporânea precisa ser compreendida dentro de ambientes informacionais; Byung-Chul Han (1959–) examinou formas de exposição e autoexploração características das sociedades digitais; David Lyon (1948–) estudou a vigilância como componente estrutural das sociedades contemporâneas; esses movimentos convergem para a formação de uma entidade curiosa: o duplo estatístico do sujeito, composto não pela totalidade de sua experiência, mas pela soma operacional das informações que sistemas consideram relevantes; esse duplo pode conter idade, localização, histórico profissional, compras, padrão de deslocamento, pontualidade de pagamentos, frequência de acessos, interações, características linguísticas, preferências, redes de contato, comportamento digital, histórico administrativo, dados biométricos, desempenho anterior, semelhanças com outros perfis e centenas ou milhares de sinais cuja relação com determinado resultado pode não ser humanamente evidente; a partir deles, forma-se uma representação computável de alguém que não coincide necessariamente com seu autorreconhecimento nem com uma reconstrução fenomenológica de sua trajetória; surge então uma cisão: SUJEITO VIVIDO ≠ SUJEITO JURÍDICO ≠ SUJEITO DOCUMENTAL ≠ SUJEITO ESTATÍSTICO, quatro dimensões que podem convergir, mas podem também divergir radicalmente; o sujeito vivido conhece a própria experiência desde uma perspectiva de primeira pessoa; o sujeito jurídico aparece como titular de direitos, deveres, capacidades e posições normativas; o sujeito documental é aquilo que os registros institucionais conseguem demonstrar; o sujeito estatístico é aquilo que modelos inferem a partir de dados; a perigosa inversão acontece quando a quarta dimensão começa a dominar as demais, porque o sistema já não pergunta à pessoa o que aconteceu, nem necessariamente verifica de modo individualizado suas circunstâncias, mas a posiciona dentro de um espaço probabilístico e extrai dessa posição uma expectativa comportamental; Edmund Husserl (1859–1938), embora escrevendo num contexto completamente distinto, oferece aqui uma resistência conceitual decisiva com sua exigência de retorno “às coisas mesmas”: nenhuma representação, teoria ou modelo deve ser confundido com o fenômeno que pretende descrever; Martin Heidegger (1889–1976) advertiria contra a redução do ente à disponibilidade calculável; Maurice Merleau-Ponty (1908–1961) insistiria na corporeidade e na inserção concreta do sujeito no mundo; Hans-Georg Gadamer (1900–2002) mostraria que compreensão não é simples aplicação mecânica de categorias a objetos passivos, mas processo interpretativo situado; Paul Ricoeur (1913–2005) distinguiria identidade como mesmidade e identidade como ipseidade, lembrando que uma pessoa não pode ser reduzida à permanência estatística de características; Emmanuel Levinas (1906–1995) colocaria a alteridade do outro acima das tentativas de totalização conceitual; Hannah Arendt (1906–1975) atribuiria à natalidade a capacidade humana de começar algo novo, conceito particularmente poderoso contra qualquer antropologia preditiva rígida: cada ação autenticamente nova rompe, em algum grau, a continuidade do que era esperado; a estrutura algorítmica tende a dizer “você provavelmente continuará sendo aquilo que seus dados anteriores indicam”; a filosofia da natalidade responde “o humano é também aquele capaz de inaugurar aquilo que não estava contido na série anterior”; assim, o conflito entre pessoa e perfil não é apenas questão de privacidade, é questão ontológica: quem possui autoridade para dizer quem alguém é e, sobretudo, quem possui autoridade para decidir aquilo que essa pessoa poderá tornar-se? Quando uma instituição toma decisões relevantes com base no duplo estatístico, ela corre o risco de instaurar uma metafísica silenciosa segundo a qual o passado registrado constitui a essência do indivíduo e essa essência determina seu futuro provável; mas essa inferência contém dois saltos indevidos: primeiro, confunde registro com totalidade; segundo, confunde regularidade com necessidade; ninguém é simplesmente seus dados, porque dados são seleções de traços efetuadas segundo objetivos específicos; ninguém é simplesmente sua trajetória passada, porque agir inclui a possibilidade de ruptura; ninguém é simplesmente a classe estatística à qual foi atribuído, porque pertencer a uma população não elimina singularidade; dessa forma, quanto mais a sociedade depender de perfis preditivos, mais urgente se torna estabelecer um princípio de não equivalência entre pessoa e perfil, pelo qual nenhuma representação estatística poderá ser tomada como esgotamento ontológico do indivíduo, e um princípio complementar de primazia do fenômeno individual quando a consequência é individual, segundo o qual quanto mais intensa for a restrição concreta imposta a alguém, menor poderá ser a legitimidade de justificá-la exclusivamente mediante inferências extraídas de grupos ou regularidades abstratas.

4. Correlação, causalidade e imputação: três operações que não podem ser confundidas

Grande parte do poder persuasivo dos sistemas preditivos decorre da possibilidade de descobrir relações entre variáveis sem necessariamente compreender por que elas existem, e essa característica, extremamente útil para determinadas finalidades, torna-se perigosa quando atravessa sem mediação o território da responsabilidade; David Hume (1711–1776) já havia mostrado que aquilo que chamamos causalidade não é simplesmente captado pelos sentidos como vínculo necessário, pois observamos sucessões e regularidades e construímos expectativas; John Stuart Mill (1806–1873) procurou formular métodos para inferência causal; Charles Sanders Peirce (1839–1914) desenvolveu a abdução como forma de raciocínio que busca hipóteses explicativas; Bertrand Russell (1872–1970) questionou aspectos tradicionais do conceito de causa; Karl Popper (1902–1994) insistiu que teorias científicas devem permanecer expostas à refutação; Hans Reichenbach (1891–1953) contribuiu para a compreensão probabilística da causalidade; Patrick Suppes (1922–2014) desenvolveu uma teoria probabilística da causação; Donald Rubin (1943–) formulou, na estatística, estrutura contrafactual influente para inferência causal; Judea Pearl (1936–) produziu uma das distinções contemporâneas mais importantes entre observar, intervir e imaginar contrafactuais, demonstrando formalmente por que associação estatística não resolve, por si, questões causais; Nancy Cartwright (1944–) criticou simplificações na transposição de leis e modelos para contextos reais; James Woodward (1946–) elaborou uma abordagem intervencionista da causalidade; e o direito, por sua vez, desenvolveu há séculos instrumentos para impedir que mera sequência temporal ou associação probabilística se transforme automaticamente em imputação; Friedrich Carl von Savigny (1779–1861), Rudolf von Jhering (1818–1892), Karl Binding (1841–1920), Ernst von Beling (1866–1932), Hans Welzel (1904–1977), Karl Larenz (1903–1993), Claus Roxin (1931–2025), Günther Jakobs (1937–) e diversos outros juristas construíram categorias destinadas justamente a separar acontecimento físico, causalidade, finalidade, criação de risco, realização do risco e atribuição normativa; a razão dessa complexidade é simples: um resultado nunca se torna juridicamente imputável apenas porque existe alguma conexão fática entre pessoa e evento; o direito seleciona, entre infinitas condições antecedentes, aquelas que considera normativamente relevantes; nessa perspectiva, três estruturas precisam ser mantidas rigorosamente separadas: CORRELAÇÃO = variáveis aparecem associadas; CAUSALIDADE = uma alteração em determinado fator participa da produção de outro; IMPUTAÇÃO = o ordenamento possui razões para atribuir juridicamente determinado resultado a alguém; nenhuma seta é automática: CORRELAÇÃO ⇏ CAUSALIDADE ⇏ IMPUTAÇÃO; quando um sistema identifica que pessoas com certas características apresentam maior incidência de um comportamento, estabeleceu, na melhor das hipóteses, determinada associação estatística; ainda será necessário perguntar se essas características possuem relação causal, se funcionam apenas como proxies de outras variáveis, se o modelo capturou circunstâncias históricas contingentes, se há fatores omitidos, se a associação permanece no contexto específico, se existe viés na produção dos dados e se o próprio sistema institucional anterior contribuiu para gerar o padrão que agora aparece como “natural”; este último problema é particularmente grave porque dados históricos não são matéria neutra: são vestígios de decisões passadas; se uma instituição fiscalizou mais intensamente determinado grupo, encontrará maior número de infrações nesse grupo, e esse maior número poderá alimentar um modelo que concluirá que aquele grupo apresenta maior risco, levando a nova intensificação da fiscalização, que produzirá novos registros e reforçará o padrão inicial; surge então um circuito SELEÇÃO INICIAL → DADOS ASSIMÉTRICOS → MODELO → CLASSIFICAÇÃO → NOVA SELEÇÃO → DADOS AINDA MAIS ASSIMÉTRICOS, um mecanismo em que a previsão participa da fabricação do mundo que depois apresenta como evidência de sua própria correção; Robert K. Merton (1910–2003) chamou atenção para a profecia autorrealizável, situação em que uma definição inicialmente falsa ou contingente provoca comportamentos que acabam por torná-la aparentemente verdadeira; Ian Hacking (1936–2023) mostraria efeitos análogos na interação entre categorias e pessoas classificadas; Pierre Bourdieu (1930–2002) demonstraria como estruturas sociais tendem a reproduzir disposições e desigualdades; Michel Foucault (1926–1984) revelaria que saber e poder não constituem domínios simplesmente externos um ao outro; por isso, um sistema preditivo não deve ser examinado apenas perguntando “ele acerta?”, mas também “que mundo sua utilização ajuda a produzir?”; uma previsão pode alterar oportunidades, fiscalizações, incentivos, expectativas, tratamentos e decisões, modificando precisamente aquilo que pretendia apenas observar; no campo jurídico, isso exige uma precaução adicional: mesmo que determinada previsão seja causalmente robusta, ainda não surge daí a legitimidade da imputação; saber que um fator aumenta estatisticamente a probabilidade de determinada conduta não autoriza automaticamente restringir direitos de cada portador desse fator; idade, ambiente social, histórico familiar, condições econômicas, traços comportamentais e acontecimentos anteriores podem possuir relações estatísticas com vários resultados sem que se transformem em culpa ou responsabilidade; caso contrário, o direito abandonaria o ato e passaria a operar por ontologias de risco, classificando indivíduos segundo o que são, de onde vieram ou com quem se parecem; Luigi Ferrajoli (1940–) é especialmente importante aqui porque sua teoria garantista insiste na necessidade de separar direito penal do fato de direito penal do autor: pune-se, dentro de estritos critérios jurídicos, aquilo que alguém fez, não aquilo que alguém supostamente é; essa distinção precisa ser atualizada para o contexto preditivo: direito do fato ≠ direito do perfil; o perigo atual não é necessariamente o retorno explícito de antigas teorias de periculosidade pessoal, mas sua reaparição tecnicamente sofisticada sob a linguagem neutra do score, da probabilidade e da avaliação de risco; muda o vocabulário, mas a questão filosófica permanece: pode um indivíduo suportar uma consequência jurídica desfavorável por características que o tornam estatisticamente semelhante a pessoas que praticaram determinados atos? Se a resposta não for delimitada com extremo cuidado, a correlação começará a desempenhar clandestinamente a função da culpa, e a estatística substituirá a imputação individual sem jamais assumir que o fez.

5. A liberdade como capacidade de contrariar a previsão

Toda forma intensa de governo preditivo precisa enfrentar uma dificuldade filosófica que nenhuma melhoria estatística consegue eliminar: se uma pessoa é tratada no presente em função de sua probabilidade futura, qual espaço resta para a possibilidade de agir de outra maneira? A pergunta atravessa milênios; Aristóteles (384–322 a.C.) vinculava virtude e ação ao caráter, mas preservava a responsabilidade pela formação e exercício das disposições; Agostinho de Hipona (354–430) enfrentou o livre-arbítrio no interior de sua reflexão sobre mal, graça e responsabilidade; Tomás de Aquino (1225–1274) conciliou causalidade, providência e liberdade racional; Guilherme de Ockham (c. 1287–1347) acentuou dimensões da liberdade da vontade; Thomas Hobbes (1588–1679) formulou uma concepção compatibilista segundo a qual liberdade não exigiria ausência de causalidade, mas ausência de impedimentos externos ao movimento voluntário; Baruch Spinoza (1632–1677) sustentou que os homens se imaginam livres porque conhecem seus desejos e ignoram as causas que os determinam; Gottfried Wilhelm Leibniz (1646–1716) procurou compatibilizar determinação e contingência; David Hume (1711–1776) concebeu liberdade compatível com regularidades causais; Immanuel Kant (1724–1804) introduziu uma das soluções mais influentes ao distinguir o homem como fenômeno, submetido à causalidade natural, e como agente racional pensado sob a ideia de liberdade; Arthur Schopenhauer (1788–1860) radicalizou o problema ao distinguir capacidade de fazer o que se quer da capacidade de querer o que se quer; Søren Kierkegaard (1813–1855) colocou escolha, angústia e possibilidade no centro da existência; Friedrich Nietzsche (1844–1900) atacou concepções metafísicas tradicionais de livre-arbítrio e examinou a multiplicidade de forças constitutivas da ação; William James (1842–1910) defendeu um universo genuinamente aberto à possibilidade; Henri Bergson (1859–1941) associou liberdade à duração concreta e à ação que exprime a totalidade dinâmica da personalidade; Martin Heidegger (1889–1976) pensou a existência humana como projeto e possibilidade, não como substância fechada; Jean-Paul Sartre (1905–1980) radicalizou a liberdade como estrutura da existência, insistindo que o homem não coincide integralmente com aquilo que já é; Hannah Arendt (1906–1975) encontrou na natalidade uma categoria política da capacidade de iniciar o novo; Maurice Merleau-Ponty (1908–1961) recusou tanto um determinismo rígido quanto uma liberdade desencarnada, situando a ação num campo de possibilidades corporais e históricas; Paul Ricoeur (1913–2005) desenvolveu uma antropologia do homem capaz, alguém que pode falar, agir, narrar-se e responsabilizar-se; Harry Frankfurt (1929–2023) examinou desejos de primeira e segunda ordem para sofisticar a noção de autonomia; Peter Strawson (1919–2006) mostrou que nossas práticas de responsabilidade estão ligadas a atitudes reativas constitutivas das relações humanas; Daniel Dennett (1942–2024) defendeu versões naturalistas de liberdade compatível com capacidades de previsão, deliberação e autocontrole; Robert Kane (1938–2024) preservou concepção incompatibilista de responsabilidade última; Galen Strawson (1952–) argumentou contra a possibilidade de responsabilidade moral última; independentemente da resposta metafísica adotada, contudo, praticamente todas as instituições jurídicas modernas operam com uma pressuposição prática incontornável: pessoas não podem ser tratadas integralmente como simples objetos cuja trajetória futura já esteja encerrada pelas causas anteriores; se fossem, categorias como advertência, oportunidade, reabilitação, arrependimento, promessa, confiança, educação, tratamento, reinserção, mudança de comportamento e responsabilidade perderiam boa parte de seu sentido; o direito pressupõe algum grau de abertura porque dirige normas a agentes cuja conduta futura pretende orientar, não apenas registrar; toda norma de comportamento contém implicitamente a frase “você pode agir de outro modo”, ao menos no sentido normativo de que a ordem jurídica considera disponível uma alternativa; por isso há profunda contradição entre um sistema jurídico que ordena “não faça X” e um sistema preditivo que trata alguém como se X fosse praticamente uma extensão de sua identidade; quanto mais consequências presentes forem impostas com base na probabilidade de X, mais a instituição comunica ao sujeito que sua ação futura já foi pré-interpretada antes de ocorrer; estabelece-se uma tensão entre RESPONSABILIDADE, que pressupõe abertura suficiente para escolha, e PREDIÇÃO NORMATIVAMENTE CARREGADA, que tende a fechar antecipadamente o campo de possibilidades; isso não significa negar regularidades comportamentais, condicionamentos sociais, disposições psicológicas ou eficácia estatística de previsões; significa reconhecer que nenhuma dessas dimensões deve converter-se automaticamente em destino institucional; a liberdade juridicamente relevante pode ser compreendida, num sentido mínimo e operacional, como capacidade reconhecida de frustrar a previsão sem ser previamente privado da oportunidade de fazê-lo; daí pode derivar uma categoria importante: o direito ao futuro aberto, não como direito metafísico a ausência de causalidade, nem como pretensão infantil de ignorar todos os riscos, mas como princípio segundo o qual ninguém deve ter sua esfera jurídica integralmente determinada por um futuro que ainda não realizou; esse direito exige distinguir prevenção legítima de antecipação sancionatória: certas situações autorizam proteção anterior ao dano porque há bens cuja perda seria irreversível, mas quanto maior for a intervenção preventiva, mais rigorosos devem ser os critérios de atualidade, individualização, verificabilidade, proporcionalidade, revisabilidade e proximidade concreta do risco; a estrutura adequada não pode ser “é provável que faça, logo tratemos como se tivesse feito”, mas “há elementos individualizados que indicam determinado risco; qual intervenção mínima, temporária e revisável é justificável para proteger bens concretos sem converter possibilidade em culpa?”; essa diferença é a fronteira entre prudência e condenação antecipada; em termos fenomenológicos, a pessoa precisa permanecer maior do que sua projeção; em termos epistemológicos, a previsão precisa permanecer menor do que o fato; em termos jurídicos, a probabilidade precisa permanecer subordinada à imputação; em termos deontológicos, nenhum sistema deve retirar do indivíduo a possibilidade de demonstrar, por sua própria ação, que o futuro calculado a seu respeito estava errado; e talvez seja justamente aí que a liberdade contemporânea encontre uma nova formulação: ser livre não significa ser imprevisível em tudo, mas conservar institucionalmente o direito de não ser tratado como se uma previsão já fosse uma biografia consumada.

PARTE II — A FABRICAÇÃO DA PERICULOSIDADE: QUANDO RISCO PASSA A FUNCIONAR COMO CULPA

6. Da culpa pelo ato à suspeita sobre a pessoa

A transformação decisiva operada pelo pensamento preditivo começa quando o direito, sem declarar explicitamente que abandonou a responsabilidade pelo ato, passa a organizar consequências concretas em torno de características atribuídas ao próprio sujeito, fazendo com que a pergunta “o que aconteceu?” seja progressivamente substituída por “quem é esta pessoa e do que ela parece capaz?”; essa passagem é historicamente perigosa porque o direito moderno realizou enorme esforço intelectual para separar aquilo que alguém é, aquilo que alguém parece ser, aquilo que alguém poderia fazer e aquilo que alguém efetivamente fez, e toda vez que essas distinções se enfraquecem reaparece, sob linguagem renovada, uma forma de responsabilidade baseada em identidade, condição ou periculosidade; Cesare Beccaria (1738–1794) reagiu contra um sistema punitivo no qual arbitrariedade, segredo, tortura e desproporção permitiam ao poder operar sem limites claros; Paul Johann Anselm von Feuerbach (1775–1833) vinculou a pena à legalidade e à prévia definição do delito; Francesco Carrara (1805–1888) procurou construir o delito como ente jurídico e afastar a punição da mera apreciação moral do indivíduo; Cesare Lombroso (1835–1909), em sentido profundamente diverso, transformou o criminoso em objeto antropológico, acreditando identificar características biológicas do “delinquente nato”, formulação hoje cientificamente superada, mas historicamente reveladora de uma tentação persistente: encontrar no próprio indivíduo, antes ou para além do ato, sinais de uma criminalidade futura; Enrico Ferri (1856–1929) deslocou parte da análise para fatores sociais e ambientais; Raffaele Garofalo (1851–1934) enfatizou categorias de periculosidade e defesa social; Franz von Liszt (1851–1919) aproximou pena, prevenção e classificação do delinquente; Karl Binding (1841–1920), Ernst von Beling (1866–1932), Edmund Mezger (1883–1962), Hans Welzel (1904–1977), Claus Roxin (1931–2025) e Günther Jakobs (1937–), embora pertencentes a tradições e momentos dogmáticos profundamente diferentes, contribuíram para o longo esforço de reconstruir critérios objetivos e normativos capazes de evitar que a punição dependesse de uma impressão difusa sobre a personalidade do agente; Michel Foucault (1926–1984), ao analisar o nascimento da prisão e do exame criminológico, mostrou precisamente como a justiça moderna, apesar de declarar que julgava infrações, passou progressivamente a incorporar discursos destinados a responder quem era o infrator, de onde vinha sua conduta, qual sua personalidade, qual sua capacidade de adaptação, que perigos futuros representaria e que intervenção deveria incidir sobre ele; o objeto do julgamento, portanto, podia deslocar-se silenciosamente do ato para a alma, da conduta para a biografia, da infração para a personalidade; esse movimento reaparece hoje de forma muito mais sofisticada porque não precisa recorrer a teorias grosseiras de fisionomia ou degenerescência: basta converter a pessoa em uma arquitetura de variáveis e perguntar a um sistema qual a probabilidade de que alguém com aquele conjunto de atributos pratique determinada conduta; o mecanismo parece mais racional porque trabalha com grandes volumes de dados e métricas de desempenho, mas a estrutura normativa pode permanecer inquietantemente semelhante: CARACTERÍSTICAS DO SUJEITO → INFERÊNCIA SOBRE COMPORTAMENTO FUTURO → CLASSIFICAÇÃO DE RISCO → CONSEQUÊNCIA PRESENTE; nesse ponto, a periculosidade deixa de depender da linguagem antiga do “tipo criminoso” e reaparece como score, cluster, índice, perfil, categoria ou probabilidade; não se diz “esta pessoa possui natureza perigosa”, mas “o modelo indica risco elevado”; não se afirma “ela fará”, mas “há forte probabilidade de que faça”; porém, se dessa estimativa derivam restrições concretas antes da ocorrência do fato, a diferença semântica pode ocultar uma continuidade funcional: a pessoa sofre hoje por uma característica que, supostamente, aumenta a chance de um comportamento amanhã; Luigi Ferrajoli (1940–) insiste, dentro do paradigma garantista, na separação entre direito penal do fato e formas de direito penal do autor, porque a legitimidade da sanção exige que o poder responda a comportamentos tipificados e demonstrados, e não a identidades consideradas socialmente perigosas; Eugenio Raúl Zaffaroni (1940–) analisou criticamente processos de seleção penal e a forma como determinados grupos se tornam alvos privilegiados do sistema; Alessandro Baratta (1933–2002) demonstrou que criminalização e controle não são distribuídos de maneira neutra; Howard Becker (1928–2023), a partir da teoria do etiquetamento, mostrou que desvio não pode ser compreendido apenas como qualidade intrínseca do ato, pois depende também dos processos sociais mediante os quais regras são aplicadas e pessoas passam a ser definidas como desviantes; Edwin Lemert (1912–1996) distinguiu desvio primário e secundário, mostrando como a reação social pode contribuir para consolidar identidades desviantes; Erving Goffman (1922–1982) examinou o estigma como mecanismo capaz de reduzir uma pessoa complexa a uma característica desacreditadora; Pierre Bourdieu (1930–2002) mostrou como classificações institucionais podem adquirir eficácia prática precisamente porque são reconhecidas e reproduzidas como legítimas; Ian Hacking (1936–2023) demonstrou que categorias classificatórias podem interagir com aqueles que classificam, alterando comportamentos e retroalimentando os sistemas que as criaram; a inteligência preditiva amplia dramaticamente esse poder porque a classificação pode ocorrer antes de qualquer interação social perceptível, automaticamente, em escala massiva e sem que o indivíduo sequer saiba que foi colocado numa categoria; essa invisibilidade é decisiva: no estigma clássico, a pessoa frequentemente sabia que carregava uma marca social; no perfil algorítmico, ela pode sofrer os efeitos de uma classificação cuja própria existência desconhece; pode receber menos oportunidades, ser fiscalizada mais intensamente, enfrentar exigências adicionais, ter solicitações rejeitadas ou ser encaminhada a procedimentos diferenciados sem que lhe seja revelado que a decisão resultou de uma previsão; cria-se uma forma de suspeita sem acusação, e precisamente por não assumir a forma jurídica explícita de uma acusação ela pode escapar das garantias tradicionalmente desenvolvidas para limitar o poder; o acusado conhece, ao menos idealmente, a imputação que lhe é dirigida e pode contestar fatos, provas e enquadramento jurídico; o classificado como risco pode sequer conhecer os fatores que o tornaram suspeito; daí surge uma inversão fundamental: no modelo garantista, o Estado ou a instituição deve demonstrar por que uma consequência desfavorável pode ser legitimamente imposta; no modelo preditivo opaco, o indivíduo corre o risco de ter de demonstrar por que não corresponde àquilo que o sistema calculou, passando da presunção de inocência para uma espécie de ônus de desmentir a previsão; o esquema torna-se NÃO HÁ FATO → HÁ PERFIL → HÁ RISCO → HÁ RESTRIÇÃO → CABE AO INDIVÍDUO PROVAR QUE É EXCEÇÃO, e a injustiça está justamente em transformar a singularidade, que deveria ser ponto de partida da imputação, em exceção que precisa ser reivindicada; ninguém deveria precisar provar que não é a média de um grupo porque nenhuma pessoa é ontologicamente equivalente a uma média; a média é instrumento descritivo criado para falar sobre uma distribuição, não sujeito moral capaz de substituir os indivíduos que a compõem; por isso, a fronteira entre avaliação legítima de risco e culpa presumida deve ser traçada não pelo vocabulário utilizado, mas pela função da classificação: quanto mais a consequência aplicada ao indivíduo se aproxima de uma sanção, privação ou impedimento, mais insuficiente se torna a mera pertença probabilística a um grupo; e quanto mais o sistema pretende justificar a restrição a partir da pessoa em vez do ato, mais rigorosamente deve ser interrogado sobre a possibilidade de estar reconstruindo, sob aparência matemática, aquilo que a modernidade jurídica passou séculos tentando limitar: a condenação de alguém não por aquilo que fez, mas por aquilo que o poder acredita que ele é.

7. O risco como conceito: possibilidade, perigo e probabilidade não são sinônimos

A palavra “risco” adquiriu tamanha centralidade nas sociedades contemporâneas que sua aparente evidência começa a esconder a enorme heterogeneidade de fenômenos reunidos sob o mesmo nome, e esse problema semântico possui consequências jurídicas graves, porque possibilidade, perigo, ameaça, incerteza, vulnerabilidade, probabilidade, prognóstico e risco não designam necessariamente a mesma estrutura; Aristóteles (384–322 a.C.) distinguia o necessário, o possível e o contingente, fornecendo uma gramática ontológica ainda extremamente útil: algo possível não é, por esse simples fato, provável, e algo provável não é necessário; David Hume (1711–1776) mostrou que nossas expectativas resultam de regularidades observadas, não da percepção de vínculos necessários entre acontecimentos; Pierre-Simon Laplace (1749–1827) elevou a previsibilidade determinista à sua formulação paradigmática, embora a própria ciência posterior viesse a demonstrar limites severos dessa imagem; Antoine Augustin Cournot (1801–1877) trabalhou filosoficamente o acaso e a probabilidade; John Venn (1834–1923) desenvolveu importantes reflexões sobre lógica e frequência probabilística; Frank Knight (1885–1972) distinguiu risco, em sentido mensurável, de incerteza não reduzível a distribuições probabilísticas conhecidas; John Maynard Keynes (1883–1946), em sua reflexão sobre probabilidade, mostrou que graus de crença racional não se reduzem necessariamente a frequências numéricas; Ludwig von Mises (1881–1973) separou probabilidades de classe e de caso; Rudolf Carnap (1891–1970) explorou interpretações lógicas da probabilidade; Bruno de Finetti (1906–1985) desenvolveu uma interpretação subjetiva na qual probabilidades exprimem graus coerentes de crença; Leonard Savage (1917–1971) formalizou a decisão sob incerteza; Thomas Bayes (c. 1701–1761), embora anterior a todos eles, legou a estrutura que posteriormente permitiria atualizar probabilidades a partir de novas evidências; Karl Popper (1902–1994) sustentou uma interpretação propensional da probabilidade; Hans Reichenbach (1891–1953) trabalhou a relação entre frequência, indução e ciência; Ulrich Beck (1944–2015), já em perspectiva sociológica, descreveu a emergência de uma “sociedade de risco” em que ameaças produzidas pela própria modernização se tornam objetos centrais de política e conhecimento; Anthony Giddens (1938–) examinou a reflexividade moderna e a administração institucionalizada de riscos; Mary Douglas (1921–2007) e Aaron Wildavsky (1930–1993) mostraram que percepção de risco também é culturalmente organizada; Niklas Luhmann (1927–1998) estabeleceu distinção particularmente fecunda entre risco e perigo: em termos simplificados, risco relaciona-se a consequências atribuídas a uma decisão, enquanto perigo aparece como dano proveniente do ambiente; François Ewald (1946–) analisou historicamente a transformação da responsabilidade mediante tecnologias de seguro; Deborah Lupton (1963–) estudou dimensões sociais e culturais do risco; Nassim Nicholas Taleb (1960–) insistiu que distribuições mal compreendidas e eventos extremos podem tornar ilusória a segurança produzida por modelos de previsão; Daniel Kahneman (1934–2024) e Amos Tversky (1937–1996) demonstraram que seres humanos respondem à incerteza por heurísticas e vieses, avaliando probabilidades de modo sistematicamente imperfeito; Paul Slovic (1938–) mostrou que percepção pública de risco envolve fatores como temor, desconhecimento, controle e voluntariedade, não apenas magnitude estatística; todos esses trabalhos permitem reconstruir uma distinção necessária: POSSIBILIDADE pergunta se algo pode ocorrer; PROBABILIDADE estima quão frequentemente ou com que grau de crença racional se espera que ocorra; PERIGO identifica uma condição capaz de produzir dano; RISCO combina de alguma maneira incerteza e consequência; IMPUTAÇÃO, por fim, pergunta se determinada consequência pode ser juridicamente atribuída a alguém; confundir essas categorias produz uma escalada indevida: algo é possível, então é descrito como risco; porque é risco, passa a ser chamado de perigo; porque alguém está associado ao perigo, torna-se “perigoso”; porque é considerado perigoso, recebe tratamento restritivo; em poucos passos, uma modalidade ontológica converte-se numa qualidade pessoal e depois numa consequência jurídica; a sequência POSSÍVEL → ARRISCADO → PERIGOSO → SUJEITO PERIGOSO → RESTRIÇÃO contém saltos que precisam ser justificados individualmente, porque nenhum deles é dedutivamente necessário; um evento de baixíssima probabilidade pode possuir consequências catastróficas e justificar medidas gerais de precaução, enquanto outro de alta probabilidade pode produzir dano trivial e não autorizar intervenção intensa; uma pessoa pode estar inserida em contexto estatisticamente arriscado sem que ela própria represente perigo individualizado; um comportamento pode aumentar determinado risco sem possuir qualquer relevância normativa; e, sobretudo, um risco pode ser real sem que exista qualquer culpa, porque risco pertence ao campo prospectivo enquanto culpa depende de critérios normativos ligados à ação; Hans Jonas (1903–1993), ao formular uma ética da responsabilidade adequada ao alcance tecnológico moderno, mostrou que riscos de danos irreversíveis podem exigir prudência diante de incerteza, mas sua preocupação não autoriza a conversão de toda incerteza em licença para restrição; ao contrário, precisamente porque decisões preventivas podem produzir danos próprios, a responsabilidade deve incidir também sobre quem decide intervir; Cass Sunstein (1954–) discutiu dificuldades regulatórias relacionadas a precaução e análise de risco; Ronald Dworkin (1931–2013), ainda que não tenha construído uma teoria geral do risco tecnológico, fornece uma exigência fundamental ao tratar direitos como restrições à simples maximização agregativa; Robert Alexy (1945–) mostra, em sua teoria dos princípios, a necessidade de justificar intervenções mediante estruturas de proporcionalidade; Jürgen Habermas (1929–) enfatiza a legitimidade decorrente da possibilidade de justificação pública das normas; Joseph Raz (1939–2022) relaciona autoridade e razões para ação; Neil MacCormick (1941–2009) insiste na racionalidade justificativa das decisões jurídicas; essas contribuições convergem para uma exigência metodológica: quando a palavra “risco” aparece numa decisão, ela não pode funcionar como uma caixa-preta argumentativa; deve-se perguntar RISCO DE QUÊ? COM QUE PROBABILIDADE? BASEADO EM QUAIS DADOS? EM QUE HORIZONTE TEMPORAL? COM QUE MARGEM DE ERRO? MEDIDO EM QUAL POPULAÇÃO? QUAL A GRAVIDADE DO DANO? QUAL A REVERSIBILIDADE? EXISTEM ALTERNATIVAS MENOS RESTRITIVAS? QUAL É O CUSTO DO FALSO POSITIVO? QUAL É O CUSTO DO FALSO NEGATIVO?; sem essas perguntas, risco deixa de ser conceito analítico e torna-se palavra legitimadora, capaz de produzir deferência simplesmente porque evoca possibilidade de dano; essa retórica é especialmente eficaz porque qualquer contestação pode ser apresentada como irresponsabilidade: “e se acontecer?”, “e se o modelo estiver certo?”, “e se a prevenção pudesse ter evitado?”, de modo que o medo do erro por omissão pode induzir instituições a cometer sistematicamente erros por excesso; mas os falsos positivos também possuem vítimas, e a pessoa injustamente classificada como perigosa não desaparece moralmente apenas porque a política acertou estatisticamente em outros casos; um sistema que protege cem pessoas restringindo injustamente mil não pode justificar-se simplesmente pela existência do benefício, assim como um sistema que nada previne em nome da liberdade pode ignorar danos evitáveis; a questão correta está entre esses extremos e exige abandonar slogans em favor de uma reconstrução proporcional: RISCO NÃO É PASSE LIVRE PARA O PODER; RISCO É UMA PREMISSA QUE AUMENTA, E NÃO DIMINUI, O ÔNUS DE JUSTIFICAÇÃO, porque atuar antes do fato significa intervir justamente quando aquilo que fundamentaria com maior segurança a intervenção ainda não aconteceu.

8. Falsos positivos: quando a eficiência coletiva produz a injustiça integral de um indivíduo

Todo sistema de classificação comete erros, e a dificuldade moral começa quando a linguagem estatística permite que erros individualmente devastadores apareçam institucionalmente como taxas toleráveis; se um mecanismo possui noventa e cinco por cento de acurácia, a formulação parece sugerir excelência, mas a relevância concreta desse número depende da prevalência do fenômeno, da distribuição dos erros, do custo de cada tipo de equívoco, da sensibilidade, da especificidade, da calibração e das consequências atribuídas à classificação; Thomas Bayes (c. 1701–1761) forneceu a estrutura matemática que permite compreender como probabilidades anteriores e novas evidências interagem; Pierre-Simon Laplace (1749–1827) desenvolveu largamente a aplicação probabilística; Ronald Fisher (1890–1962), Jerzy Neyman (1894–1981) e Egon Pearson (1895–1980) construíram ferramentas fundamentais da inferência estatística moderna; Abraham Wald (1902–1950) relacionou estatística e teoria da decisão; Leonard Savage (1917–1971) formalizou escolhas sob incerteza; Jacob Cohen (1923–1998) advertiu contra interpretações simplistas de significância estatística; David Cox (1924–2022) contribuiu para a modelagem estatística e a inferência; Daniel Kahneman (1934–2024) e Amos Tversky (1937–1996) demonstraram como humanos tendem a ignorar taxas-base ao avaliar probabilidades; Gerd Gigerenzer (1947–) mostrou como formatos de apresentação de risco podem produzir incompreensão mesmo entre profissionais; Judea Pearl (1936–) recorda que desempenho preditivo e compreensão causal são problemas diferentes; Cathy O’Neil (1972–) popularizou críticas aos efeitos sociais de modelos opacos utilizados em decisões de alto impacto; Virginia Eubanks (1974–) analisou como sistemas automatizados empregados em contextos sociais podem intensificar vulnerabilidades; Ruha Benjamin (1978–) examinou a reprodução tecnológica de desigualdades; Safiya Umoja Noble (1970–) mostrou como sistemas informacionais podem incorporar e amplificar hierarquias sociais; Frank Pasquale (1974–) chamou atenção para o poder das “sociedades de caixa-preta”; Danielle Citron (1968–) estudou problemas jurídicos decorrentes de processos automatizados e devido processo; Solon Barocas (1984–), Moritz Hardt (1980–) e Arvind Narayanan (1981–) contribuíram para a análise técnica e normativa de justiça algorítmica; embora essas discussões possuam contextos específicos, existe uma estrutura geral que precisa ser compreendida pelo direito: nenhuma acurácia agregada elimina o indivíduo falsamente classificado; suponha-se um fenômeno relativamente raro e um sistema aparentemente excelente: mesmo uma pequena taxa de falsos positivos pode produzir número de pessoas erroneamente marcadas superior ao número de verdadeiros positivos, dependendo da prevalência; o problema é conhecido matematicamente, mas juridicamente sua importância é ainda maior porque a consequência não recai sobre uma abstração estatística, e sim sobre alguém determinado; se uma pessoa é falsamente classificada como propensa à fraude e, por isso, perde uma oportunidade, o sistema não lhe impõe “cinco por cento de injustiça”; impõe a totalidade da perda; essa assimetria entre erro agregado e dano individual precisa entrar no centro da teoria da responsabilidade preditiva; Jeremy Bentham (1748–1832) poderia justificar políticas segundo a soma de prazeres e dores, mas John Stuart Mill (1806–1873), embora utilitarista, reconheceu a importância de liberdades individuais como condições de desenvolvimento humano; Immanuel Kant (1724–1804) recusaria tratar a pessoa meramente como meio para fins agregados; John Rawls (1921–2002) construiria sua teoria da justiça contra a possibilidade de sacrificar direitos fundamentais de alguns para maximizar vantagens gerais; Ronald Dworkin (1931–2013) insistiria em direitos individuais capazes de resistir a justificações puramente coletivas; Amartya Sen (1933–) mostraria a importância de capacidades concretas e de avaliações comparativas da injustiça; Martha Nussbaum (1947–) desenvolveria abordagem centrada em capacidades humanas fundamentais; Luigi Ferrajoli (1940–) trataria garantias precisamente como limites impostos ao poder majoritário em defesa de indivíduos; o desafio dos sistemas preditivos pode ser expresso assim: quantos inocentes estatísticos estamos dispostos a restringir para impedir quantos eventos futuros?; a pergunta é desconfortável porque não admite resposta universal e porque aparece, ainda que disfarçada, em segurança, saúde, crédito, seguros, proteção de crianças, combate à fraude, prevenção de violência, imigração, compliance, execução penal e inúmeras outras áreas; uma política de tolerância zero a falsos negativos tende a produzir grande número de falsos positivos; uma política de tolerância zero a falsos positivos tende a permitir a ocorrência de eventos que poderiam talvez ter sido prevenidos; não existe engenharia social capaz de eliminar simultaneamente ambos os erros, de maneira que toda escolha de limiar contém uma decisão normativa sobre quem suportará o custo da incerteza; esse ponto é fundamental: o threshold não é apenas parâmetro técnico; é uma decisão distributiva; alterar o limiar de quarenta para sessenta por cento muda quem será investigado, recusado, monitorado, internado, liberado, segurado, fiscalizado ou classificado; alguém escolheu esse número, explicitamente ou por padrão, e essa escolha contém uma teoria implícita sobre qual erro é mais tolerável; quando essa decisão é escondida dentro de um sistema, a política se apresenta como matemática e a responsabilidade humana desaparece atrás da interface; Max Weber (1864–1920) descreveu como a racionalidade formal pode adquirir aparência de objetividade impessoal; Hannah Arendt (1906–1975) mostrou, em contexto inteiramente diferente e muito mais grave, como sistemas burocráticos podem dispersar responsabilidade entre agentes que se percebem apenas como executores de funções; Zygmunt Bauman (1925–2017) desenvolveu reflexão semelhante sobre distância moral e organização burocrática; Günther Anders (1902–1992) examinou o descompasso entre capacidade técnica e imaginação moral; Jacques Ellul (1912–1994) criticou a autonomização da técnica como lógica orientada pela eficiência; esses autores ajudam a compreender uma tentação contemporânea: quando um algoritmo erra, todos podem declarar que apenas seguiram o sistema; o programador implementou critérios definidos por outros, o gestor contratou ferramenta validada, o operador recebeu pontuação, o decisor confiou na indicação, o fornecedor diz que o modelo apenas auxilia, e o indivíduo prejudicado encontra uma cadeia de participantes sem um verdadeiro autor da decisão; daí a necessidade de uma regra de não dissolução da responsabilidade humana pela mediação algorítmica: quanto mais decisivo o sistema for para uma consequência jurídica, mais claramente devem ser identificáveis quem definiu o objetivo, quem escolheu os dados, quem validou o modelo, quem estabeleceu o limiar, quem determinou a consequência e quem possui poder de revisão; não basta perguntar se o modelo funciona, é necessário perguntar quem responde quando ele funciona exatamente como foi projetado e, ainda assim, produz uma injustiça; essa hipótese é ainda mais importante que o simples defeito técnico, porque muitos danos não decorrem de falhas do algoritmo, mas da decisão institucional de converter determinada correlação em critério de tratamento; portanto, o falso positivo não deve ser compreendido como “ruído inevitável” quando produz restrição de direitos: ele é uma pessoa concreta sobre a qual uma instituição decidiu transferir o custo de sua própria incerteza, e essa transferência exige fundamento normativo proporcional à gravidade da consequência.

9. A profecia autorrealizável: quando prever alguém ajuda a produzir aquilo que foi previsto

Uma previsão social não é necessariamente um espelho passivo do futuro, porque, diferentemente de muitos fenômenos naturais, pessoas respondem às expectativas formuladas a seu respeito, instituições modificam seu comportamento em função das classificações que produzem e oportunidades distribuídas segundo prognósticos podem alterar precisamente as trajetórias que pretendiam apenas antecipar; Robert K. Merton (1910–2003) formulou o conceito de profecia autorrealizável para explicar situações em que uma definição inicialmente falsa provoca comportamentos que tornam verdadeira a expectativa original; William Isaac Thomas (1863–1947) e Dorothy Swaine Thomas (1899–1977) haviam formulado anteriormente a ideia segundo a qual situações definidas como reais tornam-se reais em suas consequências; George Herbert Mead (1863–1931) mostrou como a constituição do self depende de interação social e interiorização das perspectivas dos outros; Charles Horton Cooley (1864–1929), com a ideia do “looking-glass self”, explicou como a percepção da forma pela qual os outros nos enxergam participa da construção da identidade; Erving Goffman (1922–1982) revelou como apresentações do eu são ajustadas às expectativas dos contextos sociais; Howard Becker (1928–2023) demonstrou que a atribuição do rótulo desviante pode modificar trajetórias; Edwin Lemert (1912–1996) mostrou como reação social pode transformar desvio episódico em identidade consolidada; Pierre Bourdieu (1930–2002) analisou o poder simbólico de classificações institucionalmente autorizadas; Michel Foucault (1926–1984) descreveu formas pelas quais conhecimento sobre indivíduos participa da normalização de suas condutas; Ian Hacking (1936–2023) elaborou a ideia dos efeitos de looping dos tipos humanos, em que classificações modificam pessoas e essas modificações, por sua vez, alteram as classificações; Albert Bandura (1925–2021), ao desenvolver a teoria social cognitiva, mostrou como expectativas de autoeficácia influenciam comportamento; Martin Seligman (1942–) examinou mecanismos de desamparo aprendido; Carol Dweck (1946–) demonstrou a importância de crenças sobre capacidades para trajetórias de aprendizado; Claude Steele (1946–) pesquisou efeitos de ameaças ligadas a estereótipos sobre desempenho; Rosenthal (1933–2024) e Lenore Jacobson (1922–2020) ficaram associados a pesquisas sobre efeitos de expectativas em contextos educacionais; esses fenômenos convergem para uma questão central: se uma pessoa é classificada como alto risco e, em consequência, recebe menos confiança, menos oportunidades, maior vigilância e mais barreiras, o resultado futuro observado não pode ser interpretado ingenuamente como confirmação independente da previsão inicial, porque a classificação participou causalmente das condições que produziram o resultado; imagine-se uma instituição que considere determinado perfil profissional como de alta probabilidade de fracasso e, por isso, ofereça a seus integrantes contratos mais precários, menos treinamento e menores oportunidades de progressão; se o grupo apresentar posteriormente maior rotatividade e desempenho inferior, o modelo poderá registrar esses resultados como evidência de que a classificação estava correta, embora parte do resultado tenha sido produzida pelo tratamento diferenciado decorrente da própria classificação; a estrutura é PREVISÃO → TRATAMENTO DIFERENCIADO → ALTERAÇÃO DAS OPORTUNIDADES → RESULTADO → CONFIRMAÇÃO DA PREVISÃO, e sua aparência circular pode permanecer invisível se a instituição examinar apenas desempenho preditivo final; Friedrich Hayek (1899–1992) advertiu, em outro registro, para dificuldades de sistemas que pretendem reunir e controlar conhecimento social disperso; Karl Popper (1902–1994) enfatizou que previsões sociais podem interagir com os eventos previstos; Anthony Giddens (1938–) descreveu a reflexividade das ciências sociais, isto é, o fato de que conhecimentos sobre a sociedade podem retornar à própria sociedade e modificar seu funcionamento; Niklas Luhmann (1927–1998) mostrou que observação social é sempre operação realizada por sistemas que distinguem e selecionam; Bruno Latour (1947–2022) insistiu que tecnologias e artefatos participam da organização das relações sociais; Donna Haraway (1944–) problematizou fronteiras entre humano e tecnológico; Luciano Floridi (1964–) ajuda a compreender a crescente constituição de ambientes informacionais nos quais decisões e identidades circulam; Shoshana Zuboff (1951–) descreve formas de intervenção comportamental baseadas não apenas em prever, mas em modificar condutas; a distinção entre prediction e intervention torna-se então essencial: um sistema que classifica pessoas e altera seu ambiente não está apenas predizendo o futuro; está participando de sua fabricação; isso cria um problema normativo muito superior ao simples viés porque a própria eficácia preditiva pode crescer justamente em razão do poder exercido pelo sistema; uma instituição suficientemente poderosa consegue, em parte, tornar corretas suas próprias previsões: quem recebe o rótulo de confiável ganha oportunidades que facilitam sucesso; quem recebe o rótulo de arriscado enfrenta obstáculos que aumentam probabilidade de fracasso; depois, ambos são apresentados como provas empíricas da qualidade do modelo; o sistema torna-se uma máquina de produzir evidências em favor de si mesmo; do ponto de vista da RFA, essa estrutura exige separar cuidadosamente FENÔMENO ORIGINÁRIO de FENÔMENO PRODUZIDO PELA INTERVENÇÃO, porque aquilo que aparece depois de uma política não pode ser utilizado sem cautela como demonstração da condição que existiria antes dela; Hans-Georg Gadamer (1900–2002) recorda que toda compreensão é situada e mediada; Edmund Husserl (1859–1938) exigiria a suspensão de pressupostos que se naturalizaram; Maurice Merleau-Ponty (1908–1961) insistiria na relação dinâmica entre sujeito e mundo; Paul Ricoeur (1913–2005) mostraria que identidade se desenvolve narrativamente ao longo do tempo; Hannah Arendt (1906–1975) oferece novamente a categoria da natalidade, essencial porque ação significa introduzir novidade numa rede de relações; a profecia autorrealizável ameaça exatamente essa natalidade quando instituições reduzem o campo de possibilidades futuras em razão de expectativas construídas a partir do passado; quanto maior o poder institucional de uma previsão, maior deve ser o dever de analisar seus efeitos performativos: ela apenas descreve, ou muda o ambiente? informa uma decisão, ou define oportunidades? detecta uma tendência, ou cria incentivos que reforçam a tendência? reconhece um risco, ou distribui recursos de modo a agravá-lo?; disso decorre uma regra metodológica: nenhum sistema preditivo social deveria ser avaliado apenas pela capacidade de acertar resultados; deve ser avaliado também pela parcela desses resultados que sua própria utilização ajuda a produzir; uma previsão cuja eficácia deriva em parte da restrição imposta aos classificados é moralmente distinta de uma previsão puramente observacional; se essa diferença for ignorada, a sociedade poderá gradualmente transformar o prognóstico em destino, não porque os modelos tenham finalmente conquistado conhecimento determinista do ser humano, mas porque adquiriram poder suficiente para organizar o mundo de modo que os indivíduos tenham cada vez menos espaço para contrariá-los.

10. O retorno silencioso da periculosidade: do “tipo perigoso” ao score de risco

A história do direito demonstra que conceitos raramente desaparecem por completo; muitas vezes perdem legitimidade numa linguagem e reaparecem sob outra, depurados das expressões que se tornaram insustentáveis, mas preservando parte de sua função estrutural, e algo semelhante pode ocorrer com a ideia de periculosidade; Cesare Lombroso (1835–1909) buscou sinais corporais que supostamente revelariam predisposição criminal, projeto atravessado por erros científicos, determinismos biológicos e preconceitos próprios de seu contexto; Enrico Ferri (1856–1929) ampliou o positivismo criminológico para fatores sociais, físicos e individuais; Raffaele Garofalo (1851–1934) desenvolveu concepções ligadas à temibilidade e defesa social; Franz von Liszt (1851–1919) diferenciou finalidades preventivas segundo categorias de infratores; Filippo Gramatica (1901–1979) e Marc Ancel (1902–1990) desenvolveram, de maneiras distintas, concepções vinculadas à defesa social; Michel Foucault (1926–1984) analisou como a psiquiatria, a criminologia e outras disciplinas penetraram o julgamento para construir um saber sobre o indivíduo perigoso; Giorgio Agamben (1942–) examinou, em outro plano, formas pelas quais estados de exceção e dispositivos de segurança podem deslocar fronteiras jurídicas; Roberto Esposito (1950–) trabalhou categorias de imunização e comunidade; François Ewald (1946–) mostrou como seguro, responsabilidade e cálculo de risco reconfiguraram formas de governo; Ulrich Beck (1944–2015) descreveu sociedades progressivamente preocupadas com antecipação de perigos produzidos pela própria modernização; David Garland (1955–) analisou transformações na cultura do controle e o crescimento de políticas centradas em risco; Jonathan Simon (1959–) examinou o que denominou governo através do crime; Pat O’Malley (1948–) estudou formas de governamentalidade baseadas em risco, incerteza e prudencialismo; Malcolm Feeley (1945–) e Jonathan Simon (1959–) utilizaram a expressão “new penology” para caracterizar uma racionalidade menos orientada à transformação moral de indivíduos e mais voltada à identificação, classificação e gestão de grupos segundo níveis de risco; essa mutação é fundamental porque o sujeito perigoso contemporâneo não precisa mais ser descrito mediante uma teoria explícita de essência criminosa: basta ser posicionado num gradiente quantitativo; “baixo”, “moderado”, “alto” e “muito alto” parecem categorias meramente técnicas, mas cada uma pode carregar consequências jurídicas e sociais; o antigo discurso dizia “este indivíduo é perigoso”; o novo pode dizer “este indivíduo apresenta score 82”; a segunda formulação parece epistemicamente superior porque quantifica, mas a quantificação não resolve automaticamente os problemas conceituais presentes na primeira: o que exatamente está sendo medido? risco de qual comportamento? em qual período? comparado a quem? com qual margem de erro? sob quais circunstâncias? e, sobretudo, por que essa medida autoriza determinada consequência?; um número possui extraordinário poder retórico porque parece eliminar interpretação, embora seja produto de inúmeras interpretações anteriores; Alain Desrosières (1940–2013) mostrou historicamente como categorias estatísticas são construções institucionais que simultaneamente descrevem e organizam o mundo; Theodore Porter (1953–) analisou a busca de objetividade quantitativa como resposta à necessidade de confiança em decisões impessoais; Lorraine Daston (1951–) e Peter Galison (1955–) reconstruíram historicamente diferentes ideais de objetividade científica; Espeland (1952–) e Michael Sauder (1968–) estudaram efeitos de reatividade produzidos por rankings e métricas; Jerry Muller (1954–) criticou a tendência de substituir julgamento por indicadores; Goodhart (1936–) ficou associado à observação segundo a qual uma medida deixa de funcionar adequadamente como medida quando se transforma em alvo; Donald Campbell (1916–1996) formulou advertência semelhante sobre corrupção de indicadores submetidos a intensa pressão decisória; esses autores ajudam a compreender que a numeração da periculosidade não elimina a política da periculosidade: ela apenas desloca decisões normativas para etapas anteriores de construção do indicador; escolher variável-alvo, população de treinamento, horizonte temporal e limiar significa escolher uma determinada representação do risco; uma pessoa pode ser simultaneamente classificada como baixa em um modelo e alta em outro porque não existe “o risco” como substância única escondida dentro dela à espera de ser medida; existem riscos especificados segundo perguntas, dados, modelos e finalidades; Ian Hacking (1936–2023) lembraria que probabilidades dependem das classes de referência utilizadas, criando o problema de qual conjunto é adequado para estimar o caso individual; Ronald Dworkin (1931–2013) exigiria que decisões estatais tratassem as pessoas com igual consideração e respeito; John Rawls (1921–2002) colocaria liberdades básicas fora do simples cálculo agregativo; Luigi Ferrajoli (1940–) sublinharia a centralidade das garantias e da verificabilidade; Eugenio Raúl Zaffaroni (1940–) advertiria contra expansões do poder punitivo ancoradas em inimigos e perigos; Günther Jakobs (1937–), justamente por ter desenvolvido de modo controverso a categoria de “direito penal do inimigo”, torna visível o ponto extremo do problema: quando alguém deixa de ser tratado prioritariamente como pessoa juridicamente vinculada por normas e passa a ser considerado fonte de perigo a neutralizar, a estrutura do direito se altera; a racionalidade preditiva pode aproximar-se dessa fronteira sem usar qualquer linguagem de inimigo, apenas administrando probabilidades; por isso, a questão não é demonizar instrumentos de avaliação de risco, muitos dos quais podem superar julgamentos intuitivos inconsistentes em certos contextos, mas impedir que a aparente objetividade quantitativa desloque o problema normativo central; Paul Meehl (1920–2003) mostrou que previsões atuariais frequentemente superavam julgamentos clínicos não estruturados em determinados domínios, e Daniel Kahneman (1934–2024) retomaria a importância de algoritmos simples como mecanismos capazes de reduzir ruído decisório; isso significa que abandonar modelos e retornar à intuição humana não resolve o problema, pois seres humanos também discriminam, erram, projetam preconceitos e apresentam enorme variabilidade; a alternativa não é HOMEM BOM × ALGORITMO MAU, mas DECISÃO JUSTIFICÁVEL × DECISÃO OPACA, seja ela humana, automatizada ou híbrida; sistemas estruturados podem inclusive reduzir arbitrariedade se forem adequadamente construídos, transparentes, auditáveis, contestáveis e limitados à finalidade para a qual foram validados; o risco começa quando a pontuação passa da condição de elemento informativo à condição de argumento conclusivo, quando a classificação substitui a reconstrução individual, quando o decisor deixa de perguntar “por quê?” porque o número parece responder sozinho, e quando a instituição transforma probabilidade em identidade: ELE NÃO POSSUI UM RISCO; ELE É UM RISCO; essa passagem linguística aparentemente mínima revela toda a mudança ontológica, porque retira o predicado de uma situação e o incorpora ao sujeito; a pessoa deixa de ser alguém colocado em circunstâncias nas quais determinado comportamento é mais provável e torna-se ela própria portadora essencializada do perigo; contra isso, deve-se estabelecer uma regra de despersonalização do risco no sentido inverso ao que a palavra sugere: não retirar humanidade, mas impedir que o risco se transforme em definição ontológica da pessoa; deveria dizer-se “há elementos que, em determinado modelo e contexto, aumentam a estimativa de probabilidade de X”, jamais “esta pessoa é perigosa” como conclusão automática; e quanto mais grave for a consequência, mais indispensável será acrescentar aquilo que a classificação não sabe: as particularidades do caso, as transformações posteriores, os fatores protetivos, a capacidade de deliberação, as circunstâncias atuais, a qualidade dos dados e a possibilidade de erro; o indivíduo deve sempre permanecer maior que o score que o descreve, porque a estatística pode ser instrumento do direito, mas não pode tornar-se sua antropologia; se o fizer, o sistema deixará de responsabilizar pessoas por ações e passará a administrar seres humanos como distribuições probabilísticas ambulantes, reconstruindo sob a linguagem da tecnologia uma figura que o constitucionalismo e o garantismo deveriam ter deixado para trás: o homem que recebe consequências não pelo mal que realizou, mas pelo perigo que outros acreditam enxergar em seu futuro.

PARTE III — AGIR ANTES DO DANO: PREVENÇÃO, CAUTELA E O PARADOXO DE INTERVIR SOBRE AQUILO QUE AINDA NÃO ACONTECEU

11. O paradoxo preventivo: esperar o fato pode ser tarde demais, antecipá-lo pode ser injusto demais

A crítica à responsabilização fundada em probabilidades não conduz à conclusão simplista de que o direito deva permanecer imóvel até que todo dano esteja consumado, porque uma ordem jurídica incapaz de antecipar perigos concretos seria tão irracional quanto outra que tratasse qualquer possibilidade de dano como autorização suficiente para restringir pessoas; entre a passividade absoluta e a antecipação ilimitada existe justamente o território mais difícil da teoria jurídica contemporânea: descobrir quando aquilo que ainda não aconteceu já oferece razões suficientes para uma intervenção presente sem que a intervenção transforme possibilidade em culpa; o dilema pode ser condensado numa estrutura elementar — SE O DIREITO ESPERA DEMAIS, PODE FRACASSAR EM PROTEGER; SE AGE CEDO DEMAIS, PODE PRODUZIR ELE PRÓPRIO A INJUSTIÇA QUE PRETENDIA EVITAR —, e é precisamente porque nenhuma das alternativas extremas é satisfatória que conceitos como prevenção, precaução, cautelaridade, perigo, urgência, risco, necessidade, proporcionalidade, reversibilidade e temporalidade precisam permanecer rigorosamente distintos; Aristóteles (384–322 a.C.), ao pensar a prudência como razão prática orientada às circunstâncias do agir, já indicava que decisões sobre situações contingentes não podem ser reduzidas a deduções mecânicas; Cícero (106–43 a.C.) relacionou prudência, dever e governo da coisa pública; Agostinho de Hipona (354–430) percebeu que a condição temporal humana é estruturada por uma relação assimétrica com passado, presente e futuro; Tomás de Aquino (1225–1274) situou a prudência entre as virtudes intelectuais precisamente porque agir corretamente exige deliberar sobre contingências; Nicolau Maquiavel (1469–1527), sem compartilhar a arquitetura normativa tomista, mostrou de modo agudo que a ação política precisa considerar circunstâncias móveis e consequências futuras; Thomas Hobbes (1588–1679) fundou a ordem civil em grande medida sobre a necessidade de antecipar a violência que a insegurança recíproca tornava possível; John Locke (1632–1704) concebeu o Estado como garantidor de vida, liberdade e propriedade, mas submetido a limites que impedem a própria proteção de destruir aquilo que deveria preservar; Montesquieu (1689–1755) compreendeu que a limitação do poder é condição para impedir abusos praticados precisamente sob justificativas de governo; Cesare Beccaria (1738–1794) recusou a crueldade preventiva e sustentou que a pena deve ser limitada pela legalidade e necessidade; Jeremy Bentham (1748–1832) fez da prevenção um elemento central da racionalidade punitiva ao considerar que a pena só se justifica enquanto previne males maiores; Immanuel Kant (1724–1804), em direção distinta do utilitarismo benthamiano, impediria que um indivíduo fosse instrumentalizado simplesmente como meio para aumentar a segurança coletiva; Wilhelm von Humboldt (1767–1835) examinou os limites da ação estatal em relação ao desenvolvimento individual; John Stuart Mill (1806–1873) formulou seu princípio do dano justamente como tentativa de definir quando o poder pode interferir na liberdade para impedir prejuízo a terceiros; Rudolf von Jhering (1818–1892) mostrou que o direito possui finalidade social e não pode ser compreendido como formalidade indiferente aos interesses humanos protegidos; Oliver Wendell Holmes Jr. (1841–1935) atribuiu à previsão das consequências jurídicas papel central em sua perspectiva pragmática; Roscoe Pound (1870–1964) concebeu o direito em termos de engenharia social e conciliação de interesses; Hans Kelsen (1881–1973) recordaria, contudo, que a finalidade política não elimina a necessidade de competência normativa para agir; Carl Schmitt (1888–1985), precisamente porque elevou a exceção e a decisão soberana ao centro de sua teoria, demonstra por contraste o perigo de permitir que a invocação da emergência dissolva a estrutura jurídica ordinária; Friedrich August von Hayek (1899–1992) advertiu sobre os limites do conhecimento centralizado utilizado para dirigir sistemas sociais complexos; Karl Popper (1902–1994) insistiu em instituições abertas à correção de erros e desconfiou de projetos sociais totalizantes orientados por profecias; Hans Jonas (1903–1993) deslocou a ética para a responsabilidade prospectiva diante de tecnologias capazes de produzir danos irreversíveis; Hannah Arendt (1906–1975) mostrou que a ação humana ocorre num mundo de pluralidade e imprevisibilidade, no qual nenhuma engenharia política consegue conhecer integralmente as consequências de suas iniciativas; Herbert Simon (1916–2001) demonstrou que decisões são tomadas sob racionalidade limitada; John Rawls (1921–2002) recusaria políticas que sacrificassem liberdades fundamentais apenas porque tal sacrifício pudesse gerar vantagem agregada; Niklas Luhmann (1927–1998) mostrou que decisões transformam incertezas externas em riscos atribuíveis a quem decide; Ronald Dworkin (1931–2013) insistiria que direitos individuais funcionam como limites à maximização indiferenciada de objetivos coletivos; Ulrich Beck (1944–2015) descreveu uma modernidade reflexiva obrigada a administrar riscos produzidos pelo próprio desenvolvimento técnico; Robert Alexy (1945–) ofereceria, com a estrutura da proporcionalidade, uma linguagem adequada para examinar a relação entre proteção e restrição; Cass Sunstein (1954–) demonstrou como políticas preventivas podem ser capturadas por vieses cognitivos, medos seletivos e aplicações excessivamente amplas do princípio da precaução; essas perspectivas permitem compreender que a prevenção legítima não nasce simplesmente da existência de risco, mas da combinação de múltiplos elementos: probabilidade, gravidade, proximidade temporal, qualidade das evidências, possibilidade de individualização, reversibilidade da medida, disponibilidade de alternativas menos gravosas e intensidade do direito restringido; um dano praticamente certo, iminente e irreversível pode justificar intervenção muito mais intensa do que um dano remoto, altamente especulativo e reversível; inversamente, mesmo uma probabilidade relativamente baixa pode merecer atenção quando a consequência possível é catastrófica e irreparável, embora isso não autorize qualquer intervenção contra qualquer pessoa; o problema é que instituições frequentemente simplificam essa multidimensionalidade num único indicador chamado “risco”, como se uma grandeza pudesse absorver todos os demais elementos; porém, uma previsão de 70% de um dano leve e reparável não possui a mesma relevância normativa de uma previsão de 5% de uma catástrofe irreversível, assim como nenhuma dessas hipóteses resolve automaticamente a pergunta sobre quem pode ser legitimamente submetido a determinada restrição; a estrutura correta é, portanto, multidimensional: RISCO = PROBABILIDADE × MAGNITUDE, mas LEGITIMIDADE DA INTERVENÇÃO ≠ RISCO ISOLADAMENTE, pois deve acrescentar INDIVIDUALIZAÇÃO + NECESSIDADE + ADEQUAÇÃO + PROPORCIONALIDADE + TEMPORARIEDADE + REVISABILIDADE + PROCEDIMENTO + RESPONSABILIDADE PELA DECISÃO; essa diferença é crucial porque medidas preventivas tendem a carregar uma vantagem retórica sobre seus críticos: se o evento temido não acontece, seus defensores podem afirmar que a prevenção funcionou; se acontece, podem dizer que a prevenção deveria ter sido ainda maior; cria-se assim uma estrutura potencialmente imune à refutação, em que qualquer resultado parece confirmar a necessidade de mais poder; Karl Popper (1902–1994) reconheceria aqui um problema de falsificabilidade, pois uma teoria que interpreta qualquer resultado como confirmação deixa de se expor verdadeiramente ao erro; por isso, cada intervenção preventiva deveria conter, desde o início, critérios que permitam verificar se funcionou, quais efeitos colaterais produziu, por quanto tempo permanecerá necessária e em que condições será removida; caso contrário, a excepcionalidade se normaliza, a cautela se converte em permanência e aquilo que nasceu como resposta provisória a um perigo passa a constituir regime ordinário de vida; Giorgio Agamben (1942–) explorou precisamente a tendência das exceções a tornarem-se técnicas permanentes de governo, embora sua leitura deva ser aplicada com cautela a contextos distintos; François Ewald (1946–) mostrou como sociedades modernas reorganizam responsabilidade por meio de cálculo e seguro; Anthony Giddens (1938–) destacou a reflexividade institucional diante de riscos; Mary Douglas (1921–2007) ensinou que sociedades selecionam os riscos que consideram dignos de temor segundo esquemas culturais; Paul Slovic (1938–) demonstrou empiricamente que percepção de risco não acompanha linearmente probabilidades; Daniel Kahneman (1934–2024) e Amos Tversky (1937–1996) mostraram como disponibilidade, enquadramento e aversão à perda deformam julgamentos sob incerteza; daí uma regra especialmente importante: quanto maior o medo social, maior — e não menor — deve ser a disciplina justificativa, porque precisamente onde a ameaça parece mais evidente cresce a tentação de dispensar o exame das premissas; uma ordem jurídica madura não escolhe entre proteção e liberdade como valores absolutos, mas pergunta em cada situação qual intervenção é necessária para preservar o máximo de ambos sem transformar o medo de um futuro possível em licença para governar pessoas como se esse futuro já tivesse acontecido; prevenção legítima é aquela que permanece consciente de sua própria incerteza, enquanto prevenção autoritária é aquela que converte incerteza em argumento para poder ilimitado; a primeira diz “não sabemos se acontecerá, mas há razões verificáveis para uma medida temporária e controlada”; a segunda diz “como pode acontecer, não podemos correr o risco de permitir”; entre essas duas frases encontra-se grande parte da diferença entre cautela jurídica e condenação antecipada.

12. A medida cautelar e sua deformação: proteger o processo não é executar antecipadamente a conclusão

Poucos institutos revelam de forma tão nítida a tensão entre presente e futuro quanto a cautelaridade, porque toda medida cautelar existe justamente para permitir uma intervenção antes da resolução definitiva sem transformar essa antecipação em substituição da própria decisão final; a cautela jurídica nasce do reconhecimento de uma limitação temporal elementar: processos exigem tempo, mas determinados bens, provas, situações ou relações podem não sobreviver intactos até que o conhecimento seja completo; daí a necessidade de agir com cognição incompleta, não porque a incerteza tenha desaparecido, mas precisamente porque esperar pela certeza pode tornar inútil qualquer decisão posterior; Giuseppe Chiovenda (1872–1937) construiu uma das formulações clássicas segundo a qual o processo deve dar, na medida do possível, a quem tem um direito tudo aquilo e precisamente aquilo que ele tem direito de obter; Piero Calamandrei (1889–1956) desenvolveu magistralmente a ideia de instrumentalidade das providências cautelares, compreendendo-as em função da proteção prática do resultado de outro provimento; Francesco Carnelutti (1879–1965) examinou a estrutura e a função do processo na composição dos conflitos; Enrico Tullio Liebman (1903–1986) influenciou profundamente a ciência processual brasileira ao reconstruir ação, coisa julgada e tutela jurisdicional; Eduardo Juan Couture (1904–1956) aproximou processo, garantias e Constituição; Mauro Cappelletti (1927–2004) analisou acesso à justiça e efetividade; José Carlos Barbosa Moreira (1931–2017) aprofundou a racionalidade do processo civil e seus limites; Ovídio Araújo Baptista da Silva (1929–2009) trabalhou extensamente a tutela cautelar e a necessidade de efetividade; Galeno Lacerda (1921–2012) examinou sistematicamente o processo cautelar; José Joaquim Calmon de Passos (1920–2008) insistiu na dimensão garantística e institucional do processo; Cândido Rangel Dinamarco (1937–2023) relacionou instrumentalidade e efetividade processual; Ada Pellegrini Grinover (1933–2017) desenvolveu a compreensão constitucional do processo; Luiz Guilherme Marinoni (1957–) reconstruiu as tutelas de urgência e a necessidade de proteção adequada aos direitos; Fredie Didier Jr. (1974–), Daniel Mitidiero (1979–), Teresa Arruda Alvim (1952–), Humberto Theodoro Júnior (1938–) e outros processualistas contemporâneos enfrentaram, sob perspectivas próprias, a estrutura das tutelas provisórias; apesar das divergências doutrinárias, a ideia fundamental pode ser condensada: a cautela legítima antecipa proteção, não certeza; preserva possibilidade, não substitui definitivamente julgamento; administra o risco do tempo, não declara consumada a responsabilidade; isso significa que toda tutela antecipatória ou cautelar carrega uma dívida de justificação proporcional à precariedade cognitiva sob a qual é concedida; quanto menor o conhecimento disponível, maior deveria ser a preocupação com reversibilidade, contraditório, duração, revisão e intensidade; porém, sistemas jurídicos podem inverter essa lógica e tratar a incerteza como razão para ampliar, em vez de limitar, a restrição: “como ainda não sabemos, é melhor impedir”; a frase parece prudente, mas pode esconder uma transferência completa do custo da incerteza para uma única pessoa; Luigi Ferrajoli (1940–) fornece linguagem útil ao insistir que garantias não são obstáculos irracionais à justiça, mas técnicas destinadas a reduzir a arbitrariedade do poder; Ronald Dworkin (1931–2013) lembraria que direitos não podem ser dissolvidos pelo argumento genérico da conveniência coletiva; Robert Alexy (1945–) exigiria proporcionalidade entre finalidade protetiva e restrição; Neil MacCormick (1941–2009) enfatizaria coerência justificativa; Jürgen Habermas (1929–) exigiria uma legitimidade capaz de ser discursivamente reconstruída; Lon Fuller (1902–1978) mostraria que o próprio direito depende de condições de congruência, generalidade, publicidade e possibilidade de orientação da conduta; Joseph Raz (1939–2022) trataria autoridade jurídica como pretensão de fornecer razões que efetivamente possam guiar agentes; a deformação ocorre quando uma medida criada para preservar o processo passa a produzir, na prática, exatamente aquilo que apenas uma decisão definitiva deveria produzir; se alguém é privado durante anos de uma situação jurídica, econômica, profissional, familiar ou pessoal em razão de decisão provisória, a posterior reversão pode tornar-se nominal: juridicamente “venceu”, fenomenologicamente perdeu; o tempo consumido pela cautela não é devolvido; oportunidades desaparecem, relações mudam, reputações são afetadas, condições econômicas deterioram-se, vínculos se rompem e trajetórias se tornam irreversíveis; daí o paradoxo: uma decisão formalmente provisória pode produzir efeitos materialmente definitivos; Henri Bergson (1859–1941), ao pensar a duração, ajuda a perceber que tempo vivido não é simples quantidade homogênea recuperável; Martin Heidegger (1889–1976) coloca a temporalidade no centro da existência; Paul Ricoeur (1913–2005) mostra como identidade é narrativamente construída através do tempo; o direito, quando chama uma medida de “provisória”, opera numa temporalidade institucional, mas aquele que a suporta vive numa temporalidade existencial na qual cada dia possui consequências não repetíveis; daí uma exigência conceitual decisiva: PROVISORIEDADE FORMAL NÃO GARANTE REVERSIBILIDADE MATERIAL; uma restrição pode ser juridicamente cancelável e humanamente irreparável; esse fato exige que o juiz ou qualquer autoridade não pergunte apenas “posso revogar depois?”, mas “o que acontece à pessoa enquanto a medida vigorar e quais efeitos já não poderão ser reparados se a hipótese inicial estiver errada?”; Hans Jonas (1903–1993) forneceria a ideia de responsabilidade pelas consequências futuras da própria decisão; John Rawls (1921–2002) exigiria preocupação especial com efeitos distributivos sobre quem suporta as desvantagens; Amartya Sen (1933–) deslocaria a análise para as liberdades e capacidades efetivamente perdidas; Martha Nussbaum (1947–) ajudaria a perguntar quais capacidades fundamentais são afetadas; Judith Shklar (1928–1992), com sua preocupação com crueldade e injustiça, recordaria a necessidade de observar o dano concreto produzido por instituições; o esquema decisório deveria, então, ser mais exigente do que a simples fórmula PROBABILIDADE DO DIREITO + PERIGO DA DEMORA = MEDIDA, incorporando pelo menos uma segunda matriz: PROBABILIDADE DO DIREITO + GRAVIDADE DO DANO EVITADO + PROBABILIDADE DESSE DANO + GRAVIDADE DA RESTRIÇÃO IMPOSTA + REVERSIBILIDADE DA MEDIDA + REVERSIBILIDADE DO DANO + DURAÇÃO ESPERADA + ALTERNATIVAS MENOS GRAVOSAS + MECANISMO DE REVISÃO; nesse modelo, cautelaridade deixa de ser técnica unilateral de proteção contra o risco externo e passa a reconhecer aquilo que frequentemente se esquece: a própria cautela cria risco; há risco de não intervir, mas também risco de intervir; há erro de omissão e erro de comissão; há falso negativo e falso positivo; uma decisão madura precisa enxergar ambos; por isso, o verdadeiro oposto da omissão não é intervenção máxima, mas intervenção proporcional; e a verdadeira função da cautelaridade não é permitir ao direito condenar mais cedo, mas impedir que o tempo destrua a possibilidade de uma decisão futura verdadeiramente útil sem destruir, em nome dessa utilidade, o próprio sujeito cuja responsabilidade ainda não foi definitivamente estabelecida.

13. A prisão do futuro: quando a periculosidade ameaça substituir a imputação

Nenhum campo torna mais visível o perigo da inversão temporal da responsabilidade do que aquele em que a liberdade física pode ser restringida antes de uma condenação definitiva, porque ali o direito enfrenta de maneira extrema o conflito entre proteger o processo ou a sociedade e preservar a presunção de inocência daquele cuja responsabilidade ainda não foi definitivamente reconhecida; Cesare Beccaria (1738–1794) já denunciava abusos ligados à prisão antes do julgamento e percebia que um sistema que trata o acusado como culpado antes da sentença destrói a própria distinção entre suspeita e condenação; Jeremy Bentham (1748–1832) pensou extensamente a prevenção e a arquitetura penitenciária, mas sua lógica utilitarista torna visível precisamente a tensão entre segurança coletiva e proteção individual; Paul Johann Anselm von Feuerbach (1775–1833) associou legalidade e limitação do poder punitivo; Francesco Carrara (1805–1888) tratou a presunção de inocência como elemento central da posição jurídica do acusado; Franz von Liszt (1851–1919) relacionou política criminal e prevenção especial; Enrico Ferri (1856–1929) e Raffaele Garofalo (1851–1934) atribuíram grande importância à periculosidade no interior do positivismo criminológico; Hans Kelsen (1881–1973) lembraria que a coerção só adquire caráter jurídico dentro de uma estrutura normativa válida; Hans Welzel (1904–1977) desenvolveria categorias de ação e culpabilidade incompatíveis com a simples dissolução do agente em prognósticos; Claus Roxin (1931–2025) reconstruiu dogmaticamente limites da imputação e da intervenção penal; Günther Jakobs (1937–), com a controvertida formulação do “direito penal do inimigo”, explicitou de modo particularmente dramático o que acontece quando a pessoa deixa de ser compreendida primordialmente como destinatária confiável da norma e passa a ser vista como fonte de perigo; Luigi Ferrajoli (1940–) coloca presunção de inocência, estrita legalidade, jurisdicionalidade e prova entre as garantias indispensáveis contra a arbitrariedade punitiva; Eugenio Raúl Zaffaroni (1940–) adverte sobre tendências expansivas e seletivas do poder penal; Alessandro Baratta (1933–2002) mostra que o sistema penal atua dentro de estruturas sociais assimétricas; Michel Foucault (1926–1984) revelou como a penalidade moderna deixou de olhar apenas para o delito consumado e começou a construir saberes sobre normalidade, personalidade e perigo; David Garland (1955–) analisou a crescente centralidade do controle e da gestão de riscos nas políticas criminais; Malcolm Feeley (1945–) e Jonathan Simon (1959–) identificaram uma “nova penologia” orientada menos à transformação de indivíduos específicos e mais à classificação atuarial de populações segundo risco; Bernard Harcourt (1963–) criticou a utilização de métodos atuariais no campo penal, mostrando dificuldades normativas ligadas à categorização por risco; Andrew von Hirsch (1934–2021) enfatizou proporcionalidade e merecimento como limites ao punitivismo preventivo; Antony Duff (1949–) concebe a pena em termos comunicativos relacionados ao cometimento de um ilícito, estrutura dificilmente compatível com sanções por probabilidades futuras; George Fletcher (1939–2020) trabalhou responsabilidade e estrutura da culpabilidade em oposição a formas indiferenciadas de perigo; essa história intelectual permite formular o problema com rigor: se a liberdade é retirada porque alguém já praticou um fato juridicamente demonstrado, estamos diante de uma lógica de responsabilidade; se é retirada para garantir o processo, estamos diante de uma lógica cautelar; se é retirada porque se acredita que talvez venha a praticar algo, entramos numa lógica de periculosidade prospectiva, e as três não podem ser misturadas sem que a última absorva as primeiras; evidentemente, sistemas jurídicos reconhecem situações em que riscos concretos de fuga, destruição de provas, intimidação de testemunhas ou repetição de condutas podem ter relevância cautelar, mas a legitimidade dessas intervenções depende justamente de não transformar categorias abstratas em presunções automáticas; a gravidade abstrata do delito, a repercussão social, a personalidade presumida, a mera existência de antecedentes ou classificações genéricas de risco não podem funcionar como equivalentes de demonstração individualizada de necessidade; quanto mais o argumento se afasta de comportamentos concretos e se aproxima de uma imagem global do acusado, mais a cautela corre o risco de tornar-se punição por autor; a estrutura “já fez antes, portanto fará novamente” contém um salto indutivo; “pessoas como ele reincidem frequentemente, portanto ele reincidirá” contém um salto estatístico; “o ato é grave, portanto ele é perigoso” contém um salto conceitual; “pode ser perigoso, portanto deve ser preso” contém um salto normativo; a decisão pode, no final, ser legítima em certos casos, mas não porque qualquer desses saltos seja autojustificável; cada passagem precisa de premissas adicionais e evidências próprias; David Hume (1711–1776) lembraria que nenhuma observação do passado contém necessidade lógica do futuro; Karl Popper (1902–1994) insistiria que previsões permanecem conjecturais; Daniel Kahneman (1934–2024) e Amos Tversky (1937–1996) demonstraram que julgamentos humanos superestimam informações salientes e constroem narrativas excessivamente coerentes a partir de evidências incompletas; Paul Meehl (1920–2003) mostrou que instrumentos atuariais podem superar determinadas previsões clínicas, mas isso não elimina a questão normativa sobre como tais previsões devem ser utilizadas; John Monahan (1946–) pesquisou extensamente avaliação de risco de violência e demonstrou tanto avanços quanto limites das previsões; Christopher Slobogin (1951–) examinou juridicamente a relação entre prevenção, risco e privação de liberdade; essas contribuições sugerem que o problema não é rejeitar toda previsão, mas recusar sua metamorfose em certeza jurídica; se um instrumento informa um risco aumentado, ele pode eventualmente integrar uma análise mais ampla, mas não deve converter-se em testemunha oracular sobre o futuro; o decisor precisa compreender sua taxa de erro, população de validação, variáveis utilizadas, horizonte temporal, limites metodológicos e adequação ao indivíduo específico; sobretudo, a pessoa deve poder contestar a classificação; caso contrário, aparece uma situação paradoxal em que alguém perde liberdade por uma previsão que não pode conhecer ou contradizer, realizando literalmente a figura do homem condenado pelo acontecimento ainda inexistente; nesse contexto, a presunção de inocência precisa ser compreendida não apenas como regra sobre o passado — “não consideraremos você culpado do fato acusado antes da prova” —, mas também como proteção contra a colonização do presente por culpabilidades futuras: “não trataremos a possibilidade de uma infração futura como se ela já constituísse fato imputável”; isso não impede medidas necessárias diante de riscos concretos, mas obriga o sistema a nomeá-las corretamente, fundamentá-las por sua necessidade específica e submetê-las a revisão contínua; quanto mais tempo durarem, maior deverá ser o ônus justificativo, porque aquilo que era prognóstico inicial envelhece, circunstâncias se alteram e a pessoa também muda; um risco não é sentença perpétua sobre a identidade; por isso, medidas prospectivas deveriam obedecer a uma lógica inversa à pena definitiva: em vez de estabilidade crescente, desconfiança crescente da própria medida ao longo do tempo, exigindo renovação argumentativa periódica; o poder que restringe alguém pelo futuro deve provar continuamente por que esse futuro ainda é plausível e por que a restrição continua necessária; sem isso, a cautela deixa de proteger o processo e passa a executar antecipadamente uma punição por uma biografia ainda não escrita.

14. O princípio da precaução e o perigo de transformar a incerteza em argumento absoluto

A sociedade tecnológica produziu riscos cuja escala, irreversibilidade e complexidade desafiam as formas tradicionais de responsabilidade, porque algumas consequências somente se tornam plenamente conhecidas quando já não é possível desfazê-las; Hans Jonas (1903–1993) percebeu essa assimetria com particular clareza ao sustentar que o alcance do poder técnico contemporâneo exige uma ética voltada à preservação das condições futuras da vida; Ulrich Beck (1944–2015) mostrou que a modernização produz riscos que atravessam fronteiras, escapam à percepção direta e dependem de sistemas especializados de conhecimento para serem reconhecidos; Anthony Giddens (1938–) descreveu a modernidade reflexiva como ordem social que precisa continuamente avaliar consequências de suas próprias intervenções; Niklas Luhmann (1927–1998) demonstrou que toda decisão projeta um futuro contingente e transforma possíveis danos em riscos atribuíveis à decisão; François Ewald (1946–) analisou como a sociedade moderna reorganizou juridicamente o tratamento do acidente, da segurança e do risco; Mary Douglas (1921–2007) mostrou que nenhuma sociedade distribui atenção entre perigos de maneira puramente objetiva, pois culturas selecionam e interpretam riscos segundo valores e instituições; Paul Slovic (1938–) demonstrou como temor, familiaridade, voluntariedade e controle alteram a percepção dos perigos; Cass Sunstein (1954–) criticou formulações absolutas do princípio da precaução, argumentando que toda intervenção destinada a eliminar um risco produz riscos próprios e que um princípio incapaz de considerar ambos pode tornar-se paralisante; Nassim Nicholas Taleb (1960–) insistiu na necessidade de pensar fragilidade, incerteza radical e exposições a danos irreversíveis, especialmente quando distribuições possuem caudas pesadas; Nicholas Rescher (1928–2024) trabalhou filosoficamente risco, racionalidade e limites da decisão; Sven Ove Hansson (1951–) desenvolveu extensa reflexão filosófica sobre risco, ética e tecnologia; Kristin Shrader-Frechette (1944–) analisou justiça e avaliação de risco ambiental; Carl Cranor (1943–) trabalhou problemas jurídicos e filosóficos ligados à regulação de substâncias potencialmente perigosas; Sheila Jasanoff (1944–) mostrou como ciência e política se coproduzem em processos regulatórios; Bruno Latour (1947–2022) desmontou a imagem simplista de uma natureza inteiramente separada das redes sociotécnicas pelas quais a conhecemos e transformamos; todos esses autores ajudam a compreender a razão legítima da precaução: quando uma atividade pode produzir dano extremamente grave ou irreversível, a ausência de certeza científica completa não deve necessariamente impedir medidas protetivas; contudo, dessa proposição não decorre que qualquer possibilidade vaga de dano autorize qualquer restrição; o princípio da precaução só é racional se contiver critérios internos que impeçam sua autodestruição, porque toda decisão — inclusive proibir — produz consequências incertas; proibir determinada tecnologia pode reduzir um perigo e simultaneamente impedir benefícios médicos, econômicos ou ambientais; impedir uma atividade para proteger um grupo pode transferir riscos para outro; bloquear uma inovação pode preservar condições atuais e gerar outros custos no futuro; assim, não existe posição inteiramente “sem risco”; existe escolha entre configurações distintas de risco; a estrutura não é RISCO × SEGURANÇA, mas frequentemente RISCO A × RISCO B × RISCO C, distribuídos entre pessoas diferentes, tempos diferentes e dimensões diferentes; John Rawls (1921–2002) exigiria atenção à forma pela qual benefícios e encargos são distribuídos; Amartya Sen (1933–) perguntaria pelas capacidades efetivamente afetadas; Martha Nussbaum (1947–) examinaria quais funções humanas fundamentais são comprometidas; Ronald Dworkin (1931–2013) impediria que direitos fossem dissolvidos automaticamente em cálculos agregativos; Robert Alexy (1945–) ofereceria a proporcionalidade como estrutura de controle das medidas restritivas; Jürgen Habermas (1929–) reclamaria legitimidade discursiva para decisões que distribuem riscos coletivos; Hans-Georg Gadamer (1900–2002) lembraria que aplicação prática nunca é mera derivação automática da ciência; Karl Popper (1902–1994) insistiria que conhecimento permanece falível; Thomas Kuhn (1922–1996) mostrou que a ciência se desenvolve em paradigmas historicamente situados; Imre Lakatos (1922–1974) examinou programas de pesquisa que evoluem entre hipóteses auxiliares e núcleos teóricos; Paul Feyerabend (1924–1994) criticou imagens excessivamente rígidas do método científico; essas perspectivas não relativizam a ciência, mas impedem que incerteza científica seja escondida por autoridade retórica; quando decisões preventivas dependem de conhecimento incompleto, a honestidade epistemológica exige explicitar o que se sabe, o que não se sabe e o quanto a conclusão depende de modelos; isso conduz a uma formulação mais refinada: a incerteza não é argumento para inação, mas tampouco é argumento para poder ilimitado; ela modifica o tipo de justificação exigida; quando os efeitos potenciais são irreversíveis, pode ser racional adotar medidas antes da certeza completa, mas essas medidas devem ser calibradas segundo a intensidade do risco e a qualidade da evidência, preferindo-se quando possível intervenções graduais, reversíveis, monitoráveis e adaptáveis; aprende-se enquanto se protege; Karl Popper (1902–1994) chamou atenção para vantagens da engenharia social gradual em oposição a reconstruções utópicas abrangentes; Friedrich August von Hayek (1899–1992) também favoreceria mecanismos capazes de acomodar conhecimento disperso; Herbert Simon (1916–2001) lembraria que decisões reais são tomadas sob limitações cognitivas; Donald Schön (1930–1997) enfatizaria reflexão na ação em problemas profissionais complexos; assim, a precaução madura deveria obedecer a um circuito IDENTIFICAR → INTERVIR MINIMAMENTE → OBSERVAR → REAVALIAR → CORRIGIR, e não TEMER → PROIBIR → PERMANECER; essa diferença é especialmente importante quando a prevenção incide diretamente sobre pessoas, porque uma política ambiental pode regular substâncias ou processos, enquanto uma política de segurança pode classificar indivíduos; no segundo caso, surge novamente o risco de atribuir a alguém a responsabilidade pelo futuro temido; por isso, quanto mais a precaução se deslocar de coisas e atividades para pessoas concretas, maior deve ser a resistência à essencialização; um produto pode ser retirado preventivamente do mercado sob determinadas condições, mas uma pessoa não pode ser “retirada preventivamente da sociedade” com a mesma facilidade conceitual, porque ela não é objeto regulatório intercambiável; possui dignidade, biografia, capacidade de resposta, possibilidade de mudança e direitos próprios; Immanuel Kant (1724–1804) é decisivo nesse ponto: pessoas não podem ser reduzidas a meios de otimização da segurança; Emmanuel Levinas (1906–1995) lembraria que o outro resiste à totalização por nossas categorias; Paul Ricoeur (1913–2005) preservaria a capacidade humana como dimensão irredutível da identidade; Hannah Arendt (1906–1975) insistiria na capacidade de iniciar o novo; de modo que, enquanto a precaução aplicada a sistemas técnicos pode admitir margens largas diante de danos irreversíveis, a precaução aplicada diretamente a indivíduos deve carregar um freio adicional: não transformar o ser humano na materialização antecipada do risco que se pretende evitar.

15. Da antecipação à proporcionalidade: uma gramática para decidir antes do fato sem abolir o sujeito

Se alguma forma de intervenção prospectiva é inevitável numa ordem jurídica responsável, então o verdadeiro problema deixa de ser decidir entre previsão e ausência de previsão e passa a ser construir uma gramática normativa capaz de impedir que a antecipação destrua as condições da própria responsabilidade; Aristóteles (384–322 a.C.) forneceu a matriz da prudência como racionalidade prática sensível ao particular; Tomás de Aquino (1225–1274) relacionou prudência a deliberação, julgamento e comando; Immanuel Kant (1724–1804) estabeleceu a dignidade racional como limite à instrumentalização; John Stuart Mill (1806–1873) vinculou coerção legítima à prevenção de dano a terceiros; Rudolf von Jhering (1818–1892) insistiu na finalidade concreta do direito; Max Weber (1864–1920) distinguiu racionalidades formais e materiais e mostrou como burocracias dependem de critérios gerais; Roscoe Pound (1870–1964) tratou o direito como instrumento de harmonização de interesses; Hans Kelsen (1881–1973) preservou a necessidade de competência e estrutura normativa; Lon Fuller (1902–1978) demonstrou que a legalidade exige generalidade, publicidade, clareza, prospectividade, estabilidade e congruência; Friedrich August von Hayek (1899–1992) relacionou liberdade a regras gerais e previsíveis; Karl Popper (1902–1994) privilegiou instituições capazes de identificar e corrigir erros; Hans Jonas (1903–1993) expandiu responsabilidade à dimensão prospectiva; Hannah Arendt (1906–1975) recordou a imprevisibilidade constitutiva da ação; Herbert Hart (1907–1992) mostrou que regras possuem textura aberta justamente porque nenhuma linguagem antecipa todos os casos; Isaiah Berlin (1909–1997) advertiu que valores humanos podem entrar em conflitos genuínos sem solução perfeitamente harmonizadora; John Rawls (1921–2002) estabeleceu prioridade das liberdades básicas e critérios de justiça para desigualdades; Ronald Dworkin (1931–2013) insistiu na integridade e na igual consideração; Amartya Sen (1933–) deslocou a justiça para a comparação de liberdades reais e injustiças concretas; Luigi Ferrajoli (1940–) estruturou garantias como limites e vínculos ao exercício do poder; Neil MacCormick (1941–2009) examinou a justificação racional de decisões em contextos não dedutivos; Joseph Raz (1939–2022) estudou autoridade, autonomia e razões; Robert Alexy (1945–) sistematizou a proporcionalidade mediante adequação, necessidade e ponderação; Aharon Barak (1936–) desenvolveu extensa teoria judicial da proporcionalidade; David Beatty (1938–2016) defendeu a proporcionalidade como elemento importante do constitucionalismo comparado; Matthias Klatt (1973–) e Moritz Meister (1981–) aprofundaram sua estrutura teórica; Jürgen Habermas (1929–) criticou certas formas de ponderação e enfatizou a dimensão deontológica dos direitos, demonstrando que proporcionalidade não pode ser compreendida como cálculo livre de preferências; essa tradição permite construir uma matriz específica para decisões prospectivas na qual proporcionalidade não funcione como fórmula retórica adicionada depois da conclusão, mas como teste de resistência da própria previsão; primeiro, deve-se definir o fenômeno cuja prevenção é pretendida: “risco” em abstrato não basta; segundo, identificar quais evidências sustentam sua possibilidade e com qual robustez; terceiro, separar evidência individual da informação populacional; quarto, verificar se a conduta estatal ou institucional é causalmente apta a reduzir o risco identificado; quinto, procurar alternativas menos restritivas; sexto, comparar os danos esperados da intervenção com os danos esperados da omissão sem reduzir nenhum deles a números ficticiamente precisos; sétimo, examinar reversibilidade; oitavo, limitar temporalmente a intervenção; nono, criar mecanismos de revisão e contestação; décimo, atribuir responsabilidade humana identificável pela decisão; o esquema pode ser condensado em FENÔMENO → EVIDÊNCIA → INDIVIDUALIZAÇÃO → FINALIDADE → ADEQUAÇÃO → NECESSIDADE → PROPORCIONALIDADE ESTRITA → TEMPORARIEDADE → REVISÃO → RESPONSABILIDADE, e cada etapa funciona como barreira contra a transformação de probabilidade em culpa; a primeira pergunta — fenômeno — exige saber exatamente qual dano se pretende impedir; a segunda — evidência — exige qualidade epistêmica suficiente; a terceira — individualização — impede que estatísticas coletivas sejam convertidas diretamente em destino pessoal; a quarta — finalidade — proíbe intervenções cuja verdadeira motivação esteja escondida sob linguagem de segurança; a quinta — adequação — exige relação racional entre meio e objetivo; a sexta — necessidade — impõe escolha da alternativa menos restritiva; a sétima — proporcionalidade estrita — examina se o benefício protetivo justifica o custo imposto; a oitava — temporariedade — impede que cautelas se cristalizem; a nona — revisão — reconhece que risco é dinâmico e circunstâncias mudam; a décima — responsabilidade — impede que a decisão desapareça dentro de uma cadeia técnico-burocrática; Piero Calamandrei (1889–1956) forneceria à cautelaridade sua lógica instrumental; Eduardo Juan Couture (1904–1956) lembraria que processo é instrumento de liberdade e não apenas mecanismo técnico; Mauro Cappelletti (1927–2004) exigiria efetividade sem abandono das garantias; José Carlos Barbosa Moreira (1931–2017) resistiria a falsas oposições entre efetividade e segurança; Ovídio Araújo Baptista da Silva (1929–2009) ajudaria a pensar a tutela do direito diante do tempo; Ada Pellegrini Grinover (1933–2017) colocaria processo e Constituição em relação permanente; assim compreendida, a proporcionalidade prospectiva não pretende produzir certeza onde só existe incerteza; pretende disciplinar o que pode ser feito apesar da incerteza; sua primeira virtude é obrigar o decisor a reconhecer que prever não equivale a saber; sua segunda é impedir que o custo do desconhecimento seja automaticamente transferido ao indivíduo; sua terceira é preservar a possibilidade de correção; sua quarta é assegurar que a pessoa continue sendo tratada como agente e não como objeto de gestão; e sua quinta é impedir que a urgência elimine precisamente as perguntas que tornam uma intervenção legítima; Martin Heidegger (1889–1976) recordaria que o humano existe projetando-se em possibilidades, e não como conjunto estático de propriedades; Jean-Paul Sartre (1905–1980) insistiria que ninguém coincide integralmente com aquilo que já foi; Maurice Merleau-Ponty (1908–1961) mostraria que liberdade e situação se entrelaçam; Paul Ricoeur (1913–2005) preservaria a identidade narrativa como combinação entre permanência e transformação; Emmanuel Levinas (1906–1995) impediria que o outro fosse integralmente absorvido em nossa representação; Hannah Arendt (1906–1975) recolocaria a natalidade como possibilidade de começo; essas formulações filosóficas convergem com uma exigência jurídica simples, mas radical: qualquer decisão que intervenha sobre alguém em nome de seu futuro deve preservar espaço real para que esse futuro possa ser diferente daquele que a decisão prevê; se a intervenção fecha precisamente as possibilidades que poderiam desmentir o prognóstico, torna-se performativamente autoritária; se um indivíduo classificado como incapaz nunca recebe oportunidade de demonstrar capacidade, o sistema não o avaliou, apenas confirmou a própria premissa; se aquele considerado perigoso nunca recebe condições para demonstrar mudança, risco torna-se identidade; se aquele considerado inadimplente jamais tem acesso às oportunidades econômicas que poderiam alterar sua trajetória, previsão converte-se em condenação econômica; se aquele que apresenta determinado perfil é permanentemente monitorado, a própria vigilância passa a constituir sua relação com as instituições; por isso, a proporcionalidade aplicada ao futuro precisa conter uma dimensão adicional que poderia ser chamada de princípio da abertura residual: mesmo quando uma intervenção prospectiva é legítima, deve permanecer uma margem concreta para transformação, contradita, reavaliação e retorno à normalidade; nenhuma medida baseada em previsão deveria pretender definir definitivamente quem a pessoa é; o direito pode, em circunstâncias justificadas, proteger-se de possibilidades, mas não pode transformar possibilidades em essências; pode administrar riscos, mas não deve fabricar destinos; pode intervir antes do dano, mas não pode esquecer que, até que o fato aconteça, está lidando com um futuro que continua aberto — e é justamente essa abertura que separa cautela de condenação.

PARTE IV — A ARQUITETURA ALGORÍTMICA DA PREVISÃO: DADOS, OPACIDADE E O PODER DE CLASSIFICAR FUTUROS

16. O dado não é o fenômeno: toda previsão começa por uma redução

A crença contemporânea no poder dos sistemas preditivos costuma começar por uma palavra aparentemente inocente — dado —, como se o dado fosse aquilo que a realidade espontaneamente entregasse ao observador em estado puro, esperando apenas processamento adequado, quando, na verdade, todo dado já resulta de uma operação anterior de seleção, definição, mensuração, enquadramento, registro e exclusão; Edmund Husserl (1859–1938) já advertia, por uma via fenomenológica completamente distinta da ciência de dados contemporânea, contra a substituição irrefletida do mundo vivido por construções abstratas que, depois de úteis ao conhecimento, passam a ser confundidas com a própria realidade; Martin Heidegger (1889–1976) mostraria o perigo de uma relação com os entes em que tudo se apresenta prioritariamente como disponibilidade calculável; Maurice Merleau-Ponty (1908–1961) insistiria que percepção, corpo e mundo não são decomponíveis sem perda numa coleção de variáveis exteriores ao sujeito; Alfred Schutz (1899–1959) lembraria que o mundo social é previamente estruturado por significados compartilhados; Hans-Georg Gadamer (1900–2002) demonstraria que toda compreensão parte de horizontes interpretativos e que não existe observação inteiramente desprovida de pré-compreensão; Paul Ricoeur (1913–2005) mostraria que o sujeito somente pode ser compreendido numa dialética entre identidade, narrativa, ação e interpretação; Emmanuel Levinas (1906–1995) ofereceria a resistência mais radical à totalização do outro por categorias; Ludwig Wittgenstein (1889–1951) lembraria que os significados dependem dos usos e dos jogos de linguagem; Charles Sanders Peirce (1839–1914) recusaria a ideia de conhecimento imediato desligado de signos e inferências; William James (1842–1910) enfatizaria a seletividade inerente à atenção e à experiência; John Dewey (1859–1952) conceberia conhecimento como operação situada em problemas concretos; Max Weber (1864–1920) mostraria que a investigação social depende de seleções valorativas que determinam quais aspectos da realidade são tratados como relevantes; Georg Simmel (1858–1918) compreenderia que toda forma social reduz e organiza a multiplicidade da experiência; Alfred North Whitehead (1861–1947) chamou atenção, em outro registro, para a falácia de concretude deslocada, pela qual abstrações úteis passam a ser tratadas como se fossem as próprias coisas concretas; essa falácia é central na análise contemporânea de sistemas de previsão, porque aquilo que se denomina “perfil de uma pessoa” é apenas uma construção derivada dos traços que determinado sistema conseguiu ou decidiu registrar; um banco de dados pode conter milhares de informações e ainda assim ser radicalmente pobre para explicar determinada biografia, porque quantidade de variáveis não equivale a profundidade de compreensão; um sistema pode saber quantas vezes alguém atrasou pagamentos e nada saber sobre o acidente, o desemprego, a doença de um familiar, a fraude sofrida, a mudança de profissão ou o acontecimento extraordinário que estruturou cada atraso; pode conhecer horários de deslocamento sem compreender suas razões; registrar frequência de faltas sem conhecer os acontecimentos que as produziram; mapear interações sem distinguir amizade, obrigação, parentesco ou acaso; reconhecer padrões linguísticos sem captar ironia, intenção, medo ou contexto; a passagem do fenômeno ao dado é, portanto, necessariamente uma redução: FENÔMENO TOTAL → DIMENSÕES OBSERVÁVEIS → VARIÁVEIS SELECIONADAS → REGISTROS → BANCO DE DADOS, e em cada seta alguma coisa é preservada enquanto outra desaparece; Alain Desrosières (1940–2013) mostrou historicamente como estatísticas dependem da construção institucional de categorias; Theodore Porter (1953–) analisou a quantificação como técnica de confiança e objetividade impessoal; Lorraine Daston (1951–) e Peter Galison (1955–) demonstraram que aquilo que uma época chama de objetividade possui história e formas específicas; Ian Hacking (1936–2023) mostrou que estatísticas não apenas descobrem classes que existiam independentemente de nós, mas frequentemente participam da criação das categorias pelas quais pessoas e fenômenos passam a ser compreendidos; Pierre Bourdieu (1930–2002) advertiria que classificações possuem condições sociais de produção e podem transformar diferenças contingentes em hierarquias aparentemente naturais; Michel Foucault (1926–1984) mostraria que saber e poder se interpenetram na produção de sujeitos classificáveis; Bruno Latour (1947–2022) chamaria atenção para redes de instrumentos, inscrições e práticas mediante as quais fatos são estabilizados; Donna Haraway (1944–) formularia a ideia de conhecimentos situados, recusando o “olhar de lugar nenhum”; Geoffrey Bowker (1953–) e Susan Leigh Star (1954–2010) mostraram como sistemas de classificação e padrões informacionais carregam escolhas sociais e políticas profundas; Luciano Floridi (1964–) ajuda a compreender a transformação da pessoa em entidade informacional dentro de ambientes digitais; Shoshana Zuboff (1951–) mostra como dados comportamentais podem ser extraídos e transformados em produtos preditivos; Cathy O’Neil (1972–) evidenciou como modelos matemáticos utilizados em decisões sociais podem adquirir escala, opacidade e capacidade de produzir danos; Virginia Eubanks (1974–) demonstrou como sistemas automatizados empregados em políticas sociais podem intensificar desigualdades quando dados históricos carregam padrões anteriores de exclusão; Safiya Umoja Noble (1970–) mostrou que sistemas de classificação e busca não constituem espaços neutros; Ruha Benjamin (1978–) examinou como tecnologias podem reproduzir formas anteriores de discriminação sob aparência de inovação; o primeiro erro a ser evitado, portanto, é acreditar que mais dados = mais realidade, quando a relação correta é muito mais cautelosa: mais dados = mais registros de certos aspectos selecionados da realidade; essa distinção é essencial porque modelos aprendem apenas com aquilo que pode ser codificado ou inferido a partir da codificação; o que nunca entrou no banco não pode exercer sua força causal sobre o resultado, salvo de modo indireto e frequentemente distorcido; se determinada variável relevante não foi registrada, o algoritmo não “percebe” sua ausência como ignorância, simplesmente calcula sem ela; a máquina não sente epistemicamente a falta do dado como um juiz experiente pode perceber que ainda não compreendeu o caso; ela produz uma saída mesmo quando seu universo de entrada está incompleto; daí surge uma assimetria perigosa entre completude computacional e completude fenomenológica: o sistema pode concluir perfeitamente sobre tudo aquilo que recebeu e, ainda assim, estar estruturalmente incompleto em relação ao fenômeno; a RFA precisa insistir exatamente nesse ponto: nenhuma conclusão deve ser tratada como resistente enquanto não se perguntar o que precisou ser excluído para que a realidade se tornasse calculável; o teste adequado é O QUE O MODELO VÊ? O QUE NÃO VÊ? QUEM DECIDIU A DIFERENÇA? E O QUE ACONTECERIA À CONCLUSÃO SE O INVISÍVEL FOSSE REINTRODUZIDO?; se a previsão muda drasticamente quando contexto individual é acrescentado, a classificação inicial era frágil; se não muda porque o sistema não possui espaço para considerar a informação, há um problema arquitetônico; se o decisor humano tampouco pode desviá-la, a redução transformou-se em coerção institucional; assim, a primeira defesa contra a condenação do futuro não é tecnológica, mas epistemológica: recordar que o dado não antecede a interpretação, não contém a pessoa inteira e não possui direito ontológico de substituir o acontecimento que apenas representa.

17. Dados históricos não são passado neutro: o algoritmo aprende também os erros das instituições

A ideia de que sistemas preditivos podem eliminar preconceitos humanos depende frequentemente de uma premissa incompleta: se humanos são falíveis e tendenciosos, entregar decisões a modelos treinados com grandes volumes de dados pareceria uma forma de substituir subjetividade por regularidade objetiva; o problema é que os dados utilizados para treinar tais sistemas são, em grande medida, produtos das próprias instituições humanas cuja parcialidade se pretendia superar, de modo que automatizar o passado pode significar transformar escolhas históricas em padrões matematicamente reproduzíveis; Karl Marx (1818–1883), embora escrevendo num universo intelectual inteiramente anterior aos algoritmos contemporâneos, mostrou que formas econômicas e jurídicas carregam relações históricas que podem parecer naturais depois de institucionalizadas; Émile Durkheim (1858–1917) demonstrou que fatos sociais exercem força objetiva sobre indivíduos apesar de terem origem coletiva; Max Weber (1864–1920) mostrou como ordens institucionais acumulam racionalidades históricas e se estabilizam burocraticamente; Thorstein Veblen (1857–1929) observou como instituições persistem para além das condições que originalmente as produziram; Karl Mannheim (1893–1947) revelou a historicidade social das formas de pensamento; Antonio Gramsci (1891–1937) mostrou como estruturas culturais e institucionais naturalizam relações de poder; Norbert Elias (1897–1990) reconstruiu longos processos históricos mediante os quais comportamentos e instituições se transformam; Michel Foucault (1926–1984) levou essa análise ao mostrar que arquivos, classificações, diagnósticos e registros administrativos participam da constituição dos próprios objetos que aparentemente apenas descrevem; Pierre Bourdieu (1930–2002) explicou como estruturas objetivas reproduzem desigualdades mediante disposições, classificações e capitais distribuídos desigualmente; Charles Tilly (1929–2008) mostrou a persistência de desigualdades categoriais em organizações; Ian Hacking (1936–2023) demonstrou que sistemas classificatórios possuem historicidade própria; Alain Desrosières (1940–2013) mostrou que estatísticas estatais carregam convenções sobre aquilo que deve ser contado; Geoffrey Bowker (1953–) e Susan Leigh Star (1954–2010) mostraram que infraestruturas classificatórias incorporam decisões sociais que se tornam invisíveis justamente porque passam a funcionar rotineiramente; essa genealogia é indispensável para compreender o aprendizado algorítmico: quando um modelo é treinado para prever um resultado com base em decisões anteriores, ele aprende não apenas “a realidade”, mas a forma pela qual instituições anteriores registraram, reconheceram e responderam à realidade; se determinado grupo foi historicamente mais fiscalizado, haverá mais ocorrências registradas; se determinadas pessoas tiveram menos acesso a crédito, haverá menor histórico de crédito positivo; se certas doenças foram menos diagnosticadas em grupos específicos, os registros médicos refletirão subdetecção; se uma instituição rejeitou sistematicamente candidatos com determinadas trajetórias, haverá poucos casos de sucesso dessas trajetórias dentro da própria instituição, não porque fossem incapazes de ter sucesso, mas porque nunca receberam oportunidade; o algoritmo pode então interpretar ausência de sucesso como prova de baixa probabilidade de sucesso, convertendo exclusão passada em evidência futura; o circuito pode ser representado como DECISÃO HISTÓRICA → REGISTRO DESIGUAL → BASE DE DADOS → MODELO → NOVA DECISÃO → REFORÇO DO PADRÃO HISTÓRICO, e o que aparece no final como previsão objetiva pode ser apenas uma forma de memória institucional automatizada; W. E. B. Du Bois (1868–1963) mostrou como desigualdades históricas estruturam oportunidades e percepções; Gunnar Myrdal (1898–1987) analisou mecanismos cumulativos de desigualdade; Kenneth Arrow (1921–2017) mostrou como discriminação pode relacionar-se a informação imperfeita; Edmund Phelps (1933–) desenvolveu ideias próximas sobre discriminação estatística; Gary Becker (1930–2014) analisou economicamente discriminação baseada em preferências; Thomas Schelling (1921–2016) demonstrou que padrões segregados podem emergir mesmo de preferências individuais aparentemente moderadas; John Rawls (1921–2002) insistiu que instituições justas precisam corrigir, e não apenas reproduzir, contingências arbitrárias; Amartya Sen (1933–) mostrou que igualdade formal de recursos não produz necessariamente igualdade de capacidades; Nancy Fraser (1947–) relacionou reconhecimento e redistribuição; Iris Marion Young (1949–2006) examinou formas estruturais de injustiça que não dependem de um único agente discriminador; Kimberlé Crenshaw (1959–) mostrou que classificações jurídicas rígidas podem ocultar formas de desvantagem interseccional; Martha Minow (1954–) examinou dilemas da diferença no direito; Charles Lawrence III (1943–) analisou dimensões não conscientes de discriminação institucional; Ruha Benjamin (1978–), Safiya Umoja Noble (1970–), Virginia Eubanks (1974–), Cathy O’Neil (1972–) e Joy Buolamwini (1989–) demonstraram, por diferentes caminhos, como tecnologias aparentemente neutras podem perpetuar assimetrias já existentes; isso não significa que todo modelo necessariamente reproduzirá todo preconceito, nem que decisões humanas sem tecnologia sejam melhores; significa que histórico não é sinônimo de normativamente aceitável; uma base de dados pode ser descritivamente fiel e normativamente injusta; pode representar exatamente aquilo que a instituição fez e, por essa razão, ser péssima base para aquilo que a instituição deve fazer; David Hume (1711–1776) já estabelecia a conhecida distância entre ser e dever-ser, e essa separação ganha aqui forma tecnológica: do fato de que pessoas com característica X tenham recebido historicamente menos oportunidades não decorre que devam continuar recebendo menos oportunidades; do fato de certo grupo ter apresentado maior número de registros não decorre que possua intrinsecamente maior propensão ao comportamento; do fato de determinado padrão existir não decorre que seja justo reproduzi-lo; o risco aparece quando o modelo transforma REGULARIDADE HISTÓRICA em NORMA IMPLÍCITA DE DECISÃO sem que ninguém perceba o salto; Ronald Dworkin (1931–2013) exigiria interpretação do direito à luz de princípios de igual consideração; John Rawls (1921–2002) recusaria tomar contingências históricas como fundamentos suficientes de desigualdades; Jürgen Habermas (1929–) insistiria que legitimidade depende de justificação, não de mera factualidade; Robert Alexy (1945–) submeteria diferenciações a justificativas constitucionais; Luigi Ferrajoli (1940–) exigiria vínculos e garantias contra arbitrariedade; portanto, qualquer uso de dados históricos para prever comportamento humano deveria passar por um teste genealógico: de onde vieram esses dados, quem teve oportunidade de produzir registros positivos, quem foi mais observado, que eventos permaneceram invisíveis, que políticas anteriores moldaram a base, que categorias foram adotadas e que desigualdades podem ter sido convertidas em variáveis; o algoritmo precisa ser interrogado não apenas como modelo matemático, mas como herdeiro institucional; se essa genealogia for ignorada, o futuro será colonizado pelo passado não porque o passado tenha se mostrado necessariamente correto, mas porque foi aquilo que conseguiu ser registrado.

18. A caixa-preta e a crise da fundamentação: uma decisão incompreensível pode ser juridicamente legítima?

O problema da opacidade algorítmica introduz uma tensão especialmente profunda no direito porque sistemas complexos podem produzir previsões empiricamente eficientes sem oferecer explicações compreensíveis no sentido tradicional da argumentação jurídica, criando um cenário no qual a instituição sabe qual resposta o sistema produziu, talvez saiba com que grau de acurácia costuma produzi-la, mas não consegue reconstruir de forma inteligível por que aquele indivíduo recebeu exatamente aquela classificação; Gottfried Wilhelm Leibniz (1646–1716) imaginava uma racionalidade em que conflitos pudessem, em alguma medida, ser resolvidos pelo cálculo; René Descartes (1596–1650) buscou clareza e distinção como critérios do conhecimento; Immanuel Kant (1724–1804) subordinou o uso legítimo da razão a condições que pudessem ser examinadas criticamente; Georg Wilhelm Friedrich Hegel (1770–1831) concebia a racionalidade como processo capaz de tornar suas mediações inteligíveis; Max Weber (1864–1920) identificou na modernidade jurídica a centralidade da calculabilidade e previsibilidade; Hans Kelsen (1881–1973) reconstruiu a validade jurídica por uma cadeia normativa identificável; Chaïm Perelman (1912–1984) e Lucie Olbrechts-Tyteca (1899–1987) recolocaram argumentação e auditório no centro da razão prática; Stephen Toulmin (1922–2009) demonstrou que argumentos precisam explicitar dados, garantias e respaldos; Neil MacCormick (1941–2009) mostrou que decisões jurídicas demandam justificação tanto interna quanto externa; Robert Alexy (1945–) relacionou discurso racional e justificação jurídica; Ronald Dworkin (1931–2013) concebeu a decisão jurídica como exercício interpretativo que precisa integrar princípios e precedentes numa justificativa coerente; Jürgen Habermas (1929–) vinculou legitimidade à possibilidade de oferecer razões reciprocamente examináveis; Lon Fuller (1902–1978) mostrou que um sistema jurídico depende de condições de publicidade, inteligibilidade e congruência; Joseph Raz (1939–2022) tratou a autoridade como pretensão de fornecer razões para ação; Frederick Schauer (1946–2024) analisou a força das regras e da generalização jurídica; Duncan Kennedy (1942–) mostrou que decisão jurídica não se reduz a automatismo lógico; todos esses autores, apesar das diferenças, pressupõem alguma forma de reconstruibilidade racional: uma decisão pode até envolver discricionariedade, interpretação, julgamento prudencial ou desacordo, mas precisa ser apresentada por meio de razões que outros possam compreender, criticar e contestar; algoritmos de aprendizado complexo desafiam essa arquitetura porque a relação entre milhares ou milhões de parâmetros pode não se traduzir numa narrativa causal inteligível; Alan Turing (1912–1954) inaugurou parte decisiva da reflexão computacional moderna; Norbert Wiener (1894–1964) desenvolveu a cibernética; Claude Shannon (1916–2001) formalizou a teoria da informação; John von Neumann (1903–1957) contribuiu fundamentalmente para a arquitetura computacional e teoria dos jogos; Herbert Simon (1916–2001) relacionou computação, racionalidade e decisão; Marvin Minsky (1927–2016) contribuiu à inteligência artificial; John McCarthy (1927–2011) ajudou a constituir o campo; Geoffrey Hinton (1947–), Yann LeCun (1960–) e Yoshua Bengio (1964–) participaram do desenvolvimento moderno das redes neurais profundas; Judea Pearl (1936–) insistiu na diferença entre aprendizado associativo e raciocínio causal; Cynthia Rudin (1976–) defende, especialmente em contextos de alto impacto, preferência por modelos interpretáveis quando sua performance é comparável à de sistemas opacos; Finale Doshi-Velez (1982–) e Been Kim (1982–) contribuíram para pesquisas sobre interpretabilidade; Frank Pasquale (1974–) descreveu o poder social das caixas-pretas; Sandra Wachter (1982–), Brent Mittelstadt (1987–) e Luciano Floridi (1964–) analisaram questões éticas e jurídicas ligadas a explicabilidade e decisões automatizadas; o problema fundamental pode ser representado assim: DECISÃO HUMANA TRADICIONAL = PREMISSAS IDENTIFICÁVEIS → INFERÊNCIAS EXPLICITÁVEIS → CONCLUSÃO; DECISÃO ALGORÍTMICA OPACA = ENTRADAS → TRANSFORMAÇÕES COMPLEXAS → SAÍDA, e embora ambas possam conter erros ou preconceitos, apenas a primeira oferece, ao menos idealmente, uma linguagem imediatamente apta ao contraditório; diante da segunda, alguém pode receber uma classificação e ser informado de fatores genéricos sem que esses fatores expliquem de fato a interação que produziu o resultado; a questão jurídica torna-se então radical: é suficiente que uma decisão seja estatisticamente boa se ninguém consegue reconstruir sua razão individual?; a resposta não pode depender apenas da precisão, porque o direito não exige somente resultados corretos, exige também procedimentos pelos quais o sujeito seja reconhecido como participante da decisão que o afeta; Jeremy Waldron (1953–) enfatiza a dignidade procedimental do cidadão submetido ao direito; Jerry Mashaw (1941–) desenvolveu concepções de devido processo administrativo; Laurence Tribe (1941–) insistiu na dimensão processual dos direitos; Owen Fiss (1938–) tratou adjudicação como exercício público de razão; Tom Tyler (1950–) mostrou empiricamente a importância da percepção de justiça procedimental para legitimidade; a fundamentação possui, portanto, várias funções simultâneas: disciplina o decisor, permite controle, possibilita recurso, revela critérios, produz igualdade, facilita precedentes e reconhece o destinatário como alguém a quem razões são devidas; uma classificação inexplicável compromete todas essas funções; não basta dizer “o sistema concluiu”, porque isso substitui razão por autoridade técnica; não basta dizer “o sistema acerta 92%”, porque desempenho agregado não explica o caso individual; não basta revelar o código, porque transparência técnica não é necessariamente inteligibilidade jurídica; e não basta produzir uma explicação simplificada que apenas imite uma razão posterior à decisão, porque explicação fiel precisa corresponder ao processo que efetivamente gerou o resultado; surge então uma distinção essencial: TRANSPARÊNCIA ≠ INTERPRETABILIDADE ≠ EXPLICAÇÃO ≠ JUSTIFICAÇÃO; transparência permite acesso ao funcionamento; interpretabilidade permite compreender relações internas; explicação oferece uma narrativa sobre por que a saída ocorreu; justificação responde a uma pergunta normativa diferente: por que essa saída deve poder produzir aquela consequência jurídica; mesmo que um modelo seja totalmente explicável, sua conclusão pode continuar injustificável; mesmo que seja altamente acurado, pode utilizar fatores juridicamente inadequados; mesmo que não utilize fatores proibidos diretamente, pode reconstruí-los mediante proxies; por isso, o devido processo algorítmico precisa ir além do “direito a uma explicação” entendido como resumo técnico e exigir direito à reconstrução suficiente da cadeia decisória: quais dados foram usados, quais fatores foram relevantes, qual era a finalidade do modelo, como foi validado, que margem de erro apresenta, qual papel teve na decisão, que outras evidências foram consideradas, que possibilidade existia de revisão humana e qual pessoa ou órgão assumiu responsabilidade pela conclusão; se essas perguntas não puderem ser respondidas, a instituição talvez possua uma previsão, mas não uma fundamentação; e uma ordem jurídica que substitui fundamentação por predição corre o risco de transformar a decisão em uma forma de oráculo secular: tecnicamente sofisticado, institucionalmente respeitado e epistemicamente inacessível àquele sobre quem pronuncia o futuro.

19. O problema dos proxies: quando o sistema reconstrói silenciosamente aquilo que o direito proibiu considerar

Uma das características mais complexas dos sistemas de previsão é sua capacidade de extrair informações indiretas a partir de variáveis aparentemente neutras, de modo que a simples exclusão formal de uma característica juridicamente sensível não garante que o modelo deixe de utilizá-la funcionalmente; Francis Galton (1822–1911) e Karl Pearson (1857–1936) contribuíram historicamente para métodos estatísticos de correlação, embora parte de seus projetos intelectuais estivesse ligada a concepções eugênicas hoje profundamente rejeitadas; Ronald Fisher (1890–1962) desenvolveu instrumentos estatísticos centrais à ciência moderna; George Box (1919–2013) ficou associado à advertência de que todos os modelos são errados, embora alguns sejam úteis; John Tukey (1915–2000) contribuiu para análise exploratória de dados; Leo Breiman (1928–2005) participou decisivamente do desenvolvimento de métodos de aprendizado estatístico; Trevor Hastie (1953–), Robert Tibshirani (1956–) e Jerome Friedman (1939–) sistematizaram técnicas modernas de aprendizado estatístico; essas técnicas permitem identificar regularidades distribuídas entre numerosas variáveis, e justamente aí aparece o problema jurídico dos proxies: um endereço pode correlacionar-se com renda, raça, acesso educacional ou vulnerabilidade social; padrão de consumo pode funcionar como sinal indireto de condição econômica; determinadas formas de linguagem podem correlacionar-se com origem regional, escolaridade ou identidade cultural; redes de contato podem indicar religião, classe, orientação política ou pertencimento comunitário; escola frequentada pode carregar informações sobre renda e território; histórico profissional pode reproduzir exclusões anteriores; nenhuma dessas variáveis precisa ser expressamente proibida para que, combinadas, reconstruam aproximadamente uma característica que o sistema foi instruído a ignorar; Gary Becker (1930–2014) analisou discriminação econômica; Kenneth Arrow (1921–2017) e Edmund Phelps (1933–) desenvolveram modelos de discriminação estatística; Thomas Schelling (1921–2016) mostrou que padrões coletivos segregados podem emergir de decisões individuais; John Rawls (1921–2002) exigiria que desigualdades institucionais fossem justificadas sob condições de imparcialidade; Ronald Dworkin (1931–2013) insistiria em igual consideração e respeito; Iris Marion Young (1949–2006) mostraria que injustiça estrutural pode persistir sem intenção discriminatória individual; Kimberlé Crenshaw (1959–) demonstraria que categorias jurídicas isoladas podem perder precisamente aquilo que ocorre na interseção entre elas; Charles Tilly (1929–2008) analisaria a persistência de desigualdades categoriais; Pierre Bourdieu (1930–2002) mostraria que capitais econômicos, culturais e sociais se convertem reciprocamente, produzindo correlações capazes de atravessar múltiplos indicadores; Michel Foucault (1926–1984) lembraria que classificação é também tecnologia de poder; Ruha Benjamin (1978–), Safiya Umoja Noble (1970–), Virginia Eubanks (1974–), Solon Barocas (1984–), Moritz Hardt (1980–), Arvind Narayanan (1981–) e Jon Kleinberg (1971–) contribuíram, em diferentes registros, para compreender dificuldades de justiça algorítmica, discriminação indireta e incompatibilidades entre diferentes métricas de equidade; o ponto jurídico essencial é que proibir uma variável não basta se o sistema consegue reconstruí-la estatisticamente; pode ocorrer uma espécie de retorno inferencial do proibido, em que aquilo que foi retirado da entrada reaparece pela correlação entre fatores permitidos; a estrutura é VARIÁVEL PROIBIDA REMOVIDA → PROXIES PERMANECEM → CORRELAÇÕES RECONSTROEM O SINAL → RESULTADO CONTINUA DIFERENCIADO, e isso desafia modelos tradicionais de discriminação centrados na intenção do decisor; ninguém precisa desejar discriminar; basta utilizar um sistema cujo objetivo, dados ou variáveis produzam sistematicamente tratamento desigual; Judith Butler (1956–), embora em campo teórico diverso, mostrou como categorias constituem e normatizam sujeitos; Nancy Fraser (1947–) articula dimensões de reconhecimento e distribuição; Martha Nussbaum (1947–) oferece uma abordagem centrada em capacidades efetivamente disponíveis; Amartya Sen (1933–) insiste que igualdade precisa ser avaliada em espaços relevantes de liberdade real; Owen Fiss (1938–) desenvolveu uma compreensão estrutural da igualdade; Catharine MacKinnon (1946–) mostrou como desigualdades podem estar incorporadas em estruturas sociais aparentemente neutras; Reva Siegel (1956–) examinou formas pelas quais sistemas jurídicos podem preservar hierarquias mesmo depois de abandonar justificativas explícitas anteriores; esses autores ajudam a perceber que neutralidade formal de variável não significa neutralidade material de efeito; mas também aqui é preciso evitar simplificações: nem toda correlação com característica protegida é, por si, ilícita ou injusta, e diferentes domínios exigem análises distintas de finalidade, necessidade e proporcionalidade; o problema começa quando instituições presumem que retirar nomes sensíveis torna o modelo “cego” e, portanto, justo; em sistemas ricos em dados, cegueira nominal pode coexistir com visão estatística extraordinariamente precisa; daí a necessidade de auditorias contrafactuais e distributivas: se indivíduos semelhantes em aspectos juridicamente relevantes, mas pertencentes a grupos diferentes, recebem resultados sistematicamente distintos, é preciso reconstruir de onde vem a divergência; se um proxy é essencial à finalidade legítima, deve-se demonstrar por quê; se há variável alternativa menos discriminatória, deve ser considerada; se a diferença decorre de injustiça histórica incorporada nos dados, o modelo não pode tratá-la como natureza; Robert Alexy (1945–) ofereceria a estrutura de adequação, necessidade e proporcionalidade; Luigi Ferrajoli (1940–) exigiria garantias contra discricionariedade; Jürgen Habermas (1929–) reclamaria justificação pública das diferenças de tratamento; Ronald Dworkin (1931–2013) exigiria coerência com princípios de igualdade; a RFA acrescentaria uma pergunta fenomenológica: O FATOR QUE PRODUZIU A CLASSIFICAÇÃO CORRESPONDE REALMENTE AO FENÔMENO JURIDICAMENTE RELEVANTE OU APENAS FUNCIONA COMO ATALHO PARA OUTRA CARACTERÍSTICA?; essa pergunta é crucial porque proxies são epistemicamente sedutores: se melhoram a previsão, parecem justificar-se pela eficiência; mas um direito que aceita qualquer proxy eficaz pode permitir que aquilo que proibiu na superfície retorne por baixo da arquitetura matemática; a igualdade contemporânea, portanto, não pode proteger apenas contra categorias explicitamente pronunciadas; precisa alcançar as categorias silenciosamente reconstruídas pelo cálculo.

20. A revisão humana não basta se o humano apenas confirma a máquina

Uma das respostas mais comuns aos riscos das decisões automatizadas consiste em manter um “humano no circuito”, supondo-se que a presença de uma pessoa entre a previsão algorítmica e a consequência final seja suficiente para restaurar julgamento, responsabilidade e contraditório; essa solução é importante, mas pode tornar-se puramente formal se o agente humano estiver estruturalmente condicionado a aceitar a saída do sistema, não possuir conhecimento suficiente para contestá-la, enfrentar pressão de tempo, temer responsabilidade por divergir ou simplesmente desenvolver confiança excessiva em recomendações tecnicamente apresentadas; Herbert Simon (1916–2001) demonstrou que seres humanos operam sob racionalidade limitada; Daniel Kahneman (1934–2024) e Amos Tversky (1937–1996) mostraram como heurísticas moldam julgamentos; Paul Meehl (1920–2003) evidenciou situações em que modelos atuariais superam julgamentos clínicos intuitivos; Robyn Dawes (1936–2010) aprofundou a crítica à confiança excessiva em julgamentos não estruturados; Gerd Gigerenzer (1947–) estudou heurísticas e compreensão de riscos; Cass Sunstein (1954–) examinou efeitos de enquadramento, cascatas e arquitetura de escolha; Richard Thaler (1945–) mostrou como defaults e desenho de ambientes decisórios influenciam comportamento; Herbert Kelman (1927–2011) estudou processos de conformidade e obediência; Solomon Asch (1907–1996) demonstrou experimentalmente a força da conformidade social; Stanley Milgram (1933–1984), em estudos controversos e eticamente marcantes, mostrou como autoridade pode influenciar profundamente o comportamento; Irving Janis (1918–1990) desenvolveu a ideia de groupthink; Max Weber (1864–1920) analisou como burocracias estruturam papéis e responsabilidades; Hannah Arendt (1906–1975) mostrou como estruturas administrativas podem favorecer formas de pensamento reduzidas à execução de funções; Zygmunt Bauman (1925–2017) examinou a distância moral criada por cadeias burocráticas; Günther Anders (1902–1992) analisou o descompasso entre capacidade técnica e imaginação humana de suas consequências; Jacques Ellul (1912–1994) criticou a tendência da técnica a impor sua própria lógica de eficiência; esses trabalhos permitem compreender por que “revisão humana” pode ser mera aparência se o decisor humano atua depois de o algoritmo ter produzido uma âncora cognitiva poderosa; o sistema apresenta “alto risco”, e o humano passa a procurar razões para confirmar alto risco; apresenta “fraude provável”, e detalhes ambíguos são reinterpretados nesse sentido; recomenda negativa, e a decisão de contrariá-lo passa a exigir energia adicional; essa assimetria pode ser representada como ALGORITMO SUGERE → HUMANO RECEBE ÂNCORA → BUSCA CONFIRMAÇÕES → RATIFICA, em vez de HUMANO RECONSTRÓI O CASO → CONSULTA A PREVISÃO → TESTA SUA CONSISTÊNCIA → DECIDE; a ordem das operações importa porque aquilo que é visto primeiro estrutura o horizonte interpretativo do que vem depois; Hans-Georg Gadamer (1900–2002) chamaria atenção para o papel da pré-compreensão; Edmund Husserl (1859–1938) exigiria uma suspensão crítica dos pressupostos; Karl Popper (1902–1994) defenderia tentativas ativas de refutação; Charles Sanders Peirce (1839–1914) valorizaria a investigação como processo autocorretivo; Francis Bacon (1561–1626), muito antes deles, já alertava para ídolos que distorcem o entendimento; René Descartes (1596–1650) procurava procedimentos para impedir assentimento precipitado; a revisão humana significativa deveria, portanto, ser adversarial em relação ao modelo, não reverencial: o decisor deveria ser treinado para procurar evidências que possam desconfirmar a classificação, compreender as limitações do sistema e possuir autoridade real para divergir sem sanção informal; mais ainda, a instituição deveria medir não apenas quantas vezes humanos seguem a ferramenta, mas em quais situações divergem, se divergências melhoram resultados e se certos grupos são mais frequentemente prejudicados quando a recomendação é aceita automaticamente; Linda Skitka (1961–), Kathleen Mosier (1955–2006) e Mark Burdick (1957–) contribuíram para estudos sobre automation bias, demonstrando como pessoas podem confiar excessivamente em sistemas automatizados; Raja Parasuraman (1950–2015) estudou níveis de automação e interação humano-máquina; Lisanne Bainbridge (1942–2022) formulou as “ironias da automação”, observando que sistemas automáticos podem retirar dos operadores justamente a prática necessária para intervir quando algo dá errado; Charles Perrow (1925–2019) mostrou, com sua teoria dos acidentes normais, como sistemas complexos e fortemente acoplados podem produzir falhas difíceis de controlar; James Reason (1938–) desenvolveu modelos sobre falhas sistêmicas e camadas de defesa; Sidney Dekker (1969–) estudou segurança, fatores humanos e responsabilidade em sistemas complexos; essas contribuições são fundamentais porque o humano inserido apenas como último clique pode possuir menos capacidade real de decisão do que parece; se recebe centenas de casos por dia, não conhece os parâmetros do modelo e será cobrado sempre que divergir da recomendação, a “supervisão humana” é ritual; a responsabilidade formal permanece humana enquanto a determinação material migrou para o sistema; Frank Pasquale (1974–) chamaria atenção para o poder opaco dessas estruturas; Danielle Citron (1968–) exigiria devido processo tecnológico; Mireille Hildebrandt (1958–) trataria da necessidade de preservar contestabilidade e proteção jurídica em ambientes computacionais; Luciano Floridi (1964–) enfatizaria governança responsável de sistemas informacionais; Virginia Dignum (1964–) trabalha precisamente a responsabilidade em inteligência artificial; Stuart Russell (1962–) chama atenção para alinhamento de sistemas com finalidades humanas; a solução, portanto, não é simplesmente HUMAN-IN-THE-LOOP, mas HUMAN-WITH-AUTHORITY-TO-QUESTION-THE-LOOP: um humano com competência, tempo, informação, independência e obrigação de justificar tanto a concordância quanto a divergência em decisões de alto impacto; deve existir também possibilidade de o destinatário fornecer informações que o modelo desconhece e de essas informações realmente alterarem o resultado; caso contrário, o contraditório ocorre depois de a arquitetura decisória já ter fechado todas as portas relevantes; o princípio final desta parte pode ser formulado assim: A MÁQUINA PODE CALCULAR O RISCO, MAS NÃO PODE ABSORVER A RESPONSABILIDADE NORMATIVA DE DECIDIR O QUE ESSE RISCO AUTORIZA FAZER COM UMA PESSOA; essa responsabilidade continua humana porque é precisamente no salto entre descrição e consequência que entram valores, direitos, proporcionalidade, singularidade e dignidade — elementos que nenhuma porcentagem, por mais acurada que seja, consegue transformar sozinha em uma decisão legítima.

PARTE V — O DIREITO AO FUTURO ABERTO: DIGNIDADE, RESPONSABILIDADE E A RECUSA DE TRANSFORMAR PROBABILIDADE EM DESTINO

21. O direito ao futuro aberto como limite contra a captura preditiva da pessoa

Se o problema central desenvolvido até aqui está na passagem silenciosa da previsão para a consequência, então a resposta jurídica mais profunda não pode limitar-se a exigir modelos melhores, dados mais limpos ou estatísticas mais precisas; é necessário estabelecer um princípio anterior a todas essas técnicas, um princípio capaz de impedir que qualquer sistema, humano ou algorítmico, trate uma pessoa como se seu futuro já estivesse suficientemente escrito para autorizar no presente aquilo que apenas o próprio futuro poderia confirmar: esse princípio pode ser formulado como direito ao futuro aberto, entendido não como direito à imprevisibilidade absoluta, nem como ficção metafísica de que seres humanos estejam desligados de causalidade, história, personalidade ou condições sociais, mas como exigência normativa de que nenhuma probabilidade sobre condutas futuras seja convertida automaticamente em identidade, culpa, incapacidade ou sanção; Aristóteles (384–322 a.C.) já distinguia potência e ato, permitindo perceber que aquilo que pode acontecer não deve ser confundido com aquilo que efetivamente se realizou; Agostinho de Hipona (354–430) compreendia o tempo humano como tensão entre memória, atenção e expectativa, mostrando que o futuro não está presente do mesmo modo que o passado; Tomás de Aquino (1225–1274) preservava a contingência das ações humanas mesmo dentro de uma ordem causal mais ampla; Guilherme de Ockham (c. 1287–1347) reforçava a importância da contingência e da liberdade; Nicolau Maquiavel (1469–1527) concebia a política no confronto entre virtù e fortuna, isto é, entre capacidade de ação e imprevisibilidade dos acontecimentos; Thomas Hobbes (1588–1679) reconhecia a força causal das paixões e circunstâncias, mas ainda definia liberdade em relação à ausência de impedimentos externos; Baruch Spinoza (1632–1677) atacava a crença ingênua no livre-arbítrio absoluto, mas sua crítica não autoriza que instituições transformem causalidade presumida em responsabilidade antecipada; Gottfried Wilhelm Leibniz (1646–1716) buscava compatibilizar razão suficiente e contingência; David Hume (1711–1776) separava necessidade lógica de regularidade observada; Immanuel Kant (1724–1804) tornava a ideia de liberdade condição prática da responsabilidade; Georg Wilhelm Friedrich Hegel (1770–1831) mostrava que a liberdade se efetiva no mundo institucional, e não apenas como propriedade interior; Søren Kierkegaard (1813–1855) transformava possibilidade, escolha e angústia em categorias existenciais fundamentais; Friedrich Nietzsche (1844–1900) desmontava concepções tradicionais de sujeito substancial e vontade, mas colocava no centro da existência a transformação e a superação; William James (1842–1910) defendia um universo genuinamente aberto a alternativas; Henri Bergson (1859–1941) via na duração concreta uma criatividade irredutível à decomposição mecânica; Edmund Husserl (1859–1938) mostrava que a consciência é temporalmente estruturada por retenções e protensões, não como objeto estático; Martin Heidegger (1889–1976) definia o Dasein justamente como ser de possibilidades, alguém que existe projetando-se em futuros possíveis; Jean-Paul Sartre (1905–1980) radicalizava a ideia de que o homem nunca coincide definitivamente com aquilo que já é; Maurice Merleau-Ponty (1908–1961) situava a liberdade dentro de condições concretas sem dissolvê-la nelas; Hannah Arendt (1906–1975) concebia a natalidade como capacidade humana de iniciar algo novo, talvez a categoria mais poderosa para resistir filosoficamente ao determinismo preditivo institucional; Paul Ricoeur (1913–2005) articulava identidade como continuidade narrativa que preserva simultaneamente permanência e transformação; Emmanuel Levinas (1906–1995) recusava a redução do outro às categorias mediante as quais tentamos totalizá-lo; Isaiah Berlin (1909–1997) lembrava que liberdade envolve proteção contra formas de coerção que pretendem realizar uma concepção única de bem; John Rawls (1921–2002) protegia liberdades básicas contra simples cálculos agregativos; Ronald Dworkin (1931–2013) exigia igual consideração e respeito; Amartya Sen (1933–) concebia liberdade como capacidade substantiva de realizar modos de vida possíveis; Martha Nussbaum (1947–) transformaria essa ideia numa teoria de capacidades humanas fundamentais; Joseph Raz (1939–2022) relacionaria autonomia à disponibilidade de opções moralmente significativas; Harry Frankfurt (1929–2023) mostraria que autonomia envolve relação reflexiva com os próprios desejos; Charles Taylor (1931–) examinaria identidade e horizontes de significação; Axel Honneth (1949–) colocaria reconhecimento no centro da autorrelação individual; todos esses autores permitem perceber que o futuro aberto não depende de negar condicionamentos, mas de recusar que instituições os tratem como destino suficiente para eliminar antecipadamente oportunidades; uma pessoa pode possuir alta probabilidade estatística de reincidir e ainda assim não reincidir; pode apresentar histórico de inadimplemento e tornar-se adimplente; pode ter fracassado repetidamente e obter sucesso; pode ter recebido diagnóstico, rótulo ou classificação e reconstruir sua trajetória; pode ter pertencido durante anos a determinado grupo de risco e deixar de corresponder a ele; exatamente porque a transformação é possível, ainda que desigual e condicionada, o direito precisa preservar espaço para ela; o direito ao futuro aberto pode então ser representado por uma série de proibições: NÃO CONFUNDIR HISTÓRICO COM ESSÊNCIA; NÃO CONFUNDIR PERFIL COM IDENTIDADE; NÃO CONFUNDIR PROBABILIDADE COM DESTINO; NÃO CONFUNDIR RISCO COM CULPA; NÃO CONFUNDIR PREVISÃO COM PROVA; NÃO CONFUNDIR PREVENÇÃO COM PENA; e por uma série de exigências positivas: INDIVIDUALIZAÇÃO, REVISÃO, TEMPORARIEDADE, CONTESTABILIDADE, POSSIBILIDADE REAL DE MUDANÇA, REABERTURA DA CLASSIFICAÇÃO E PROIBIÇÃO DE EFEITOS PERMANENTES FUNDADOS APENAS EM PROGNÓSTICOS; esse princípio não elimina instrumentos preditivos, mas muda sua posição hierárquica: eles deixam de funcionar como descrição definitiva da pessoa e passam a operar como informação provisória sobre uma possibilidade; quanto mais grave for a consequência, menor poderá ser a distância entre o prognóstico e o fato individualizado; quanto mais prolongada a restrição, maior deverá ser a obrigação de demonstrar que a classificação permanece atual; quanto mais antiga a informação, menor deveria ser sua autoridade isolada; quanto maior a capacidade de mudança do indivíduo, mais inadequado será congelá-lo numa classificação construída a partir de um passado distante; daí uma regra decisiva: nenhum sistema deveria possuir o direito de conhecer alguém apenas pelo passado e, simultaneamente, o poder de fechar seu futuro; essa formulação revela o núcleo ético do problema porque o poder preditivo pode ser tão invasivo quanto o poder punitivo, ainda que não utilize linguagem de pena; impedir alguém de ingressar numa oportunidade, submetê-lo indefinidamente a controle mais intenso, negar-lhe benefícios, restringir sua mobilidade ou classificá-lo permanentemente como arriscado são formas de intervenção que modelam sua biografia; quanto mais tais decisões dependem de previsões, mais o direito precisa oferecer mecanismos pelos quais a pessoa possa produzir nova evidência sobre si mesma; o indivíduo deve poder contradizer não apenas o que dizem que ele fez, mas o que dizem que ele fará; deve poder apresentar mudança de circunstâncias, explicar dados descontextualizados, apontar erros, questionar variáveis, exigir reavaliação e, sobretudo, deixar de ser prisioneiro eterno de uma probabilidade antiga; a consequência mais profunda do direito ao futuro aberto é, portanto, temporal: o passado pode informar o presente, mas não deve possuir soberania ilimitada sobre o futuro; um direito que esquece isso transforma memória institucional em sentença e previsão em destino.

22. A presunção de inocência precisa alcançar também o futuro

A presunção de inocência é normalmente compreendida em relação ao passado: alguém acusado de determinada infração não deve ser tratado como culpado antes de uma decisão produzida mediante procedimento juridicamente adequado; porém, a expansão dos mecanismos preditivos revela uma segunda dimensão que precisa ser explicitada, porque o poder pode respeitar formalmente a inocência quanto ao fato passado e, simultaneamente, tratar o mesmo indivíduo como culpado em relação a um fato futuro ainda inexistente; Cesare Beccaria (1738–1794) atacava precisamente o poder de punir sem limites racionais; Francesco Carrara (1805–1888) elevava a presunção de inocência a elemento central da posição do acusado; Paul Johann Anselm von Feuerbach (1775–1833) estruturava legalidade e tipicidade como barreiras contra arbitrariedade; Jeremy Bentham (1748–1832), embora orientado à prevenção, mostrava que a sanção precisa ser justificada por uma relação racional entre sofrimento imposto e mal evitado; Hans Kelsen (1881–1973) insistiria que toda coerção jurídica exige fundamento normativo; H. L. A. Hart (1907–1992) mostrou que responsabilidade não se resume a causalidade e depende de capacidades e critérios normativos; Herbert Packer (1925–1972) descreveu a tensão entre modelos de controle do crime e devido processo; John Rawls (1921–2002) mostraria por que liberdades básicas não podem ser simplesmente sacrificadas por eficiência; Ronald Dworkin (1931–2013) exigiria que direitos limitassem argumentos de maximização coletiva; Luigi Ferrajoli (1940–) transformou a presunção de inocência em peça central do garantismo penal; Eugenio Raúl Zaffaroni (1940–) denunciou expansões seletivas do poder punitivo; Alessandro Baratta (1933–2002) mostrou que criminalização incide seletivamente; Michel Foucault (1926–1984) descreveu o deslocamento do foco do delito para o indivíduo perigoso; David Garland (1955–) analisou a crescente cultura de controle e prevenção; Bernard Harcourt (1963–) criticou a racionalidade atuarial quando convertida em critério de intervenção penal; Andrew Ashworth (1944–2021) desenvolveu extensa reflexão sobre princípios, proporcionalidade e prevenção no direito penal; Antony Duff (1949–) concebe a responsabilidade penal como resposta comunicativa a um ilícito efetivamente cometido; George Fletcher (1939–2020) trabalhou culpabilidade, justificação e desculpa a partir de atos concretos; Nicola Lacey (1958–) examinou responsabilidade e institucionalização do julgamento penal; Lucia Zedner (1959–) analisou a expansão de formas de justiça preventiva; Christopher Slobogin (1951–) enfrentou juridicamente os limites da prevenção baseada em risco; essa tradição permite formular um princípio de presunção de não ocorrência futura: não no sentido absurdo de presumir que nenhum indivíduo jamais cometerá infração, mas no sentido de impedir que uma conduta futura seja tratada juridicamente como já realizada sem evidência concreta suficientemente individualizada de perigo atual; o direito precisa distinguir entre três frases: “ELE COMETEU”, que exige prova sobre o passado; “HÁ INDÍCIOS DE QUE ESTÁ PRESTES A COMETER”, que pode, em situações excepcionalmente justificadas, fundamentar medidas preventivas individualizadas; e “PESSOAS COMO ELE COSTUMAM COMETER”, que permanece uma generalização estatística incapaz de funcionar sozinha como substituta das duas primeiras; o problema contemporâneo é que a terceira frase pode ser tecnicamente refinada até parecer equivalente à segunda, produzindo scores individualizados que ainda derivam fundamentalmente de padrões de grupo; ao receber “82% de risco”, a pessoa parece ter sido individualmente conhecida, quando na verdade esse número significa algo como “dados os padrões presentes na população e as variáveis utilizadas, indivíduos semelhantes tiveram determinada incidência de resultado”; esse conhecimento pode ser útil, mas continua logicamente diferente da afirmação de que o indivíduo específico está preparando determinada conduta; a presunção de inocência prospectiva exige que essa diferença permaneça juridicamente visível; deve operar uma assimetria entre informação para monitoramento e fundamento para restrição: quanto mais grave a intervenção, menos suficiente é a probabilidade agregada; e quando alguma restrição for legitimamente necessária, ela não poderá carregar conteúdo simbólico de culpa; o sujeito continua não responsável por um fato que ainda não praticou; essa distinção possui consequências concretas para linguagem, duração e desenho institucional; medidas fundadas em risco deveriam evitar categorias estigmatizantes, possuir limites temporais curtos, mecanismos automáticos de revisão e critérios claros de cessação; não se deveria permitir que uma classificação provisória se transforme silenciosamente em registro permanente capaz de influenciar decisões futuras indefinidamente; Erving Goffman (1922–1982) demonstrou como o estigma reorganiza a identidade social; Howard Becker (1928–2023) mostrou como o rótulo de desviante pode produzir trajetórias próprias; Edwin Lemert (1912–1996) distinguiu desvio primário de secundário; Robert K. Merton (1910–2003) explicou profecias autorrealizáveis; Ian Hacking (1936–2023) demonstrou efeitos de looping entre classificações e classificados; Pierre Bourdieu (1930–2002) mostrou o poder performativo das categorias autorizadas; todos ajudam a perceber que classificar alguém como “alto risco” já é intervenção, mesmo antes de qualquer outra consequência; a categoria pode seguir a pessoa entre sistemas, moldar a forma como agentes interpretam suas ações e transformar indícios neutros em confirmações; daí a necessidade de uma espécie de direito à presunção contra a permanência do rótulo: classificações prospectivas deveriam decair com o tempo na ausência de novos elementos, e não adquirir autoridade cumulativa simplesmente porque foram repetidas; se o indivíduo atravessa determinado período sem produzir o evento previsto, esse fato deve contar em seu favor; o sistema precisa aprender também com a não ocorrência, e não apenas interpretar todo silêncio como risco latente; Karl Popper (1902–1994) exigiria que teorias se exponham à possibilidade de refutação; um sistema que nunca reduz risco porque a ausência do evento é explicada como efeito da própria vigilância torna-se epistemicamente blindado; precisa haver condições sob as quais a previsão possa ser considerada errada; sem isso, a pessoa não consegue jamais deixar de ser suspeita; a presunção de inocência voltada ao futuro exige exatamente essa possibilidade de desmentido: se o prognóstico não pode perder autoridade diante da realidade, deixou de ser conhecimento e virou dogma institucional; portanto, a garantia contemporânea deve ser dupla: não considerar culpado quem ainda não foi julgado pelo passado e não tratar como culpado antecipado quem apenas se tornou estatisticamente associado a um futuro possível; em ambas as dimensões, a função é a mesma: obrigar o poder a suportar a incerteza em vez de transferi-la integralmente para o indivíduo.

23. O direito de mudar: nenhuma classificação deveria sobreviver à transformação que a contradiz

Uma sociedade que aperfeiçoa continuamente a capacidade de registrar o passado cria, paradoxalmente, o risco de reduzir a capacidade institucional de reconhecer a mudança, porque quanto mais dados acumulamos sobre uma pessoa, mais fácil se torna tratá-la como continuidade estatística de tudo aquilo que já foi; Friedrich Nietzsche (1844–1900) compreendeu a importância do esquecimento como força ativa sem a qual a vida ficaria esmagada pelo peso da história; Henri Bergson (1859–1941) concebia duração como processo de transformação qualitativa no qual o presente nunca é mera repetição do passado; William James (1842–1910) enfatizava a plasticidade dos hábitos e da experiência; John Dewey (1859–1952) compreendia identidade e educação como processos de crescimento; Sigmund Freud (1856–1939) mostrou que repetição e conflito psíquico possuem raízes profundas, mas também criou uma prática fundada na possibilidade de transformação pela elaboração; Carl Gustav Jung (1875–1961) concebia individuação como processo de desenvolvimento; Alfred Adler (1870–1937) enfatizava finalidade, compensação e movimento da personalidade; Viktor Frankl (1905–1997) colocava a possibilidade de posicionamento diante das circunstâncias no centro de sua antropologia; Jean Piaget (1896–1980) mostrou o desenvolvimento como reorganização de estruturas cognitivas; Lev Vygotsky (1896–1934) enfatizou mediação social e potencial de desenvolvimento; Abraham Maslow (1908–1970) relacionou desenvolvimento humano e autorrealização; Carl Rogers (1902–1987) construiu uma psicologia profundamente centrada na capacidade de mudança do indivíduo sob determinadas condições relacionais; Albert Bandura (1925–2021) mostrou como autoeficácia e aprendizado social influenciam trajetórias; Martin Seligman (1942–) examinou tanto desamparo quanto formas de aprendizado de novas disposições; Carol Dweck (1946–) popularizou a relevância de crenças sobre maleabilidade de capacidades; Aaron Beck (1921–2021) demonstrou como padrões cognitivos podem ser modificados; Albert Ellis (1913–2007) também estruturou intervenções em torno da possibilidade de reconstrução das crenças; Paul Ricoeur (1913–2005) oferece, porém, talvez a melhor formulação filosófica para o problema ao distinguir identidade como mesmidade e identidade como ipseidade: permanecemos reconhecíveis ao longo do tempo sem sermos rigidamente idênticos a todas as nossas disposições anteriores; Hannah Arendt (1906–1975) reforça essa abertura com a ideia de natalidade; Jean-Paul Sartre (1905–1980) resiste à identificação do sujeito com sua facticidade; Maurice Merleau-Ponty (1908–1961) concebe liberdade situada justamente como abertura dentro de condições históricas; Charles Taylor (1931–) entende identidade como articulação dentro de horizontes que podem transformar-se; Axel Honneth (1949–) mostra como reconhecimento institucional influencia possibilidades de autorrealização; Amartya Sen (1933–) mede liberdade pelo conjunto efetivo de funcionamentos disponíveis; Martha Nussbaum (1947–) insiste na necessidade de preservar capacidades para que pessoas possam construir trajetórias valiosas; todos esses pensamentos entram em conflito com sistemas que tratam dados passados como indicadores permanentes; se um indivíduo praticou determinada conduta dez anos atrás, qual é o ponto em que essa informação deixa de possuir relevância decisiva? Se houve reincidência em determinado período e depois transformação prolongada, o modelo deve continuar atribuindo peso eterno ao passado? Se uma pessoa passou por dificuldades financeiras e reconstruiu sua situação, por quanto tempo continuará pagando estatisticamente por elas? Se abandonou um comportamento de risco, quanto tempo precisa demonstrar mudança antes de deixar de ser tratada como provável repetidora? Essas perguntas mostram que sistemas preditivos precisam incorporar não apenas memória, mas decaimento temporal; um dado antigo não pode possuir necessariamente o mesmo valor de um dado recente, e diferentes fenômenos exigem diferentes horizontes; mais importante ainda: eventos posteriores contraditórios precisam ser capazes de reescrever a inferência; caso contrário, o modelo não prevê, apenas eterniza; o esquema adequado deveria ser PASSADO → HIPÓTESE PROVISÓRIA → NOVOS COMPORTAMENTOS → REAVALIAÇÃO → POSSÍVEL SUPERAÇÃO DA CLASSIFICAÇÃO, e não PASSADO → RÓTULO → REPETIÇÃO AUTOMÁTICA DO RÓTULO; essa distinção corresponde juridicamente a algo próximo de um direito à atualização da identidade institucional, isto é, direito de não permanecer indefinidamente preso a representações desatualizadas de si; Viktor Mayer-Schönberger (1966–) refletiu sobre esquecimento no mundo digital; Luciano Floridi (1964–) aborda identidade informacional; Daniel Solove (1972–) analisa privacidade em sociedades de bancos de dados; Helen Nissenbaum (1954–) desenvolveu a ideia de integridade contextual, mostrando que informações podem tornar-se problemáticas quando deslocadas de contextos apropriados; Julie Cohen (1964–) relaciona privacidade e autonomia; Paul Ohm (1974–) mostrou os limites da anonimização diante de correlações modernas; esses autores evidenciam que a questão não é apenas apagar dados, mas controlar sua persistência normativa; uma informação pode permanecer verdadeira e, apesar disso, tornar-se injusta como fundamento decisório por perda de atualidade; “aconteceu” não equivale a “continua definindo”; a justiça temporal exige distinguir validade histórica de relevância presente; Friedrich Nietzsche (1844–1900) forneceria aqui a intuição mais incisiva: um ser incapaz de esquecer ficaria paralisado pela totalidade de seu passado; uma instituição incapaz de relativizar dados antigos produz versão burocrática dessa paralisia; ela conserva memória perfeita e perde capacidade de perdão, reabilitação e reinício; isso afeta especialmente qualquer sistema normativo que declare valorizar ressocialização, autonomia e responsabilidade, porque tais valores pressupõem que mudança possa ter efeitos reais; uma ordem jurídica que afirma desejar reinserção, mas permite que classificações anteriores produzam restrições permanentes, comunica uma contradição: “mude, embora sua mudança não altere a forma como continuaremos a tratá-lo”; essa mensagem pode transformar o próprio incentivo à mudança em vazio normativo; daí decorre uma regra: a possibilidade de reclassificação não pode ser favor institucional; deve integrar a própria legitimidade da classificação; toda categoria baseada em risco precisa possuir porta de saída; todo registro com função prospectiva precisa de horizonte temporal; toda inferência deve poder ser superada por evidência posterior; toda pessoa deve ter condições compreensíveis para saber o que poderia alterar sua classificação; sem isso, a previsão se transforma em status; e status, quando derivado do passado e aplicado ao futuro sem possibilidade real de revisão, torna-se uma forma de condenação temporalmente ilimitada.

24. A responsabilidade pelo algoritmo: ninguém pode esconder uma decisão normativa dentro da técnica

À medida que decisões preditivas se tornam distribuídas entre programadores, fornecedores, gestores, analistas, operadores e autoridades, surge o risco de uma fragmentação tão intensa que, quando uma pessoa é prejudicada, ninguém pareça ter verdadeiramente decidido aquilo que aconteceu; Max Weber (1864–1920) já percebia que a burocracia moderna distribui competências e responsabilidades mediante funções formalmente delimitadas; Émile Durkheim (1858–1917) analisava a divisão social do trabalho e o surgimento de novas formas de interdependência; Georg Simmel (1858–1918) mostrava como a modernidade cria cadeias abstratas de relações entre pessoas que não se conhecem; Karl Marx (1818–1883) analisava a autonomização de estruturas sociais produzidas por ações humanas; Franz Kafka (1883–1924), embora literato e não teórico jurídico, construiu talvez uma das representações mais poderosas da experiência de enfrentar instituições cuja autoridade é ubíqua e cujo responsável concreto é inalcançável; Hannah Arendt (1906–1975) tratou de formas burocráticas de irresponsabilidade e ausência de pensamento em contextos políticos muito específicos e incomparavelmente mais graves, mas sua advertência sobre a diluição da autoria institucional permanece intelectualmente relevante; Günther Anders (1902–1992) examinou o abismo entre aquilo que a técnica permite fazer e aquilo que somos capazes de imaginar moralmente; Jacques Ellul (1912–1994) descreveu a expansão de uma lógica técnica orientada pela eficiência; Stanley Milgram (1933–1984) demonstrou, em experimentos posteriormente muito debatidos, a força da autoridade sobre agentes individuais; Zygmunt Bauman (1925–2017) analisou como divisão funcional e distância podem enfraquecer responsabilidade moral; Charles Perrow (1925–2019) mostrou como sistemas complexos e fortemente acoplados produzem falhas que não podem ser explicadas por um único erro individual; James Reason (1938–) desenvolveu o modelo das camadas de defesa e falhas sistêmicas; Sidney Dekker (1969–) insiste que acidentes precisam ser compreendidos dentro de sistemas, evitando tanto a caça simplista ao culpado quanto a dissolução total da responsabilidade; Bruno Latour (1947–2022) mostrou que agência sociotécnica se distribui entre humanos e artefatos, mas reconhecer essa distribuição não significa abandonar a imputação normativa; Luciano Floridi (1964–), Virginia Dignum (1964–), Frank Pasquale (1974–), Mireille Hildebrandt (1958–), Danielle Citron (1968–) e Sandra Wachter (1982–) contribuíram para a reflexão contemporânea sobre responsabilidade, governança, devido processo e sistemas automatizados; o problema pode ser resumido por uma cadeia típica: O LEGISLADOR AUTORIZA → O ÓRGÃO DEFINE POLÍTICA → O GESTOR CONTRATA → O FORNECEDOR TREINA → O PROGRAMADOR IMPLEMENTA → O MODELO CLASSIFICA → O OPERADOR CONSULTA → A AUTORIDADE ASSINA → O INDIVÍDUO SOFRE A CONSEQUÊNCIA; se cada participante responder “apenas cumpri minha função”, o sistema inteiro produz uma decisão sem autor identificável; essa é uma situação juridicamente intolerável porque toda consequência que afete direitos precisa poder ser atribuída a uma autoridade responsável pela sua legitimidade; a complexidade técnica pode distribuir causalidade, mas não deve evaporar responsabilidade jurídica; Hans Kelsen (1881–1973) estruturaria o problema em termos de competência: alguém autorizado pelo ordenamento precisa praticar o ato; H. L. A. Hart (1907–1992) mostraria diferentes sentidos de responsabilidade, incluindo causal, de função e de imputabilidade; Herbert Simon (1916–2001) evidenciaria como estruturas organizacionais moldam decisões; Ronald Dworkin (1931–2013) exigiria justificação principiológica da consequência; Neil MacCormick (1941–2009) demandaria razões reconstruíveis; Robert Alexy (1945–) submeteria a intervenção à proporcionalidade; Joseph Raz (1939–2022) exigiria que a autoridade fornecesse razões capazes de orientar legitimamente os sujeitos; Jürgen Habermas (1929–) insistiria na possibilidade de justificação pública; Luigi Ferrajoli (1940–) exigiria garantias e competências precisamente delimitadas; daí decorre um princípio de responsabilidade não delegável pela consequência normativa: ferramentas podem auxiliar, sugerir, classificar e estimar, mas a instituição que transforma a saída em consequência permanece integralmente responsável por demonstrar por que podia fazê-lo; a frase “foi o algoritmo” não deve ser aceita juridicamente como explicação do mesmo modo que “foi o regulamento” não exonera quem o aplica contra critérios superiores de validade; o algoritmo não possui competência normativa autônoma, não responde em juízo, não sofre consequências institucionais e não oferece razões morais; é instrumento inserido numa cadeia decisória humana; essa constatação exige separar RESPONSABILIDADE TÉCNICA de RESPONSABILIDADE NORMATIVA: o desenvolvedor pode ser responsável por falhas de implementação, o fornecedor por defeitos ou representações sobre desempenho, o gestor por escolha inadequada da ferramenta, o controlador de dados por uso ilícito, mas a autoridade que decide deve continuar responsável pelo uso que faz do resultado; nenhuma divisão contratual pode converter uma restrição juridicamente ilegítima em legítima; mais ainda, a própria decisão de automatizar determinada etapa é decisão normativa quando altera substancialmente a capacidade de defesa do indivíduo; se um modelo opaco é escolhido apesar de existir alternativa interpretável com desempenho equivalente, a opacidade deixa de ser fato inevitável e passa a ser escolha institucional; se o sistema é utilizado fora da população para a qual foi validado, a inadequação é responsabilidade de quem autorizou a aplicação; se critérios de risco são atualizados sem controle, alguém precisa responder pela mudança; se o modelo produz impactos desiguais, não basta afirmar ausência de intenção discriminatória; o efeito precisa ser examinado; surge, assim, uma matriz de prestação de contas: QUEM DEFINIU A FINALIDADE? QUEM ESCOLHEU OS DADOS? QUEM ESCOLHEU O MODELO? QUEM O VALIDOU? QUEM DEFINIU O LIMIAR? QUEM DECIDIU QUAL CONSEQUÊNCIA DECORRERIA DO SCORE? QUEM PODE REVER? QUEM RESPONDE PELO ERRO?; sem respostas claras, a sociedade entra numa forma de irresponsabilidade por arquitetura; ninguém desejou individualmente a injustiça, mas todos participaram da máquina que a produziu; esse problema é particularmente importante para a RFA porque a reconstrução fenomenológica da decisão precisa alcançar não apenas a última manifestação formal, mas toda a cadeia de antecedentes que tornou aquela conclusão possível; uma decisão algorítmica não começa quando o score aparece na tela: começa quando alguém define o que será previsto, transforma uma realidade em variável, seleciona dados, estabelece objetivo, escolhe métricas, fixa limiares e conecta determinada saída a determinada consequência; a imputação institucional precisa seguir a mesma cadeia; somente assim se evita o paradoxo de sistemas cada vez mais poderosos e agentes cada vez menos responsáveis; quanto maior a capacidade técnica de prever e intervir, maior deve ser a capacidade jurídica de identificar quem assumiu o dever de responder pelas consequências; tecnologia pode distribuir operação, mas não pode produzir um território sem prestação de contas.

25. Uma gramática jurídica para o futuro: prever sem condenar, prevenir sem substituir, proteger sem apagar a pessoa

Chega-se, ao fim das cinco partes, a uma exigência que não é antitecnológica, antiestatística ou antipreventiva: o direito precisa aprender a utilizar conhecimento prospectivo sem permitir que esse conhecimento desfigure a própria ideia de responsabilidade; a alternativa seria falsa se consistisse em escolher entre ignorar todos os riscos e transformar toda probabilidade em fundamento de restrição, porque sociedades complexas não podem renunciar à antecipação, mas também não podem abdicar da singularidade individual em nome dela; Aristóteles (384–322 a.C.) oferece a prudência como racionalidade do contingente; Tomás de Aquino (1225–1274) mostra que deliberação prática precisa considerar circunstâncias; David Hume (1711–1776) ensina que expectativa não equivale a necessidade; Immanuel Kant (1724–1804) impede que pessoas sejam tratadas apenas como meios para fins coletivos; John Stuart Mill (1806–1873) exige dano ou perigo suficientemente justificável para intervenção sobre a liberdade; Cesare Beccaria (1738–1794) limita a punição pelo princípio de legalidade e necessidade; Georg Wilhelm Friedrich Hegel (1770–1831) vincula responsabilidade à ação exteriorizada e à liberdade objetiva; Max Weber (1864–1920) mostra simultaneamente a força e o perigo da racionalização formal; Hans Kelsen (1881–1973) preserva a exigência de competência normativa; Karl Popper (1902–1994) mantém conhecimento e instituições abertos à correção; Friedrich August von Hayek (1899–1992) adverte contra arrogância do conhecimento centralizado; Hans Jonas (1903–1993) exige responsabilidade prospectiva diante de poderes tecnológicos; Hannah Arendt (1906–1975) preserva a imprevisibilidade da ação e a capacidade de começar; Herbert Simon (1916–2001) recorda que decisões ocorrem sob racionalidade limitada; John Rawls (1921–2002) impede que liberdades fundamentais sejam simples saldo de uma função de utilidade; Michel Foucault (1926–1984) alerta para tecnologias de normalização que classificam e disciplinam pessoas; Niklas Luhmann (1927–1998) mostra que decidir é sempre selecionar diante de contingência; Ronald Dworkin (1931–2013) exige igual consideração; Ian Hacking (1936–2023) mostra que categorias interagem com aqueles que classificam; Joseph Raz (1939–2022) vincula autoridade à produção de razões legítimas para ação; Luigi Ferrajoli (1940–) constrói garantias contra o poder arbitrário; Neil MacCormick (1941–2009) preserva a necessidade de justificação racional; Robert Alexy (1945–) oferece proporcionalidade como estrutura para limites; Jürgen Habermas (1929–) exige razões que possam ser publicamente contestadas; Ulrich Beck (1944–2015) mostra uma sociedade compelida a governar riscos; Amartya Sen (1933–) mede justiça por liberdades reais; Martha Nussbaum (1947–) coloca capacidades humanas no centro; Paul Ricoeur (1913–2005) impede a redução da identidade a uma sequência congelada de características; Emmanuel Levinas (1906–1995) impede a totalização completa do outro; Luciano Floridi (1964–), Frank Pasquale (1974–), Mireille Hildebrandt (1958–), Virginia Dignum (1964–), Sandra Wachter (1982–), Solon Barocas (1984–), Moritz Hardt (1980–) e Arvind Narayanan (1981–) ajudam a formular os desafios específicos da governança algorítmica; dessa constelação pode emergir uma verdadeira gramática jurídica do futuro, cuja primeira regra é PRIMAZIA DO FATO SOBRE A PREVISÃO: quando estiver em questão responsabilidade por uma conduta pretérita, nenhuma previsão futura pode substituir prova sobre aquilo que ocorreu; a segunda é NÃO EQUIVALÊNCIA ENTRE RISCO E CULPA: risco pode justificar determinadas medidas protetivas, mas jamais constitui por si próprio censura moral ou jurídica; a terceira é INDIVIDUALIZAÇÃO PROPORCIONAL À GRAVIDADE: quanto maior a restrição, menor poderá ser a dependência de informações meramente populacionais; a quarta é EXPLICABILIDADE SUFICIENTE: ninguém deve sofrer consequência relevante baseada numa classificação que não possa ser reconstruída em nível compatível com o contraditório; a quinta é CONTESTABILIDADE: o indivíduo precisa poder apresentar contexto, corrigir dados e questionar inferências; a sexta é TEMPORARIEDADE: prognósticos envelhecem e não devem produzir efeitos perpétuos sem nova demonstração; a sétima é REVISABILIDADE: toda decisão prospectiva precisa conter mecanismo institucional para ser revista à luz de novos fatos; a oitava é DECAIMENTO DO PASSADO: dados antigos devem perder peso quando novos comportamentos os contradizem; a nona é RESPONSABILIDADE HUMANA IDENTIFICÁVEL: nenhum algoritmo pode absorver a autoria normativa de uma decisão; a décima é TESTE DE CAUSALIDADE E PROXY: variáveis preditivas precisam ser examinadas quanto ao fenômeno que efetivamente representam; a décima primeira é ANÁLISE DE FALSOS POSITIVOS E FALSOS NEGATIVOS: uma política não pode esconder suas vítimas sob métricas médias; a décima segunda é EFEITO PERFORMATIVO: sistemas precisam ser avaliados pelo mundo que ajudam a criar, não apenas pelo mundo que afirmam descrever; a décima terceira é ABERTURA RESIDUAL: mesmo uma medida preventiva legítima deve preservar alguma possibilidade concreta de o indivíduo demonstrar mudança; a décima quarta é PROIBIÇÃO DA ESSENCIALIZAÇÃO DO PERFIL: ninguém “é” o score que recebeu; a décima quinta é PRESTAÇÃO DE CONTAS SOBRE A INCERTEZA: o decisor precisa explicitar aquilo que não sabe com a mesma honestidade com que apresenta aquilo que sabe; a décima sexta é SIMETRIA DOS RISCOS: o risco da omissão precisa ser comparado ao risco da intervenção; a décima sétima é REVERSIBILIDADE MATERIAL: não basta que uma medida possa ser juridicamente revogada se seus efeitos existenciais forem irreparáveis; a décima oitava é PROIBIÇÃO DA AUTOCONFIRMAÇÃO: modelos e políticas devem permitir condições reais sob as quais possam ser considerados errados; a décima nona é DIREITO À ATUALIZAÇÃO DA IDENTIDADE INSTITUCIONAL: a pessoa deve poder deixar para trás classificações que o tempo e sua conduta tornaram obsoletas; e a vigésima é DIREITO AO FUTURO ABERTO: nenhuma arquitetura de previsão pode ter autoridade para converter uma possibilidade estatística em destino pessoal; essa gramática não elimina a tensão entre liberdade e proteção, porque nenhuma teoria séria poderia fazê-lo; ela apenas desloca a pergunta de “podemos prever?” para “o que estamos autorizados a fazer com aquilo que prevemos?”; essa é a verdadeira questão jurídica e filosófica, porque conhecimento não produz automaticamente legitimidade; saber que algo é provável não determina qual intervenção é justa; identificar um risco não contém a resposta sobre quem deve suportá-lo; calcular um futuro não confere soberania sobre ele; e talvez este seja o ponto em que a racionalidade tecnológica precisa reencontrar a velha prudência jurídica: quanto mais poderosa se torna nossa capacidade de antecipar comportamentos, mais rigorosa precisa tornar-se nossa recusa de tratar a antecipação como acontecimento; a sociedade poderá conhecer cada vez melhor probabilidades humanas, mas deverá continuar lembrando que o indivíduo concreto não é uma distribuição estatística, que uma vida não é a média das vidas semelhantes, que correlação não é culpa, que previsão não é sentença, que passado não é essência e que o futuro, enquanto ainda não aconteceu, continua pertencendo também àquele que terá de vivê-lo.

CONCLUSÃO

O percurso desenvolvido ao longo destas cinco partes permite condensar todo o problema numa advertência central: a sociedade contemporânea adquiriu instrumentos cada vez mais poderosos para observar regularidades, identificar padrões, medir probabilidades, antecipar comportamentos, classificar indivíduos e intervir antes que determinados acontecimentos se consumem, mas essa capacidade técnica não pode ser confundida com autoridade ontológica sobre o futuro nem com legitimidade jurídica para transformar possibilidade em culpa; Aristóteles (384–322 a.C.) já distinguia potência e ato, lembrando que aquilo que pode acontecer não é aquilo que aconteceu; Agostinho de Hipona (354–430) mostrava que o futuro comparece à consciência como expectativa e não como presença consumada; Tomás de Aquino (1225–1274) preservava a contingência dentro da ordem causal; Guilherme de Ockham (c. 1287–1347) enfatizava a liberdade e a contingência; Nicolau Maquiavel (1469–1527) pensava a ação no espaço incerto entre virtù e fortuna; Thomas Hobbes (1588–1679) compreendia a necessidade política de reduzir a insegurança; René Descartes (1596–1650) buscava procedimentos para controlar o erro; Blaise Pascal (1623–1662) mostrava simultaneamente o poder e os limites do cálculo; Baruch Spinoza (1632–1677) desafiava concepções ingênuas de livre-arbítrio; John Locke (1632–1704) vinculava poder político à proteção de direitos, mas submetia o próprio poder a limites; Gottfried Wilhelm Leibniz (1646–1716) procurava razões suficientes sem dissolver completamente a contingência; Montesquieu (1689–1755) insistia na necessidade de conter o poder pelo próprio poder; David Hume (1711–1776) expunha a distância entre repetição passada e necessidade futura; Cesare Beccaria (1738–1794) limitava o poder de punir pelo fato previamente definido e demonstrado; Jeremy Bentham (1748–1832) transformava prevenção em questão racional de utilidade, mas não eliminava a exigência de justificar o sofrimento imposto; Pierre-Simon Laplace (1749–1827) levava ao extremo a fantasia de uma previsibilidade total; Paul Johann Anselm von Feuerbach (1775–1833) reforçava legalidade e determinação prévia da conduta punível; Georg Wilhelm Friedrich Hegel (1770–1831) vinculava imputação à ação que se exterioriza no mundo; John Stuart Mill (1806–1873) procurava limitar coerção à prevenção de danos justificáveis; Søren Kierkegaard (1813–1855) colocava possibilidade e escolha no centro da existência; Karl Marx (1818–1883) mostrava que estruturas históricas podem aparecer como necessidades naturais; Rudolf von Jhering (1818–1892) reconectava o direito à sua finalidade concreta; Friedrich Nietzsche (1844–1900) lembrava que nenhuma vida pode existir sob a tirania integral do passado; William James (1842–1910) preservava a abertura prática da experiência; Max Weber (1864–1920) descrevia a expansão da racionalização, da burocracia e da calculabilidade; Henri Bergson (1859–1941) mostrava que a duração humana não se reduz a uma sequência homogênea de instantes; Edmund Husserl (1859–1938) exigia retorno às coisas mesmas e resistência à confusão entre construção abstrata e fenômeno; Martin Heidegger (1889–1976) compreendia a existência como abertura de possibilidades; Karl Jaspers (1883–1969) enfatizava situações-limite e liberdade existencial; Hans Kelsen (1881–1973) separava causalidade e imputação normativa; Ludwig Wittgenstein (1889–1951) lembrava que conceitos possuem significado no uso e não por alguma essência metafísica escondida; Karl Popper (1902–1994) insistia no falibilismo e na necessidade de instituições abertas à correção; Friedrich August von Hayek (1899–1992) advertia para limites do conhecimento centralizado; Norbert Wiener (1894–1964) inaugurava a cibernética como ciência de controle, informação e feedback; Claude Shannon (1916–2001) fornecia a base matemática para a teoria da informação; Herbert Simon (1916–2001) demonstrava os limites cognitivos da decisão humana; Hannah Arendt (1906–1975) preservava, contra todo determinismo político, a natalidade como capacidade humana de começar algo novo; Hans Jonas (1903–1993) alargava a ética para a responsabilidade sobre consequências futuras e irreversíveis; H. L. A. Hart (1907–1992) refinava os conceitos de responsabilidade, capacidade e regras; Maurice Merleau-Ponty (1908–1961) recusava tanto a liberdade absoluta quanto o determinismo mecânico; Paul Ricoeur (1913–2005) mostrava que identidade não é mera permanência de atributos, mas narrativa aberta à transformação; Emmanuel Levinas (1906–1995) impedia a redução do outro a uma totalidade conceitual; John Rawls (1921–2002) recusava o sacrifício fácil de liberdades fundamentais em nome de vantagens agregadas; Michel Foucault (1926–1984) mostrava como o poder moderno não apenas pune atos, mas examina, classifica, normaliza e fabrica sujeitos; Niklas Luhmann (1927–1998) explicava que toda decisão reduz complexidade e transforma incertezas em riscos; Ronald Dworkin (1931–2013) insistia que direitos limitam a simples maximização de objetivos coletivos; Pierre Bourdieu (1930–2002) mostrava o poder performativo das classificações; Luigi Ferrajoli (1940–) reconstruía garantias precisamente para conter a arbitrariedade do poder punitivo; Neil MacCormick (1941–2009) insistia na racionalidade justificativa das decisões; Jürgen Habermas (1929–) exigia razões públicas e contestáveis; Robert Alexy (1945–) estruturava a proporcionalidade como mecanismo de controle de restrições; Ulrich Beck (1944–2015) descrevia sociedades que passam a organizar-se em torno da administração de riscos; Anthony Giddens (1938–) mostrava a reflexividade de instituições que produzem e tentam governar as próprias incertezas; Ian Hacking (1936–2023) demonstrava que categorias estatísticas podem interagir com pessoas e contribuir para produzir aquilo que classificam; Judea Pearl (1936–) distinguia correlação, intervenção e causalidade; Daniel Kahneman (1934–2024) e Amos Tversky (1937–1996) mostravam os vieses sistemáticos da decisão sob incerteza; Paul Meehl (1920–2003) demonstrava que modelos atuariais podem superar certos julgamentos intuitivos; Nassim Nicholas Taleb (1960–) lembrava que eventos raros e distribuições mal compreendidas desafiam previsões aparentemente seguras; Luciano Floridi (1964–), Frank Pasquale (1974–), Mireille Hildebrandt (1958–), Virginia Dignum (1964–), Cathy O’Neil (1972–), Virginia Eubanks (1974–), Safiya Umoja Noble (1970–), Ruha Benjamin (1978–), Solon Barocas (1984–), Moritz Hardt (1980–), Arvind Narayanan (1981–) e Sandra Wachter (1982–) mostram, em diferentes registros, como dados, algoritmos, opacidade, discriminação, governança e explicabilidade transformaram a velha questão do poder de julgar numa nova questão: quem pode legitimamente antecipar uma pessoa e quais efeitos pode extrair dessa antecipação?; a resposta construída aqui parte de uma distinção que precisa permanecer inegociável: PREVISÃO NÃO É FATO; PROBABILIDADE NÃO É CULPA; CORRELAÇÃO NÃO É CAUSA; PERFIL NÃO É IDENTIDADE; RISCO NÃO É PERICULOSIDADE ONTOLÓGICA; PREVENÇÃO NÃO É PENA; DADO NÃO É FENÔMENO; SCORE NÃO É SENTENÇA; MODELO NÃO É JUSTIFICAÇÃO; PASSADO NÃO É DESTINO; essas desigualdades conceituais são o núcleo de resistência contra a colonização do direito pela racionalidade preditiva, porque o problema nunca esteve em prever como instrumento, mas em permitir que aquilo que é apenas provável adquira o mesmo estatuto normativo daquilo que foi efetivamente demonstrado; a primeira parte mostrou que a transformação começa quando a arquitetura clássica FENÔMENO → RECONSTRUÇÃO → QUALIFICAÇÃO → IMPUTAÇÃO → CONSEQUÊNCIA é substituída ou contornada por DADOS → CORRELAÇÕES → PERFIL → PROBABILIDADE → CLASSIFICAÇÃO → CONSEQUÊNCIA, fazendo com que efeitos presentes sejam produzidos por acontecimentos futuros apenas possíveis; o deslocamento é temporal e ontológico ao mesmo tempo, porque a consequência passa a anteceder o fato e o indivíduo passa a responder por um futuro que ainda não existe; a segunda parte demonstrou que o risco pode funcionar silenciosamente como substituto da culpa quando características pessoais, históricos, pertenças estatísticas ou scores deixam de ser elementos informativos e passam a definir a própria pessoa, recriando sob linguagem tecnicamente neutra a velha tentação de punir o autor em vez do ato; a terceira parte enfrentou o ponto mais difícil, porque uma ordem jurídica responsável não pode limitar-se a esperar passivamente a consumação de todos os danos, mas também não pode transformar qualquer possibilidade em autorização para intervir; daí a necessidade de uma gramática da prevenção fundada em probabilidade, gravidade, proximidade, individualização, necessidade, proporcionalidade, temporariedade, reversibilidade e revisão, reconhecendo simultaneamente que o risco da omissão e o risco da intervenção precisam ser examinados; a quarta parte mostrou que sistemas algorítmicos não observam pessoas diretamente, mas representações codificadas delas, e que toda previsão começa por uma redução: FENÔMENO → VARIÁVEIS → DADOS → MODELO → SAÍDA, sendo perfeitamente possível que um sistema alcance completude computacional e permaneça fenomenologicamente incompleto; mostrou também que dados históricos não são passado neutro, mas vestígios de decisões anteriores, de modo que o algoritmo pode automatizar desigualdades precisamente porque aprende aquilo que instituições já fizeram; demonstrou ainda que opacidade não é simples inconveniente técnico, mas problema jurídico de fundamentação, porque uma decisão que ninguém consegue reconstruir compromete contraditório, recurso, controle e responsabilidade; evidenciou que proxies podem reconstruir características que o direito tentou excluir explicitamente; e revelou que a simples presença de um humano no circuito não basta quando esse humano apenas confirma a saída do sistema, sem tempo, competência, autoridade ou incentivo para contradizê-la; a quinta parte, por fim, formulou a resposta normativa central: o direito ao futuro aberto, isto é, o direito de não ser reduzido a uma probabilidade sobre si mesmo; essa ideia precisa agora ser compreendida em toda a sua extensão, porque ela não constitui um direito romântico à imprevisibilidade nem um privilégio de ignorar perigos concretos, mas uma garantia contra a transformação da previsão em soberania biográfica; um sistema pode estimar que alguém possui oitenta por cento de probabilidade de determinada conduta e, ainda assim, esse indivíduo pertence integralmente aos vinte por cento restantes até que aja de outro modo; mais precisamente, nem sequer “pertence” antecipadamente a qualquer lado da distribuição, porque a porcentagem descreve uma expectativa derivada de padrões e não uma propriedade ontológica inscrita nele; essa diferença significa que probabilidades são instrumentos para agentes que decidem, não sentenças sobre pessoas; quanto mais grave a consequência pretendida, menor pode ser a legitimidade de depender exclusivamente de informações agregadas; quanto mais individualizada a restrição, mais individualizada deve ser a justificativa; quanto mais distante o fato futuro, maior a incerteza; quanto mais antiga a informação, maior a obrigação de examinar sua atualidade; quanto mais prolongada a medida, maior o dever de renovar sua fundamentação; quanto mais irreversível o dano produzido pela intervenção, mais exigente deve ser o controle anterior; essa matriz impede tanto o abandono irresponsável da prevenção quanto sua expansão ilimitada; prevenir legitimamente não significa antecipar culpa, mas reconhecer um risco concreto e adotar a intervenção mínima capaz de reduzi-lo sem fechar o futuro da pessoa; cautelaridade legítima não significa executar antecipadamente a conclusão, mas preservar as condições para que uma decisão posterior ainda seja útil; precaução legítima não significa transformar incerteza em poder absoluto, mas reconhecer que determinados danos irreversíveis exigem atuação mesmo sob conhecimento incompleto, desde que a intervenção seja proporcional, revisável e consciente de seus próprios riscos; previsão legítima não significa dizer quem alguém é, mas formular uma hipótese provisória sobre aquilo que pode acontecer; justamente por isso, a sociedade precisa abandonar a sedução de frases ontológicas como “ele é perigoso”, “ela é fraudulenta”, “ele é inadimplente”, “ela é incapaz”, substituindo-as por enunciados epistemicamente honestos: “diante destas informações, deste modelo, desta população de referência, deste horizonte temporal e desta margem de erro, estima-se determinado risco”; a diferença entre as duas linguagens não é cosmética: a primeira transforma uma estimativa em identidade; a segunda conserva visível a estrutura contingente do conhecimento; e essa honestidade precisa alcançar também a decisão humana, porque nenhum algoritmo “decide” juridicamente por si mesmo; alguém define o problema, alguém escolhe os dados, alguém determina o resultado que será previsto, alguém seleciona a métrica, alguém fixa o limiar, alguém conecta o score a uma consequência, alguém decide aceitar ou rejeitar a recomendação, e por isso a responsabilidade não pode evaporar na frase “foi o sistema”; a cadeia técnica precisa corresponder a uma cadeia de prestação de contas: QUEM DEFINIU? QUEM MEDIU? QUEM VALIDOU? QUEM ESCOLHEU? QUEM APLICOU? QUEM PODE REVER? QUEM RESPONDE?; isso é especialmente importante porque sistemas complexos tendem a produzir a sociedade dos atos sem autor, aquela em que todos participaram e ninguém decidiu, exatamente a forma de irresponsabilidade que o direito não pode tolerar; se um indivíduo sofre uma restrição, deve existir uma autoridade identificável capaz de explicar não apenas como o modelo chegou ao score, mas por que aquele score autorizava juridicamente aquela consequência; esse salto entre descrição e normatividade é irredutível: “há 70% de risco” não contém logicamente “logo, restrinja”; entre as duas proposições existe uma premissa normativa, e é nessa premissa que se encontram direitos, proporcionalidade, igualdade, dignidade e responsabilidade; escondê-la sob a matemática apenas obscurece uma escolha humana; por isso, a fundamentação contemporânea precisa decompor a decisão em camadas: DADOS → MODELO → INFERÊNCIA → SIGNIFICADO → NORMA → CONSEQUÊNCIA, permitindo contraditório em cada uma; o indivíduo deve poder dizer que o dado está errado, que o modelo é inadequado, que a inferência não se aplica ao seu caso, que o significado foi exagerado, que a norma não autoriza a consequência ou que a medida é desproporcional; um sistema no qual a pessoa só pode contestar a última etapa depois de todas as anteriores terem adquirido aparência de fato consumado não oferece contraditório real; daí emerge também o direito à atualização da identidade institucional: uma pessoa deve poder demonstrar que mudou, que circunstâncias anteriores cessaram, que determinado risco diminuiu, que o passado deixou de representar adequadamente o presente; toda classificação prospectiva legítima precisa possuir mecanismo de decadência, revisão ou superação; nenhum score deveria funcionar como tatuagem burocrática; nenhuma previsão deveria envelhecer sem perder força; nenhuma instituição deveria acumular dados infinitamente e tratá-los com o mesmo peso independentemente de contexto e tempo; a memória perfeita pode ser tão injusta quanto o esquecimento absoluto, porque uma sociedade sem capacidade de esquecer perde também a capacidade de reconhecer transformação; Friedrich Nietzsche (1844–1900) compreendeu o valor vital do esquecimento; Paul Ricoeur (1913–2005) mostrou a relação entre memória, narrativa, perdão e identidade; Hannah Arendt (1906–1975) ofereceu, com a natalidade, a forma filosófica mais forte daquilo que o direito ao futuro aberto pretende proteger: a capacidade de começar algo que não estava contido no que veio antes; isso não significa que todos conseguirão começar de novo nem que o passado desapareça, mas que nenhuma instituição deveria tornar a mudança juridicamente impossível simplesmente porque seu modelo a considera improvável; o indivíduo precisa conservar o direito de contradizer estatisticamente o próprio passado; essa formulação talvez condense a questão inteira: se alguém possui determinada probabilidade de reincidência, deve ter oportunidade real de não reincidir; se possui determinado risco de inadimplemento, deve ter algum caminho para demonstrar capacidade; se foi classificado como vulnerável ou incapaz, precisa existir possibilidade de reavaliação; se uma medida preventiva foi imposta, deve haver critérios claros para cessação; sem isso, o direito não administra risco, administra identidades; e quando identidades são administradas por prognósticos, a liberdade começa a ser reduzida antes mesmo de qualquer escolha; por isso, a presunção de inocência precisa adquirir dimensão prospectiva: não apenas “ninguém será considerado culpado por aquilo que não foi provado”, mas também “ninguém será tratado como responsável pelo que ainda não fez apenas porque um sistema considera provável que faça”; essa extensão não impede atuação diante de perigo concreto e iminente, mas impede a transformação de generalizações em culpa antecipada; exige que o direito suporte parte da incerteza inevitável da vida social em vez de transferi-la integralmente para o sujeito; essa talvez seja uma das características mais fundamentais do constitucionalismo: o poder não pode eliminar todos os seus riscos às custas da liberdade dos indivíduos, porque viver numa sociedade de pessoas livres significa aceitar que nenhum sistema saberá antecipadamente tudo o que cada pessoa fará; eliminar inteiramente essa incerteza exigiria eliminar também a autonomia, a espontaneidade, a privacidade e a própria abertura da ação; o ideal de uma sociedade absolutamente segura tenderia, levado ao limite, ao ideal de uma sociedade absolutamente previsível, e uma sociedade absolutamente previsível exigiria seres humanos transformados em objetos administráveis; justamente por isso, a segurança juridicamente legítima precisa reconhecer uma margem de contingência como preço da liberdade; o direito pode estabelecer regras, responder a fatos, prevenir perigos suficientemente individualizados, exigir garantias, fiscalizar atividades, interromper processos concretamente danosos e usar conhecimento estatístico para planejar políticas, mas não pode pretender conhecer antecipadamente o conteúdo moral de todas as biografias; a diferença é fundamental entre governar riscos e governar pessoas como riscos; no primeiro caso, instituições administram condições de possibilidade de dano; no segundo, indivíduos tornam-se eles próprios o perigo a ser administrado; é exatamente nesta segunda passagem que a racionalidade preventiva ameaça tornar-se uma ontologia da suspeita; daí a necessidade de preservar a primazia do fenômeno: antes de qualquer classificação existe algo que aconteceu ou não aconteceu; antes de qualquer score existe uma pessoa; antes de qualquer previsão existe uma incerteza; e antes de qualquer consequência deve existir uma justificativa capaz de atravessar todas essas camadas sem substituí-las; uma Reconstrução Fenomenológica Aplicada a esse campo exigiria começar pelo fenômeno concreto, separar fatos de inferências, identificar todas as mediações entre dado e decisão, expor premissas ocultas, distinguir correlação de causalidade, testar a pertinência individual da estatística, verificar alternativas, medir reversibilidade, localizar o autor normativo da decisão e submeter a conclusão a um teste de resistência: se retirarmos a previsão, ainda existe fundamento concreto suficiente? se mudarmos a classe de referência, a conclusão permanece? se a variável principal for apenas proxy, a decisão resiste? se o indivíduo apresentar fatos novos, a classificação pode mudar? se ninguém consegue explicar o modelo, é possível exercer contraditório? se o prognóstico estiver errado, o dano imposto é reparável? se a mesma consequência pudesse ser obtida por meio menos restritivo, por que se escolheu este?; uma decisão que não sobreviva a essas perguntas não é fortalecida pelo fato de possuir porcentagens; apenas esconde sua fragilidade sob uma aparência de precisão; o número não purifica a premissa; uma correlação de seis casas decimais continua incapaz de transformar o provável em necessário; e exatamente aqui aparece a diferença entre inteligência estatística e prudência jurídica: a primeira procura melhorar a previsão; a segunda pergunta se, mesmo diante de boa previsão, existe direito de agir daquela maneira; ambas são necessárias, mas uma não substitui a outra; talvez a sociedade tecnologicamente madura seja justamente aquela capaz de conhecer mais sem presumir que, por conhecer mais, adquiriu automaticamente o direito de controlar mais; talvez o progresso jurídico diante da inteligência artificial não consista em tornar todo julgamento automatizado, mas em descobrir aquilo que não deve ser delegado à previsão; talvez o desafio não seja construir um algoritmo que saiba com perfeição quem irá falhar, mas construir instituições que saibam o que fazer com a possibilidade de falha sem destruir aquele que ainda pode contrariá-la; nesse sentido, o direito ao futuro aberto torna-se algo maior que uma proteção contra algoritmos: torna-se uma afirmação antropológica mínima segundo a qual o ser humano não pode ser juridicamente reduzido à soma de seus antecedentes, à classe de referência em que foi colocado, à frequência observada entre semelhantes ou à trajetória que uma máquina projeta para ele; ele permanece alguém a quem uma norma pode ser dirigida precisamente porque ainda pode agir; alguém a quem se pode imputar precisamente porque, até certo ponto juridicamente relevante, reconhecemos que sua ação não era mero desdobramento inevitável de sua classificação; alguém que pode mudar, prometer, responder, reparar, reincidir ou não reincidir, falhar ou surpreender, persistir ou romper; e essa margem de possibilidade não é defeito do direito que a tecnologia deva corrigir, mas condição da própria ideia de responsabilidade; um sistema que soubesse infalivelmente o que cada pessoa faria talvez não precisasse de responsabilidade no sentido clássico, porque administraria causalidades; enquanto vivermos entre seres humanos, porém, continuaremos a lidar com agentes cuja ação emerge de história, condicionamentos, escolhas, relações, circunstâncias e contingências que nenhuma projeção esgota completamente; o direito deve, portanto, aceitar seu lugar temporal correto: pode olhar para trás para reconstruir, para o presente para decidir e para o futuro para prevenir, mas não pode inverter essas funções até julgar o futuro como se já fosse passado; quando fizer isso, deixará de atribuir consequências a acontecimentos e começará a atribuir acontecimentos a pessoas antes que eles existam; terá criado o homem condenado por aquilo que ainda não fez; e talvez o último limite contra essa transformação possa ser formulado da maneira mais simples: ninguém deve precisar viver dentro da sentença estatística escrita sobre a pessoa que talvez venha a ser; enquanto o fato não ocorreu, o futuro permanece aberto, e enquanto o futuro permanece aberto, a pessoa continua sendo mais do que aquilo que qualquer previsão consegue dizer sobre ela.