Da ética de fachada ao compliance cosmético – Jornal da USP

A multiplicação de princípios éticos para a IA não se traduziu, na mesma medida, em práticas concretas, e tende a desviar a atenção daquilo que de fato importa nos casos de incidentes e danos comprovados, isto é, quem paga a conta quando não há cadeias claras de responsabilidade e a accountability se perde. Quando Jobin, Ienca e Vayena mapearam o cenário global das diretrizes éticas, encontraram dezenas de documentos que convergiam, no plano retórico, em torno de um punhado de valores, transparência, justiça, privacidade e responsabilidade, mas divergiam profundamente quanto ao modo de implementá-los; e Mittelstadt mostrou que princípios, por si só, não bastam, pois lhes faltam os mecanismos de tradução, de verificação e de responsabilização que, na medicina e em outras profissões, dão aos princípios a sua força.

Thomas Metzinger deu a essa patologia o seu nome mais cru ao falar em ethics washing: a ética sem enforcement degenera em instrumento de marketing, e os comitês, os manifestos e os códigos de conduta convivem, sem fricção, com modelos de negócio inalterados. Foi Luciano Floridi quem a descreveu com mais precisão, ao distinguir o ethics washing, e por extensão o bluewashing, a maquiagem que confere verniz de responsabilidade sem a sua substância, na linha do greenwashing ambiental, daquilo que se denomina compliance cosmético, isto é, a conformidade que existe no papel e não na operação, feita do comitê que se reúne para ratificar, da política que se publica para exibir e do princípio que se proclama para tranquilizar, sem que nada na arquitetura efetiva do sistema mude.

Não por acaso, vozes como as de Timnit Gebru, Margaret Mitchell e Emily Bender vêm advertindo que boa parte das iniciativas de IA responsável funciona como narrativa reputacional que não altera incentivos econômicos nem a governança real. A ineficácia, portanto, não é acidental, mas estrutural, pois quem se avalia tende a aprovar-se, e a resposta, como o próprio Floridi antecipa, não está em mais discurso, e sim na verificação independente daquilo que hoje é apenas afirmado.

No fundo, o que está em jogo é o modo de poder que Rouvroy e Berns nomearam como governamentalidade algorítmica, um governo que opera pela predição de dados e pela modulação silenciosa de condutas, contornando a própria arena da deliberação política em vez de a enfrentar. É preciso, então, evitar um curto-circuito: o compliance anticorrupção clássico, que há décadas distingue o programa de integridade meramente formal daquele efetivo, dotado de avaliação de risco, monitoramento, canais de denúncia e consequência, pressupõe um sujeito que delibera, ao passo que a governamentalidade algorítmica opera justamente esvaziando-o. Transpor essa disciplina para a inteligência artificial é, por isso, passo pedagógico necessário, mas insuficiente, pois a integridade algorítmica não pode limitar-se ao controle de condutas humanas: precisa auditar as premissas invisíveis que moldam o próprio ambiente de decisão, antes que qualquer conduta chegue a ser formulada. É esse passo mais fundo que separa a conformidade cosmética da governança substantiva.

Vale precisar o que essa disciplina madura já oferece, para não a transpor de modo vago. O compliance contemporâneo aprendeu, no combate à corrupção, a distinguir o programa efetivo do meramente decorativo por pilares verificáveis: o comprometimento da alta direção, o tone from the top; a avaliação periódica de riscos; o código de conduta; os canais de denúncia; o treinamento e o monitoramento; e o modelo das três linhas de defesa. São os critérios que o Departamento de Justiça norte-americano, a norma ISO 37301 e, no Brasil, a Lei 12.846/2013 e o Decreto 11.129/2022 consagraram, e que o arcabouço anticorrupção, do FCPA ao UK Bribery Act, já testou contra a engenhosidade de quem quer aparentar sem cumprir. Há, porém, uma razão mais funda pela qual a conformidade falha, e ela é comportamental antes de ser jurídica.

Yuval Feldman mostrou que a maior parte das violações não vem do vilão calculista, mas da ética limitada das pessoas comuns, que racionalizam pequenos desvios sob a pressão da arquitetura de escolha em que estão inseridas. Eugene Soltes, ao perguntar por que executivos cometem fraudes, encontrou menos cálculo frio do que distância psicológica do dano. E Donald Langevoort vem advertindo que o compliance corporativo tende a organizar-se para proteger a empresa e os seus executivos, e não para mudar comportamento.

A consequência é uma só: nenhum código, sozinho, basta, e a verificação precisa incidir sobre a estrutura, e não sobre a virtude.

________________
(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)