Psycho Pass e o preço da perfeição

Para ouvir com a leitura:

Psycho Pass é um anime estreado em 2012, produzido pelo estúdio Production I.G e com roteiro de Gen Urobuchi que se passa em um Japão futurista dominado pelo sistema Sybil. O foco da história é na protagonista Akane Tsunemori que foi escolhida para ser a mais nova Inspetora do Departamento de Segurança Pública do Ministério do Bem-Estar.

Sistema Sybil

O sistema Sybil funciona analisando o estado mental e psicológico de cada indivíduo para avaliar sua propensão à criminalidade. Quanto maior o coeficiente criminal (mais turvo e escuro o tom da leitura), maior o perigo que aquele indivíduo representa para a sociedade.

Se o seu valor ultrapassa determinado limite, você pode ser detido, internado compulsoriamente ou até mesmo eliminado. Porém você não precisa ter cometido crime algum, apenas a intenção já é suficiente para te condenar.

Sobre Psycho Pass

Inspetores e Executores trabalham em conjunto, onde os Inspetores são cidadãos exemplares responsáveis por supervisionar esses criminosos latentes que trocaram suas penas para serem realocados. Ambos contam com a ajuda das Dominadoras, armas que conseguem medir o coeficiente criminal e decidem se irão paralisar ou eliminar os alvos, ou seja, o dedo no gatilho é do agente, mas a decisão é do sistema.

A ironia aqui é evidente: o Sybil usa quem considera perigoso para fazer o “trabalho sujo” e proteger aqueles que considera seguros. Ao mesmo tempo, Inspetores precisam garantir que os Executores não irão ultrapassar a linha que os separa dos alvos que estão caçando.

Uma das reflexões centrais é a pressão social para se manter dentro dos limites aceitáveis. Trabalhos, relacionamentos e outras escolhas de vida são recomendadas pelo sistema e tudo gira em torno de manter a ordem, previsibilidade e o bem-estar social. Qualquer mero problema poderia manchar sua cor, seja estresse, luto, raiva… e então vemos diversos personagens enlouquecendo lentamente para manter suas leituras dentro da normalidade.

O ponto mais interessante deste anime, é como em cada temporada é apresentado um problema do então dito sistema “perfeito” e como ele mesmo se “aprimora” com o desenrolar da trama. Mostrando as implicações de cada escolha, bem como suas qualidades e defeitos, expondo a fragilidade das decisões do Sybil.

Da ficção para a realidade

Podemos traçar um paralelo entre o anime e a nossa realidade, onde modelos preditivos de crime como o COMPAS dos Estados Unidos e o Sistema de Créditos Sociais Chineses estão servindo de apoio aos governos nas tomadas de decisões.

Problemática

O problema não está só no algoritmo, mas também nos resultados que ele produz. Na literatura isso é chamado de feedback loop (ciclo de retroalimentação), onde a saída de uma ação é usada como nova entrada para o processo, gerando um ciclo contínuo de avaliação e “melhoria”. Porém o problema é quando as informações de início são enviesadas, as respostas também são enviesadas: Garbage In, Garbage Out (Entra lixo, sai lixo)!

Um exemplo prático feito pela Agência dos Direitos Fundamentais da União Europeia simulou 2 bairros com a mesma taxa real de criminalidade, mas com distribuição inicial desigual de patrulhamento. Após 40 semanas, o modelo de IA utilizado havia concentrado 100% dos recursos policiais em apenas um deles, sem que na realidade nada tivesse mudado, sendo assim, o sistema aprendeu sua própria distorção e a tratou como verdade.

Casos como esse mostram que a busca por eficiência e previsibilidade nem sempre produz os resultados esperados, especialmente quando decisões complexas são terceirizadas para sistemas automatizados.

Será que um mundo tão previsível e organizado é realmente perfeito?
Até onde estamos dispostos a abrir mão da liberdade em função da segurança?

De olho nos dados:

Com mais de 1,7 milhão de avaliações, Psycho Pass se encontra atualmente com nota 8.32 no MyAnimeList (maior banco de dados de anime do mundo), sendo o 70º anime mais popular da plataforma.

O roteirista Gen Urobuchi é conhecido por obras como Puella Magi Madoka Magica e Fate/Zero, sendo um dos escritores mais influentes da animação japonesa contemporânea.