Até onde as máquinas substituirão os homens?

Leio a respeito dos computadores ajudando na tomada de decisões nos EUA. Mas e a qualidade e a sensibilidade dos dados? Como / quando podem ser interpretados corretamente?

Uma ótima discussão e subsídio pra o debate, extraídos de: https://epoca.globo.com/guilherme-amado/a-sociedade-nao-pode-ficar-escrava-de-maquinas-diz-especialista-em-uso-de-inteligencia-artificial-no-judiciario-24304579

A SOCIEDADE NÃO PODE FICAR ESCRAVA DAS MÁQUINAS

Joshua Walker fundou a primeira empresa a organizar a base de processos dos EUA

Além de recomendar sua próxima música ou série, a inteligência artificial também tem chegado aos tribunais, com a promessa de dar suporte a todos os lados: juízes, advogados, promotores, réus e vítimas.

Joshua Walker é um dos fundadores do Codex, centro da Universidade de Stanford especializado no tema, e da Lex Machina, a primeira empresa a organizar a base de processos judiciais dos Estados Unidos.

“Milhões de páginas podem se transformar em dezenas. Um acordo de compliance pode ser revisado oito vezes mais rápido com a ajuda de bases de dados”, afirmou, emendando que a palavra final deve ficar sempre com o ser humano, especialmente em processos que demandam sensibilidade e têm implicações graves.

“É o ser humano que deve decidir, no fim do dia. A sociedade não pode ficar escrava de máquinas. E é preciso transparência. Às vezes, um cientista de inteligência artificial pode não saber por que uma decisão foi tomada”, afirmou

Walker viria ao Brasil na semana que vem para debater o tema em São Paulo, na Fundação Getúlio Vargas, e no Rio, no escritório MJ Alves e Burle. A visita foi adiada por causa do coronavírus.

Leia a entrevista.

As máquinas vão tomar conta da Justiça?

Existe esse temor, mas isso não vai acontecer. Mesmo se pudéssemos chegar perto disso e ficar bons nisso, não iríamos querer isso. Não é possível nem desejável ter o sistema de Justiça feito só por máquinas. Quando alguém diz “inteligência artificial”, você deve pensar em “dados”. Assim, faz muito mais sentido. O uso de dados tem um impacto enorme no mundo todo, em diferentes contextos. Com inteligência artificial, temos um processamento de dados muito mais rápido. Mas o fator humano é essencial, principalmente na Justiça.

Bases de dados podem ajudar a desafogar uma Justiça lenta como a brasileira?

Sim. Essas reclamações não são só no Brasil, mas globais. Se você tem uma fábrica e não sabe quanta matéria-prima entra e quanto produto sai ao fim de cada dia, é uma loucura. Você precisa dessas informações. E a Justiça é muito mais importante e complicada do que isso. Juízes americanos usam a inteligência artificial para entender como um assunto tende a ser interpretado nos tribunais, qual sua jurisprudência. Isso não significa que os dados vão tomar a decisão no lugar dele. Em um caso sobre semicondutores, um assunto extremamente técnico, poderá te ajudar muito ter alguma ideia de como esse padrão funcionou em outras cortes. Há um ganho de efetividade. Outra informação possível é na análise de atuação de advogados e testemunhas em outros processos. Se os juízes podem ser ajudados por dados para casos mais burocráticos, como os comerciais, podem ter mais tempo para analisar casos criminais ou constitucionais. É uma economia de tempo.

Os cidadãos devem ter o direito de saber como uma base de dados foi usada para ser classificado em um banco, ou ter um caso julgado? Como fica a transparência?

Sim, esse é um ótimo ponto. Às vezes, um cientista de inteligência artificial pode não saber por que uma decisão foi tomada. E pode ser algo de vida ou morte. Temos de saber o porquê. Outros sistemas podem fazer a checagem. Mas você não deveria usar inteligência artificial para tomar uma decisão de vida ou morte. Tudo o que você pode fazer é usar essas ferramentas para interpretar dados. É o ser humano que deve decidir, no fim do dia. A sociedade não pode ficar escrava de máquinas.

Como equilibrar fator humano e ciência em casos sensíveis, como a disputa judicial pela guarda de um filho pequeno?

A sensibilidade é algo único do ser humano, e a inteligência artificial deve dar suporte a isso. Se o juiz se livra de tarefas burocráticas, ele ganha mais tempo para se concentrar nas decisões em casos tão sensíveis. No começo, quando vendíamos nossa ferramenta de inteligência artificial, não usávamos o termo “inteligência artificial”. Ressaltávamos que era História. E aqueles que não sabem sua história estão fadados a repeti-la. Com dados, você pode observar padrões em inúmeros casos e corrigir erros em massa. Pode salvar vidas e impulsionar a economia.

Em que situação a inteligência artificial foi um sucesso?

Em 1994, houve um genocídio em Ruanda. Cerca de um milhão de pessoas foram assassinadas. Eu fui chamado para ajudar nesses casos. Mas não havia base de dados. Tínhamos milhões e milhões de documentos, mas nenhuma maneira de acessá-los. Os procuradores e a polícia de vários países levaram centenas de horas somente para obter informações muito básicas de evidências e testemunhas. Então, construímos um sistema do zero. Usamos uma base de dados apenas com o Microsoft Word, inicialmente. Não havia muita tecnologia. A base de dados batia exatamente com o que tínhamos. As pessoas, as provas, as sentenças. Assim, investigadores conseguiram convencer os tribunais de um modo muito efetivo. Não por causa da base de dados, mas a base de dados fez o trabalho muito mais organizado, rápido e melhor. Em vez de milhões de páginas, tínhamos uma acusação de onze páginas, com todas as evidências possíveis. Para mim, foi uma das maiores experiências com dados para os tribunais. Depois, fui procurado por juízes dos casos se eu poderia fazer o mesmo por ele, mas não tive tempo.

E um fracasso?

Uma vez, um juiz nos deu acesso a milhares de arquivos de pessoas presas, para checagem. Havia questões de vida ou morte. Nunca pudemos fazer o trabalho. Não tínhamos um mandato nem recursos para terminar a análise criminal, nas petições de habeas corpus. Para mim, foi a maior falha. Além da parte econômica, devemos fazer o bem para a sociedade. Foi uma falha não pelo uso de dados, mas pela falta dele. Nós tivemos uma oportunidade de ajudar detentos e juízes, mas não possuíamos a autorização para isso.

Em que nível está a inteligência artificial na Justiça dos Estados Unidos?

Não estamos mais no início precoce da inteligência artificial no Direito. Eu diria que estamos no segundo quarto da maturidade, chegando à metade. Hoje, há várias alternativas claras para usar essas ferramentas em disputas judiciais e análises de sentenças e contratos. Uma revisão de acordo de compliance pode ficar oito vezes mais rápida e efetiva. Claro que ainda há uma checagem humana, mas é uma mudança real.

Quando essa maturidade será alcançada?

Nunca chegaremos ao fim desse processo. É como a evolução de uma empresa como a Apple. Nunca terminará. A maneira com que você obtém progresso nessa área, ironicamente, é sendo muito humilde. Você tem de assumir que todas as coisas podem desandar e que os dados são caóticos. Só assim você pode construir sistemas que funcionem algo como 98% do tempo. Nos nossos sistemas, temos muitas checagens e testes humanos.