Ei, Cientistas da Computação! Parem de odiar as Humanidades

Publicada por Emma Pierson, na seção Science para a Revista Wired em 24 de Abril de 2017. Traduzido por Carlos Diego Cavalcanti. Artigo original disponível em: https://www.wired.com/2017/04/hey-computer-scientists-stop-hating-humanities

Como um estudante de PhD em Ciência da Computação, eu sou um discípulo do Big Data. Não vejo nenhum terreno sagrado demais para as estatísticas: usei-o para estudar tudo, de Sexo a Shakespeare, e ganhei reações furiosas por essas tentativas de tornar a matemática inefável. Em Stanford, quando adolescente, eu recebia armas igualmente elegantes e letais – algoritmos que poderiam escolher os terroristas mais valiosos em uma rede, assim como detectar a insatisfação de alguém com o governo através sua escrita on-line.

A ciência da computação é maravilhosa. O problema é que muitas pessoas no Vale do Silício acreditam que isso é tudo o que importa. Você vê isso quando os recrutadores deixam claro que eles só estão interessados nos cientistas da computação; na diferença salarial entre estudantes de engenharia e não engenharia; no olhar preocupado dos estudantes das áreas de humanas quando ousam em revelar suas formações. Eu vi brilhantes cientistas da computação exibirem total ignorância quanto as populações que estavam estudando e eu ri da cara deles. Eu vi cientistas militares apresentarem suas inovações letais com entusiasmo infantil, sem fazer menção contra quem as armas estão sendo usadas. Há poucas coisas mais assustadoras do que um cientista com uma conversa acadêmica sobre como atirar em um ser humano, mas que não pode raciocinar sobre se você sequer deveria atirar em alguém.

O fato de tantos cientistas da computação serem ignorantes ou desdenhosos das abordagens não técnicas é preocupante porque, no meu trabalho, estou constantemente confrontando questões que não podem ser respondidas com programação. Quando eu programei na Coursera, uma empresa de educação on-line, desenvolvi um algoritmo que recomendaria aulas às pessoas com base no seu gênero. Mas a empresa decidiu não usá-lo quando descobrimos que iria afastar as mulheres das aulas de ciência da computação.

Acontece que esse efeito – onde os algoritmos constroem as disparidades sociais – é aquele que ocorre dos domínios da justiça criminal à pontuação de crédito. Este é um dilema difícil: na justiça criminal, por exemplo, você está confrontado com o fato de que um algoritmo que preenche desequilíbrios estatísticos básicos, também tornará muito mais provável que réus negros sejam considerados de alto risco, mesmo quando eles não vão cometer outro crime.

Eu não tenho uma solução para este problema. Eu sei, no entanto, que eu não vou encontrá-la no meu livro de algoritmos; é bem possível que eu encontre fatos relevantes no trabalho de Ta-Nehisi Coates sobre discriminação sistêmica ou de Michelle Alexander sobre o encarceramento em massa.

Meus projetos pessoais de programação apresentaram questões éticas espinhosas. Devo escrever um programa de computador que irá baixar as publicações de milhares de adolescentes que sofrem de transtornos alimentares, e publicá-las em um site de aconselhamento sobre anorexia? Devo escrever um programa para postar mensagens anônimas e suicidas em centenas de fóruns universitários para ver quais faculdades oferecem mais suporte e apoio a essas vítimas? Minha resposta a essas perguntas, aliás, é um “não”. Mas eu pensei sobre isso. E a glória e o perigo dos computadores é que eles ampliam o impacto de seus caprichos: um impulso se torna um programa que pode ferir milhares de pessoas.

Talvez seja mais eficiente permitir que cientistas da computação façam o que fazemos melhor – escrever códigos – e deixarmos que outras pessoas regulem nossos produtos? Isso não é suficiente. Os programadores desenvolvem produtos em uma velocidade enorme, muitas vezes com segredos industriais; até lá, quando a legislação chegar, milhões de pessoas já poderiam ter sido prejudicadas. A formação ética é necessária para os profissionais em outros campos, em parte, porque é importante para médicos e advogados serem capazes de agir de forma ética, mesmo quando ninguém está olhando sobre seus ombros. Além disso, os cientistas da computação precisam ajudar a elaborar regulamentações, já que possuem os conhecimentos técnicos necessários; é difícil regular o viés algorítmico em “embarcados” quando você sequer tem idéia do que a palavra “embarcado” quer dizer nesse contexto.

Repita comigo: os seres humanos usam a Internet, não algoritmos! Aqui estão alguns passos seguintes. Universidades devem começar com uma formação mais ampla para estudantes de ciência da computação. Entrei em contato com oito dos melhores programas de graduação em ciência da computação e descobri que a maioria não exige que os alunos façam um curso sobre questões éticas e sociais em ciência da computação (embora alguns ofereçam cursos opcionais). Esses cursos são difíceis de ensinar bem. Os cientistas da computação muitas vezes não os levam a sério, ficam desconfortáveis com o pensamento não-quantitativo, são excessivamente confiantes porque são matematicamente brilhantes, ou estão convencidos de que o utilitarismo é a resposta para tudo. Mas as universidades precisam tentar. Professores precisam assustar seus alunos, para fazê-los sentir que suas habilidades não apenas podem fazê-los ricos, como também fazê-los destruir vidas; eles precisam ensiná-los a serem humildes, fazê-los perceberem que por melhor que possam ser em matemática, ainda há muito que eles não sabem.

Um currículo mais focado socialmente não só faria com que os programadores fossem menos propensos a causar danos; ele também pode torná-los mais propensos a fazer o bem. As melhores escolas desperdiçam muito do seu talento técnico em atividades socialmente inúteis, de alto salário, como negociação algorítmica. Como Andrew Ng, um cientista da computação de Stanford, advertiu um grupo de estudantes de Stanford que ele estava tentando recrutar para a Coursera: “Você tem que perguntar a si mesmo, por que eu estudo ciência da computação? E para muitos estudantes, a resposta parece ser “para poder projetar o mais novo aplicativo de mídia social”. Eu acredito que podemos construir coisas mais significativas do que isso.“

Há muitas etapas que as empresas de tecnologia devem seguir também. As organizações devem explorar as questões sociais e éticas de seus produtos: Google e Microsoft, inclusive, merecem crédito por pesquisar discriminação algorítmica, por exemplo, e Facebook por investigar câmaras de eco. Tornar mais fácil para os pesquisadores externos avaliarem os impactos de seus produtos: ser transparente sobre como seus algoritmos funcionam e fornecer acesso a dados sob acordos de uso de dados apropriados. (Os pesquisadores também precisam ser autorizados a auditar algoritmos sem serem processados.) Fazer perguntas sociais ou éticas na contratação de entrevistas, não apenas algorítmicas; se os gerentes responsáveis pelo recrutamento perguntarem, os alunos devem saber responder. (O CEO da Microsoft foi perguntado uma vez, em uma entrevista técnica, o que ele faria se ele visse um bebê deitado em um cruzamento: a resposta óbvia para pegar o bebê não ocorreu a ele).

As empresas devem contratar as pessoas prejudicadas ou excluídas por seus produtos: cujos rostos seus sistemas de visão por computador não reconhecem e seus sorrisos emojis não capturam, cujos currículos se classificam como menos relevantes e cujas opções de moradia são limitantes, os Trolls, cujos produtos ajudaram a organizar e dar voz, esses mesmos produtos devem ter como controlar. Contrate cientistas não-informáticos e traga-os para as conversas do almoço; que eles desafiem a visão de mundo da força de trabalho.

É possível que ao escutar não-cientistas da computação, a máquina do Vale do Silício seja retardada: diversas visões de mundo podem produzir argumentos. Mas diminuir a velocidade em lugares onde pessoas razoáveis podem discordar é uma coisa boa. Em uma era onde mesmo as eleições são ganhas e perdidas em campos de batalha digitais, as empresas de tecnologia precisam se mover menos rápido e quebrar menos coisas.

Anúncios