Criatividade, algoritmos e o poder da recomendação humana - Evgeny Morozov

folha de são paulo

De todas as startups que surgiram no ano passado, a Fuzz é certamente uma das mais interessantes, e das mais desconsideradas. Descrevendo-se como uma "rádio movida a pessoas" e completamente "livre de robôs", a Fuzz contraria a tendência a depender cada vez mais de algoritmos para descobrir novidades na música. Ao contrário das populares rádios de Internet que dependem de recomendações feitas por algoritmos, a Fuzz celebra o papel dos DJs humanos --usuários comuns que são convidados a subir as músicas de que gostam para o site e criar "estações de rádio" pessoais.

A ideia, ou talvez esperança, por trás da Fuzz é que curadores humanos possam oferecer alguma coisa de que um algoritmo não seria capaz. Como disse Jeff Yasuda, o fundador da companhia, à Bloomberg News, em setembro passado, "existe grande necessidade de experiências mediadas e de retornar à crença de que as recomendações mais convincentes vêm de seres humanos".

Mas embora o lançamento da Fuzz tenha despertado pouca atenção, o crescente papel dos algoritmos em todos os estágios da produção artística está se tornando impossível de ignorar.

Recentemente, esse papel foi destacado por Andrew Leonard, crítico de tecnologia do site "Salon", em um artigo intrigante sobre "House of Cards", a controvertida série que marca a estreia da Netflix na produção de programas de TV. O mito original da série já se tornou bem conhecido: tendo estudado os registros sobre o comportamento de seus usuários, a Netflix descobriu que uma versão norte-americana de "House of Cards", uma série britânica, poderia ser um grande sucesso, especialmente se o elenco contasse com Kevin Spacey e a direção coubesse a David Fincher.

"Será que o autor poderá sobreviver em uma era na qual algoritmos de computador são o painel de discussão soberano?", perguntou Leonard, imaginando de que maneira o imenso volume de dados recolhido pela Netflix junto aos usuários que assistiram à primeira temporada --quantas vezes eles apertaram o botão de pausa? - afetaria os futuros episódios.

Muitos outros setores enfrentam questões semelhantes. Por meio de seu leitor eletrônico Kindle, por exemplo, a Amazon recolhe vasto volume de informações sobre os hábitos de leitura de seus compradores; que livros eles terminam e que livros abandonam; que trechos dos livros são pulados e que trechos são lidos mais atentamente; com que frequência eles verificam determinadas palavras no dicionário, e quais são os trechos que eles costumam sublinhar.

Com base em todos esses dados, a Amazon é capaz de prever que ingredientes farão uma pessoa ler um livro até o fim. Talvez a companhia passe a oferecer finais alternativos --para deixar o leitor mais feliz. Como afirma um recente estudo acadêmico sobre o futuro do entretenimento, vivemos em um mundo no qual "as histórias podem se tornar algoritmos adaptativos, criando um futuro mais envolvente e interativo".

Da mesma forma que a Netflix descobriu que, tendo em vista o vasto volume de dados acumulados, seria tolo não ingressar no ramo de produção de filmes, a Amazon descobriu que seria tolo não ingressar no ramo editorial. O conhecimento da Amazon, porém, é mais profundo que o da Netflix, porque ela também opera um site no qual compramos livros, e isso lhe dá todas as informações de que precisa sobre o nosso comportamento como compradores e os preços que estamos dispostos a pagar. Hoje, a Amazon opera sete selos editorais, e planeja acrescentar novas marcas.

O setor de música, igualmente, adotou com avidez métodos parecidos, anos atrás, usando seus vastos bancos de dados sobre sucessos e fracassos do passado para prever se as músicas enviadas para possível produção tinham chance de se tornarem grandes sucessos. A vantagem nesse caso é evidente: o músico já não precisa de boas conexões pessoais --no passado um pré-requisito essencial para o sucesso-- se deseja obter um contrato; basta que tenha uma canção que, baseada em passadas tendências, indique probabilidade de sucesso.

Mas a desvantagem é igualmente evidente: podemos terminar com canções muito chochas, todas altamente parecidas. Como afirma George Steiner em "Automate This" (2012), técnicas como essas podem "nos trazer novos artistas, mas porque baseiam seu julgamento naquilo que foi popular no passado, provavelmente teremos o mesmo pop esquecível que já temos. Que tantos anos de música morna estejam incluídos na análise é um problema claro dessa tecnologia".

O supercomputador Watson, da IBM, já está vasculhando milhares de documentos judiciais e médicos a fim de conduzir avaliações que advogados e acadêmicos seriam incapazes de realizar --ou ao menos não se tivessem de avaliar tamanho volume de material. Se o objetivo é analisar aquilo que vendeu bem no passado e tentar prever, com base em todos esses influxos de dados, o que tem chance de vender bem no futuro, seria fácil expandir o uso do Watson à música, filmes e livros.

Infelizmente, essa expansão, embora beneficie as vendas, pode prejudicar a inovação cultural. Será que o Watson teria sido capaz de prever --se já existisse então-- a ascensão da pintura impressionista, a da poesia futurista ou a do cinema da Nouvelle Vague? Teria aprovado Stravinsky? Um sistema Big Data provavelmente não teria apostado no dadaísmo.

Para compreender os limites e oportunidades que os algoritmos oferecem, no contexto da criação artística, precisamos compreender que esta última em geral consiste de três elementos: descoberta, produção e recomendação. Empresas iniciantes como a Fuzz cuidam do último elemento --a recomendação-- com a esperança de que haja quem prefira recomendações humanas a algoritmos.

A FiveBooks aplica um modelo semelhante aos livros; nesse caso também a lógica é a de que os seres humanos podem oferecer resultados melhores que os algoritmos. A Amazon oferece ótimas recomendações, mas a FiveBooks, com recomendações de livros seletas apresentadas por pessoas como Paul Krugman, Harold Bloom e Ian McEwan, joga em outra divisão. O segmento de recomendações é aquele no qual as recomendações humanas e as de algoritmos provavelmente poderão conviver, ao menos pelo futuro previsível, enquanto os usuários encontram o balanço ideal entre as duas.

Mas quando se trata de descobrir novos talentos e da produção subsequente de seus trabalhos, as coisas parecem muito mais sombrias. Afinal, a recomendação só importa se existir grande arte a recomendar. Se essa arte é selecionada com base em sua probabilidade de repetir o sucesso de passadas escolhas, e se ela for produzida com base nas reações imediatas da audiência, as vendas podem crescer mas quais serão as chances de que surja algo de verdadeiramente radical, de toda essa parafernália de vendas?

Em dezembro de 2012, o "Global Times", um jornal chinês que circula em inglês, publicou um artigo sobre a Bear Warrior, uma banda punk local que descobriu uma maneira engenhosa de medir a reação da audiência às suas canções. O vocalista é aluno de pós-graduação em uma universidade de Pequim, e está se especializando em instrumentos de precisão; por isso, projetou um aparelho chamado "POGO Thermometer" para medir a intensidade da dança da audiência por meio de uma série de sensores instalados em um tapete estendido no piso da casa de shows. Os sinais são em seguida transmitidos a um computador central e analisados detalhadamente.

De acordo com o "Global Times", a banda constatou que os fãs "começavam a mover seus corpos quando a bateria entra, e dançavam com mais energia nos agudos do vocal". Nas palavras do vocalista, "os dados nos ajudam a compreender como melhorar nosso desempenho e fazer a audiência responder à nossa música da maneira que pretendemos".

Talvez isso ajude mesmo a melhorar o desempenho, mas desde quando o punk é assim bonzinho? Fazer a audiência feliz é coisa que obceca consultores de gestão, não músicos punk. O Sex Pistols só teria um uso para o tapete equipado com os sensores, e podem ter certeza de que não envolveria os sensores. Mas o Sex Pistols, desconsiderando o retorno imediato, iniciou uma revolução, enquanto o Bear Warrior na melhor das hipóteses vai lançar uma carreira.

Tradução de Paulo Migliacci

Evgeny Morozov é pesquisador-visitante da Universidade Stanford e analista da New America Foundation. É autor de "The Net Delusion: The Dark Side of Internet Freedom" (a ilusão da rede: o lado sombrio da liberdade na internet). Tem artigos publicados em jornais e revistas como "The New York Times", "The Wall Street Journal", " Financial Times" e "The Economist". Lançará em 2012 o livro "Silicon Democracy" (a democracia do silício). Escreve às segundas-feiras, a cada quatro semanas, no site da Folha.

• Leia as colunas anteriores

Evgeny Morozov

folha de são paulo

Empréstimos para todos - mas a que preço?

EVGENY MOROZOV
ESPECIAL PARA A FOLHA

Entre as muitas e exageradas promessas feitas pelos proponentes do modelo "big data", a possibilidade de que ele um dia venha a propiciar empréstimos - e históricos de crédito - a milhões de pessoas hoje desprovidas disso parece razoavelmente plausível.
Mas que preço --em termos de privacidade e livre arbítrio (para não mencionar taxas de juros exorbitantes)-- esses novos devedores terão de pagar?
Num passado nem tão distante, a falta de dados confiáveis sobre os candidatos a empréstimos desprovidos de históricos financeiros não deixava aos bancos outra resposta que não enquadrar a todos na categoria de apostas de alto risco. Como resultado, essas pessoas ou recebiam ofertas de empréstimos a juros altíssimos ou tinham suas solicitações rejeitadas.
Graças à proliferação das mídias sociais e dos aparelhos inteligentes, o Vale do Silício está se afogando em dados. Embora boa parte desses dados não tenha conexão evidente com as finanças, alguns ainda assim podem ser usados para projeções confiáveis sobre o estilo de vida e a sociabilidade do usuário.
Como resultado, uma nova geração de empresas especializadas no uso de dados começa a empregar algoritmos que vasculham esses dados a fim de distinguir os devedores confiáveis daqueles cuja probabilidade de calote seja alta, e calculam o preço dos empréstimos com base nisso.
Algumas --como a Lenddo, de Hong Kong, que no momento opera nas Filipinas e Colômbia-- o fazem avaliando as conexões do usuário no Facebook e Twitter. A chave para obter um empréstimo da Lenddo é ter um grupo de indivíduos de alta confiabilidade como parte de sua rede social.
Se essas pessoas se responsabilizarem pelo solicitante e este receber o empréstimo, os amigos que o referenciaram receberão atualizações sobre o pagamento do empréstimo.
(No passado, a Lenddo ameaçava até notificá-los em caso de problemas no pagamento, o que garantiria o máximo de pressão social.)
De maneira semelhante, a LendUp, dos Estados Unidos, que oferece empréstimos de curto prazo com altas taxas de juros mas permite que os clientes adotem planos com prazo e condições de pagamento melhores em transações posteriores, estuda as atividades de mídia social para garantir que dados factuais fornecidos nos formulários de solicitação sejam compatíveis com o que se pode inferir do Facebook e Twitter.
A mídia social é a apenas a ponta do iceberg. A Wonga, uma companhia de empréstimos de curto prazo altamente ambiciosa sediada em Londres, leva em conta até o horário de um pedido de empréstimo e o percurso do solicitante dentro de seu site para determinar se lhe concede ou não o dinheiro (a companhia rejeita dois terços dos primeiros pedidos). A Kreditech, uma companhia alemã que quer prestar "classificação de crédito como serviço", leva em conta 8.000 indicadores, tais como "dados de localização (GPS, microgeográficos), gráfico social (gostos, amigos, localização, posts), análise comportamental (movimento e duração de página de Web), comportamento no comércio eletrônico e dados do aparelho (apps instalados, sistemas operacionais).
As pessoas desprovidas de celulares inteligentes ou contas no Twitter não precisam se desesperar. Podem não ter um iPhone, mas é provável que tenham um celular simples --e ele representa fonte de dados com grande valor previsor. É desta maneira que a Safaricom, maior operadora de telefonia móvel da África do Sul, estuda com que frequência seus assinantes recarregam seus aparelhos; a regularidade do uso de serviços de voz; e a frequência de uso dos serviços de transferência de fundos via celular.
Quando a confiabilidade do usuário está estabelecida, a Safaricom pode operar como banco e emprestar-lhe dinheiro. E isso não se limita às operadoras de telefonia móvel. A Cignifi, uma startup norte-americana, usa a duração de chamadas, horário das conversas e localização dos participantes como indicadores de estilo de vida --e com isso confiabilidade-- dos candidatos a empréstimos nos países em desenvolvimento.
Todas essas empresas iniciantes têm por base a sensata premissa de que os atuais modelos de avaliação de crédito se concentram em número excessivamente pequeno de indicadores, o que exclui muitos potenciais solicitantes que pagam suas contas em dia mas não têm longos históricos de crédito (ou histórico algum).
Os serviços de "big data" poderão separar os folgados das pessoas que realmente merecem empréstimos com termos melhores. O objetivo, portanto, seria obter o máximo possível de dados, o que incluiria, talvez, estimular os solicitantes a revelar o máximo possível de informações pessoais. Em outro dos intrigantes paradoxos da vida moderna, os ricos gastam dinheiro em dispendiosos serviços que protegem sua privacidade e melhoram sua posição nos retornos de busca do Google, enquanto aos pobres resta pouca escolha a não ser abrir mão da privacidade em nome da mobilidade social.
Google e Facebook são muitas vezes mencionados como modelos a imitar, nesse ramo. Como disse Douglas Merill, ex-vice presidente de informação do Google em fundador da ZestFinance, uma empresa que usa técnicas de "big data" para avaliar históricos de crédito, em entrevista ao "New York Times" no ano passado, "sentimos que a vida inteira de uma pessoa é um histórico de crédito, mas ainda não sabemos como usar esses dados. Foi essa a matemática que aprendemos com o Google. Uma página importa pelo que está nela mas também pela qualidade de sua escrita, pela fonte tipográfica usada, pela data de criação ou mais recente alteração. Tudo importa".
Para esse fim, a ZestFinance observa 70 mil sinais e alimenta com eles dez diferentes modelos de subscrição, para avaliação de riscos. Os resultados desses modelos são então comparados - em frações de segundo - e o perfil de risco do solicitante é gerado.
Tudo isso soa maravilhoso e essas empresas iniciantes parecem ser comandadas por empreendedores sociais que desejam tornar o crédito mais acessível para as massas.
(Isso posto, o ramo não deixa de gerar controvérsias: empresas de empréstimos de curto prazo como a Wonga foram acusadas de postar anúncios em apps de jogos infantis, de direcionar ofertas predatórias de empréstimos a universitários e de contratar funcionários de governos para ajudá-las a resistir ao crescente interesse das autoridades regulatórias por suas atividades.)
A questão que quase todos continuam a evitar nesse setor aparentemente benévolo, no entanto, é o que acontece quando essas empresas, tendo percebido que todos os dados são dados de crédito, perceberem também que todos os dados são dados de marketing, afinal?
Tendo em vista tudo que sabem sobre os clientes, seria tentador para essas companhias de empréstimos não apenas usar os dados de que dispõem para oferecer novos empréstimos aos clientes existentes mas também tentar convencê-los a usar empréstimos para, por exemplo, comprar alguma coisa on-line.
(A Wonga, por exemplo, recentemente iniciou uma parceria com uma companhia de móveis que dá aos clientes da companhia a opção de comprar móveis e pagá-los mais tarde e em prestações - cortesia da Wonga e de suas altíssimas taxas de juros.)
Tendo em vista o grande conhecimento que elas têm sobre seus clientes, as companhias podem aperfeiçoar a arte oculta da persuasão e manipulação de maneiras que as agências de publicidade tradicionais mal conseguiriam imaginar. A LendUp, cofundada por um ex-executivo da gigante dos jogos on-line Zynga, já usa técnicas usualmente associadas aos videogames para recompensar os clientes que paguem seus empréstimos em dia. Será que não seria possível usar esse tipo de técnica para convencê-los a solicitar mais empréstimos?
Muitos dos protagonistas do setor até o momento desconsideram os riscos morais. Como disse o fundador da Wonga ao jornal "Jewish Chronicle", no ano passado, ele não acredita que seja possível convencer pessoas a tomar emprestado dinheiro de que não precisam. "Nossos clientes têm um problema de fluxo de caixa e precisam de uma solução. Não estamos pedindo que aceitem crédito de que não precisam. Na internet, as vendas não vêm a você; você vai às compras. Não é como se alguém batesse à sua porta para lhe vender algo de que talvez não precise".
É preciso grande coragem - ou grave miopia - para argumentar que ninguém tenta nos vender coisas de que não precisamos na internet. (Estou falando de você, Amazon!) E especialmente se isso acontecer da parte de empresas que sabem mais sobre nós do que nossas famílias sabem, e ganham dinheiro ao nos convencer a tomar empréstimos para comprar coisas. Será que se trata da habitual ingenuidade do Vale do Silício? Ou temos a velha cobiça de Wall Street disfarçada em retórica tecnológica utópica?
Talvez seja mais que hora de as autoridades regulatórias começarem a pensar sobre maneiras de separar o uso de recursos de "big data" para avaliar a confiabilidade de crédito de alguém e a reutilização subsequente desses dados para a comercialização de novos produtos financeiros. Tornar empréstimos acessíveis a milhões de clientes que antes não conseguiriam obtê-los é um nobre objetivo. Mas viciá-los nesse tipo de empréstimos é o contrário disso.
Tradução de Paulo Migliacci

Evgeny Morozov é pesquisador-visitante da Universidade Stanford e analista da New America Foundation. É autor de "The Net Delusion: The Dark Side of Internet Freedom" (a ilusão da rede: o lado sombrio da liberdade na internet). Tem artigos publicados em jornais e revistas como "The New York Times", "The Wall Street Journal", " Financial Times" e "The Economist". Lançará em 2012 o livro "Silicon Democracy" (a democracia do silício). Escreve às segundas-feiras, a cada quatro semanas, no site da Folha.