Por Cory Doctorow, Medium
A companhia aérea Delta anunciou um novo plano de preços de vigilância: vão alimentar uma IA com os dados pessoais recolhidos de forma não consensual que os corretores de dados e os gabinetes de crédito têm sobre si para prever o máximo que está disposto a pagar e, em seguida, fixar o preço dos seus bilhetes em conformidade.
Os corretores de dados detêm todo o tipo de dados sobre você, desde a informação "legítima" sobre todos os locais por onde o seu carro passou, a todos os pontos do espaço por onde passaram os rádios Bluetooth do seu telefone e auscultadores, a tudo o que comprou, a todos os sítios Web que visitou e a todas as pesquisas que efetuou. Também compram dados que lhe foram diretamente roubados por spyware implantado no vossotelemóvel. Tudo isto pode ser fundido num único ficheiro que você não tem o direito de escrutinar, muito menos de editar. O Gabinete de Proteção Financeira do Consumidor de Biden aprovou uma regra que proibia todas estas merdas, mas Trump eliminou ilegalmente essa regra.
A forma mais elevada de criatividade do capitalismo é encontrar formas de te roubar e as mentes mais criativas do mundo dos negócios encontraram um milhão de formas de explorar estes dados, incluindo a vigilância dos preços. Por exemplo, a McDonald's investiu na neozelandesa Plexure, que se oferece para ajudar os restaurantes a aumentar o preço do seu pedido habitual no dia de pagamento, quando pode pagar mais.
E também há as três grandes aplicações "Uber para enfermeiros", que utilizam dados de vigilância para calcular os salários dos enfermeiros, oferecendo taxas horárias mais baixas aos enfermeiros que têm muitas dívidas de cartões de crédito, alegando que estão demasiado desesperados para recusar uma oferta baixa. E tal como estas aplicações de trabalho por conta de outrem decidem quanto vale o seu trabalho, os sistemas de preços de vigilância decidem quanto vale o seu dinheiro, cobrando-lhe mais do que a outro cliente idêntico, por um produto idêntico, o que significa que o seu dólar vale menos do que o dólar desse outro cliente.
Agora temos a Delta, que promete fazer a mesma coisa, mas para os bilhetes de avião. Obviamente, a indústria da aviação há muito que pratica uma forma de "discriminação de preços", cobrando quantias radicalmente diferentes pelo mesmo lugar, com base na altura em que se compra o bilhete ou quando se planeia regressar. Mas isto é diferente e, para explicar porquê, eis um link para um artigo do grande Hubert Horan, que pode ser mais conhecido dos meus leitores pelas suas incríveis análises das finanças da Uber, mas cujo trabalho de vida é como analista de aviação
Horan estabelece uma distinção entre preços de vigilância e "discriminação de preços de segundo grau". Os preços de vigilância visam-te, pessoalmente, com base nas tuas informações pessoais. A "discriminação de preços de segundo grau" cobra o mesmo preço a toda a gente como tu: por exemplo, a toda a gente que compra um bilhete de ida e volta sem estadia no sábado à noite é cobrado um suplemento com o argumento de que é provavelmente um viajante de negócios insensível ao preço, cuja tarifa está a ser paga por uma empresa. Os preços de vigilância são uma discriminação de preços de primeiro grau, em que cada cliente vê um preço diferente. Horan argumenta que a discriminação de segundo grau criou eficiências, por exemplo, ao oferecer lugares baratos de última hora a pessoas que estão a pensar em viajar no fim de semana, que ocupam lugares que de outra forma ficariam vazios. Horan afirma que estas eficiências se esgotaram graças à aplicação de algoritmos de preços simples aos bilhetes.
A Delta quer obter mais lucros com a discriminação de preços, mas ao empregar a discriminação de primeiro grau, está a fazê-lo sem qualquer benefício para os passageiros (ao contrário da discriminação de segundo grau, que fez com que muitos passageiros fiquem em melhor situação porque conseguiram bilhetes mais baratos). Isto faz com que o preço de vigilância da Delta seja uma "transferência pura" - transferindo riqueza dos passageiros para os acionistas sem qualquer benefício para esses passageiros.
A Delta está a fazer isto em parceria com a israelita Fetcherr, cujo discurso de vendas nega que estejam a utilizar dados de vigilância para fixar o preço dos bilhetes, apesar do que a Delta afirmou. Horan especula que, pelo facto de a Fetcherr se apresentar como uma empresa de IA, a Delta pensa que pode impressionar os investidores alegando que vai subir os preços combinando vigilância (que se sabe ser uma forma de beneficiar as empresas à custa dos seus clientes) e IA, uma tecnologia cheia de propaganda que é infinitamente impressionante para investidores crédulos.
É um mistério a forma como a Fetcherr planeia fazer a fixação de preços de vigilância sem vigilância. Horan salienta que os fundadores da empresa provêm de fundos de retorno absoluto, onde são utilizados rotineiramente robôs de IA automatizados de alta velocidade alimentados por toneladas de dados de mercados públicos. Ele acha que é possível que "o Fletchrr não entenda muito bem os preços das companhias aéreas". Além disso, sendo irmãos financeiros, pensavam que "as companhias aéreas estavam 'desatualizadas', 'sem perturbações' e tinham visto poucos avanços tecnológicos recentes". Mas, continua Horan, a razão pela qual as companhias aéreas não estão a fazer muito com os seus preços algorítmicos é que já fizeram tudo, tendo sido pioneiras neste campo.
A explicação preferida de Horan para a desconexão entre o que Fetcherr e a Delta afirmam estar a fazer é que, por um lado, querem ocultar o facto de estarem a praticar preços de vigilância (para evitar o escrutínio regulamentar e a reação dos consumidores), mas, por outro lado, querem telegrafar (aos investidores) que é exatamente isso que estão a fazer. É o que a Uber já faz, reavaliando o preço do trabalho dos seus motoristas com base no seu desespero económico e o custo da sua tarifa com base no que o dossier de vigilância sugere que está disposto a pagar. É certo que aumentou as margens da Uber - ao efetuar uma transferência pura e simples dos passageiros e condutores para os acionistas.
Mas as viagens na Uber são compras de última hora e em pequenos montantes, o que diminui a probabilidade de um passageiro fazer compras antes de reservar. Pelo contrário, diz Horan, a maioria dos passageiros compra com bastante antecedência, em sítios de viagens online que lhes mostram muitos preços concorrentes.
Uma coisa que Horan não menciona aqui é que a British Airways acabou de fazer uma reformulação completa do seu programa de passageiro frequente para penalizar severamente qualquer pessoa que compre bilhetes num desses sites, exigindo efetivamente que os seus passageiros comprem no BA.com. Por exemplo, reservei um bilhete de 300 dólares para a Alaska Airlines no sítio Web da Alaska, utilizando a minha identificação de passageiro frequente da BA. Ao abrigo do sistema antigo, este voo teria valido 10 pontos da categoria dos 1500 necessários para obter o estatuto Gold (0,66%). Com o novo sistema, obtive 12 pontos dos 20.000 necessários para obter o estatuto Gold (0,05%) - uma redução de 93% no valor do prémio deste voo. Ou seja, se não reservar no site da BA, não posso efetivamente obter o estatuto. A BA também anunciou um acordo de preços de vigilância com uma empresa de IA - e esta jogada impedirá os seus melhores passageiros de obterem um preço melhor numa agência de viagens online.
Uma outra diferença fundamental entre a Uber e a Delta: A Uber tem-se esforçado muito para esconder o facto de que está a praticar preços de vigilância tanto dos condutores como dos passageiros. A Delta até emitiu um comunicado de imprensa!
Há um certo tipo de economista neoclássico que adora os preços de vigilância e elogia as suas "eficiências". Estes apologistas afirmam que, ao aumentar a quantidade de "informação" no sistema, encorajamos os vendedores a fazer descontos a clientes que não podem pagar tanto, fazendo com que todos fiquem em melhor situação.
Isto é um disparate. Os vendedores não querem "aumentar a quantidade de informação no sistema". Eles querem espiar-nos. Se duvida, pergunte às empresas que vasculham os sites das companhias aéreas para obter informações atualizadas sobre preços. As companhias aéreas não só o processam por tentar saber quais são as suas tarifas, como também o processam por descobrir como conseguir um melhor negócio com as suas tarifas.
Não são as únicas: as mercearias que praticam preços excessivos também ameaçam as pessoas que analisam os seus preços para detetar conluio e cartelização de preços. As empresas que praticam preços de vigilância são muitíssimo alérgicas aos preços de subvigilância. Quando nos espiam, isso é progresso. Quando monitorizamos o seu comportamento, isso é pirataria.
Um parênteses: isto faz-me lembrar um dos mais flagrantes embustes da indústria da IA: a pretensão de que a "IA agêntica" está mesmo ao virar da esquina e que, em breve, poderemos pedir a um chatbot para (por exemplo) comparar preços em vários sítios Web para encontrar a melhor tarifa aérea e reservar-nos um bilhete. Isto não funciona de todo. Não se deve dar o número do cartão de crédito a um chatbot e pedir-lhe que vá comprar qualquer coisa, para não acabar a pagar 30 dólares por uma dúzia de ovos e a comprar bilhetes para um estádio de basebol no meio do oceano.
As demonstrações de agentes de IA são tão desanimadoras que as empresas de IA já não afirmam que a "IA agêntica" envolverá chatbots que navegam na Web tal como está. Em vez disso, afirmam que todos os sítios Web acabarão por ser reequipados de modo a poderem ser tratados de forma fiável e previsível por um agente de IA, com todos os seus elementos de interface de utilizador bem identificados e/ou endereçáveis programaticamente, através de uma API. Trata-se de um extraordinário golpe de mestre! Em primeiro lugar, a reengenharia de todos os sítios Web para adotar um conjunto comum de etiquetas e campos API é um feito gigantesco de engenharia - formalmente designado por "a Web semântica" - que tem sido tentado desde 1999 sem qualquer progresso significativo.
De facto, o primeiro artigo viral que publiquei online há 24 anos foi "Metacrap", uma crítica aos esforços da Web semântica. Nesse ensaio, sugiro que há várias razões para as empresas não reequiparem voluntariamente os seus sítios Web para facilitar a comparação de preços. Uma razão importante é o facto de as empresas não acreditarem que os seus produtos são comparáveis aos produtos concorrentes (ou não quererem que se pense assim). A Coach quer que se pense que as suas malas de mão de 40 000 dólares não podem ser substituídas por uma mala bem feita de 100 dólares ou mesmo por um saco de plástico de 0,10 dólares. A Coach não vai categorizar voluntariamente a sua mala de mão de forma a facilitar estas comparações. Depois, há empresas que querem, de facto, ser comparadas com os seus rivais, por razões pouco convincentes. Foi por isso que assistimos a uma proliferação tão grande de "taxas de lixo" (sobretaxas estúpidas aplicadas na altura do checkout): os hotéis, as companhias aéreas e as agências de aluguer de automóveis sabiam que a maioria dos seus clientes comprava as suas ofertas em sites de comparação. Ao oferecer um preço de etiqueta baixo, uma empresa podia ganhar na comparação de preços, apesar de ser substancialmente mais cara depois de as suas taxas de lixo serem contabilizadas. Por último, há o facto de as empresas quererem mentir-lhe e o facto de acrescentar "semântica" à Web não faz nada para evitar essas mentiras e, na verdade, torna-as mais fáceis de contar. Pense em todos os vendedores da Amazon que utilizam fotografias enganadoras de produtos para o fazer pensar que está a receber (por exemplo) uma espátula de cozinha útil, quando estão a vender uma espátula tão pequena que parece ter sido concebida para uma casa de bonecas; ou empresas que vendem powerbanks que parecem uma bateria portátil útil mas que nem sequer conseguem recarregar uma lanterna LED, etc., etc. Os agentes de IA não conseguem saber se os metadados estão corretos ou não!
Todos os ecossistemas complexos têm parasitas; o mesmo acontece com a Web. Não vamos resolver a IA agêntica pedindo às pessoas que rotulem corretamente as suas ofertas, não quando elas têm a ganhar com a mentira.
E se pudéssemos adaptar a Web de modo a torná-la hospitaleira para a IA agêntica, não precisaríamos de IA para fazer isto acontecer. Para obter tarifas aéreas de várias rotas e compará-las não é necessário um motor de inferência do tipo da IA - é um problema algorítmico simples que pode ser facilmente resolvido. A parte que a IA agêntica pretende resolver não é descobrir qual a tarifa aérea mais barata de uma lista - é compilar a própria lista, a partir de dados não estruturados obtidos de sítios Web heterogéneos que estão a fazer tudo o que podem para impedir a compilação de tal lista.
Esta é uma jogada de IA bem conhecida. Primeiro, anuncia-se que a IA agêntica será capaz de automatizar tarefas que, atualmente, só os humanos conseguem realizar; depois, insiste-se que tudo tem de ser alterado para ser compatível com a nova tecnologia. Foi exatamente isso que fizeram os vigaristas dos carros autónomos (que estavam na vanguarda do golpe da IA). Primeiro, anunciaram que as IAs seriam capazes de pilotar carros em espaços cheios de condutores humanos, peões e ciclistas. Depois, quando se tornou claro que isso resultaria numa violência assassina entre robôs e humanos, exigiram que os humanos reduzissem o seu comportamento para evitar perturbar o robô. Chamam a isto "o problema do pogo-stick": "Penso que muitas equipas de AV conseguiriam lidar com um utilizador de pogo stick numa passadeira de peões", disse-me Ng. "Dito isto, saltar num pogo stick no meio de uma autoestrada seria muito perigoso. Em vez de criarmos uma IA para resolver o problema do pogo stick, devemos associar-nos ao governo para pedir às pessoas que sejam legais e atenciosas", afirmou. "A segurança não tem apenas a ver com a qualidade da tecnologia de IA".
A automatização é real e pode trazer benefícios reais para as pessoas. Por vezes, a automatização exige que outros sistemas sejam ajustados para facilitar o seu funcionamento. Mas isso é um truque. É uma burla. Os agentes de IA não vão substituir o trabalho humano. A única forma de substituirmos o trabalho humano por agentes de software é redesenhando todos estes sistemas heterogéneos e concorrentes, propriedade de pessoas que beneficiam do status quo e que têm todas as motivações para obstruir este projeto. Boa sorte com isso.
Sem comentários:
Enviar um comentário