Nosso Futuro da Memória Cultural Ameaçada

A indústria de manipulação de vídeo é uma bomba de tempo

Apornografia trocada, como muitos desenvolvimentos tecnológicos e sociais de nossa época, parece uma coisa ruim, mas é, de fato, muito, muito pior. Não é difícil concluir que os hobbyists de pornografia sintética, ajudando-se mutuamente ensinar-se a ensinar os computadores a colar as semelhanças de novas pessoas com o video pornográfico existente, estão fazendo algo violador; PornHub declarou que o produto resultante não é consensual e viola seus termos de serviço.

Mesmo que a perspectiva de aparecer involuntariamente em um vídeo de sexo incondicional é perturbadora em seus próprios termos, porém, é muito mais perturbador como um caso de teste, uma versão caseira barata do projeto maior e bem financiado de fazer um video plausível de coisas que nunca aconteceu – o que o Charlie Warzel, da BuzzFeed, descreveu este mês como “um potencial projeto de Manhattan de novidades falsas”.

A diferença entre a manipulação de vídeo e o projeto real de Manhattan é que os cientistas no Projeto Manhattan sabiam que eram membros do esforço de guerra e que seu objetivo era construir o dispositivo de morte mais poderoso do mundo. Uma vez que o construíram, os cientistas entenderam que eles mudaram o mundo de uma forma grave e terrível.

A indústria de manipulação de vídeos parece não ter consciência de tudo o que torna possível. Em uma apresentação do produto Adobe Photoshop a partir do final do ano passado, uma multidão aplaude enquanto os representantes da empresa demonstram como a tecnologia Adobe Cloak do projeto pode remover uma lamparina desagradável de um vídeo de uma catedral russa. Mas espere! Tem mais!

Para novos aplausos, os representantes continuam a exibir imagens de dois caminhantes passando por uma garganta , e o software remove uma correia de uma das suas mochilas. Isso pode remover as pessoas? “Sim, podemos – podemos remover as pessoas”, diz o apresentador. “Sim”. E as pessoas estão envolvidas em um contorno roxo, como um elemento visual indesejável, isolado e removido.

“Tudo o que sabemos sobre a nossa sociedade, ou mesmo sobre o mundo em que vivemos, sabemos através dos meios de comunicação”, escreveu Niklas Luhmann em seu livro The Reality of the Mass Media: Memória cultural no presente (1996). “Isto é verdade não só do nosso conhecimento da ciência e da história, mas também do nosso conhecimento da natureza. O que sabemos sobre a estratosfera é o mesmo que Platão sabe sobre a Atlântida: ouvimos dizer isso. “

Para viver assim, dependemos de palavras, sons e, especialmente, de imagens, em massa distribuídas mecanicamente. As coisas que aparecem no vídeo são mais reais do que as coisas sobre as quais simplesmente somos informados. Havia muitas boas razões para que o executivo de fast food, Andrew Puzder, não se tornasse secretário de trabalho, mas aquele que garantiu a derrota de sua indicação era a aparência de sua ex-esposa, disfarçada de uma peruca e grandes óculos tingidos, em uma fita de vídeo de um antigo episódio de Oprah sobre o abuso do casal.

As alegações de abuso haviam sido relatadas há muito tempo, juntamente com o fato de que ela as recuou no decurso de um acordo de custódia. Mas os visuais fizeram a diferença. Uma estranheza no escândalo, testemunhando o poder sobrenatural do formato, foi que a empresa que originalmente exibira o vídeo se recusou a cooperar com o esforço para encontrá-lo e torná-lo público. Oprah apresentou a imagem da mulher sob um pseudônimo, como representante do problema genérico ou escândalo de “mulheres maltratadas de classe alta”. Agora, porém, era evidência sobre uma pessoa específica e poderosa, uma coisa mais potente do que os produtores já quis criar.

Ele saiu de qualquer jeito, assim como a fita do Access Hollywood de Donald Trump pegou, apesar do desejo da NBC de caminhar lentamente pelas notícias. Nos 22 anos desde que Luhmann descreveu a inescapabilidade dos meios de comunicação de massa, os meios de comunicação de massa perderam um grande controle que eles gozavam como instituições. A produção e a disseminação foram fraturadas e tornaram-se participativas ou criaram novas simulações de alta velocidade de participação.

No entanto, o espaço em que os meios de comunicação funcionam continua sendo o único espaço que existe. Ainda não há outra maneira de saber nada sobre as escalas nas quais as coisas exigem ser conhecidas: a nação, o governo, a economia, o mundo, a cultura. Mas o conhecimento agora está quebrado e desestabilizado. Imagens e histórias podem ser distribuídas para grandes extensões do planeta por qualquer pessoa, ou podem ser distribuídas para um conjunto pequeno e restrito de pessoas. Na parte receptora, eles são vivenciados exatamente da mesma maneira.

Os colegas de rosto entendem isso como uma verdade, seja ou não ao nível de percepção. Para fins de produção de pornografia sintética, um ator de cinema principal e uma pessoa em um clipe de pornografia existem em um único plano de realidade ou irrealidade. Ambos são imagens em movimento, nada mais, para serem recebidos e consumidos. É a lógica amoral das próprias máquinas de aprendizagem: Aqui estão duas versões do mesmo tipo de entrada a serem retrabalhadas para uma nova saída desse mesmo tipo. Qualquer distinção de significado e valor – da realidade subjacente, como as pessoas podem querer entender – equivale a substituir facilmente metadados.

É fácil e sombrio pensar as possibilidades: observações escandalosas que um candidato político nunca pronunciou, confissões falsas, actos falsificados de violência. Tropas em diferentes uniformes, sob várias bandeiras, fazendo as mesmas coisas. As multidões inaugurais transbordam o Mall e empacotaram as várzeas da rota do desfile.

Ninguém realmente se propôs a demolir a realidade. Ninguém estabeleceu para inscrever a população mundial em um sistema de vigilância em tempo integral, também. Eles apenas criaram smartphones, e esses telefones precisavam manter contato com as redes de comunicação em torno deles. E cada vez mais serviços trocaram informações sobre movimento e uso e comportamento e atenção, e os telefones se tornaram plataformas de publicidade, e os anunciantes queriam saber o quanto pudessem sobre potenciais clientes – o que acabou por ser aproximadamente tudo.

E, da mesma forma, mesmo que algumas pessoas estejam construindo ferramentas para fazer vídeos de eventos que nunca aconteceram, outras pessoas estão construindo ferramentas para distribuir esse material através de canais separados, opacos e inexplicáveis. O Facebook funciona como um serviço de microtargeting sob a aparência de um vasto fórum público, para que ninguém possa dizer o que o Facebook de qualquer outra pessoa pode ter. Demorou meses de crise, uma eleição presidencial e as investigações federais antes que a empresa decidiu que começaria a trabalhar em formas de tornar as campanhas publicitárias visíveis e responsáveis . O Twitter oferece anúncios ligados a contas inexistentes do Twitter , por isso é impossível saber de onde elas vieram ou quem mais as viu. O contexto é tão inviável quanto o conteúdo.

Até agora, o susto de notícias falsas concentrou-se principalmente nos remetentes – agentes estrangeiros, russos, um inimigo escondido, mas que pode ser retratado. Mas o remetente está quase ao lado do ponto. O horror está em ser os destinatários, cada um de nós em uma realidade hermética, incapaz de confiar no que vemos ou de saber quais outras realidades podem estar ao nosso lado.

 

Fontehttps://medium.com/s/story/our-future-of-warped-cultural-memory-4598ab103b05