Pandora’s Code: Deepfakes, Memory, and the Power to Recreate Reality

in Hive Learners2 days ago


Created by ChatGPT


To my longtime friends from the HiveLearners community, my best greetings!

When OpenAI opened its servers for the world to get to know the first public version of ChatGPT, it was as if Pandora’s box had been opened. The world found itself adrift, and the foundations upon which we built our security and our certainties were put into question (almost checkmate).

Pandora’s Box is a Greek myth about the first woman, Pandora, created by Zeus, who received a jar (mistakenly called a box) with the order not to open it; her curiosity led her to disobey, releasing all evils (diseases, misery, etc.) into the world, leaving only Hope (Elpis) at the bottom, becoming a metaphor for actions that trigger disastrous consequences and the ambiguous nature of hope.
(Summary created by IA 'Gemini')

We discovered that technology was generative, and this word became constant in our dialogues, newspapers, and day-to-day life. Computers became capable of creating things. And it didn’t take long before we also discovered that they were capable of much more.

Deepfakes emerged in 2017 with an obscure objective: replacing human faces in pornographic videos with the faces of famous actresses. That moment was when the term deepfake was coined. But the technique existed long before, and for other purposes. In the 90s, the use of CGI advanced to recreate human facial movements aimed at film dubbing. After all, what is CGI used in movies, if not a deepfake? A big lie, in the free translation to Portuguese.

Thinking about it, deepfake was there all along, since the first CGIs in cinema. So what was the difference? The answer is brutally simple: access.

We didn’t have access to the use of software, nor computational resources to produce our own deepfakes. This was restricted to a few groups, companies, and studios. Although there has always been the risk that these gigantic corporations could use such strategies to deceive the population, to this day it has not been possible to identify any attempted scam.

Today we have access to producing our own CGI without having invested a single cent in computational resources, and we do this through the public use of AIs. Broad and unrestricted access has made it possible for anyone to put the photo of any president in the Pope’s clothes. And after some time, we discovered that it is also possible to emulate the voice, thus generating videos quite similar to a real performance.

We have all the tools to produce our great lies (deepfakes), so what good can we do with them?

Coincidences!

16 hours ago I was looking for a song on YouTube when I came across a very curious publication title. Someone had the idea of producing a musical deepfake. An artist from a famous Brazilian rock band, already deceased, was made to sing one of the band’s songs whose existing recordings are not the best. The base used seemed to me to be another vocalist, whose image and voice were replaced by a reconstruction using AI. Sensational!

Months ago I also thought about adding movement to old photos that exist in grandparents’ memory albums. Yes, there was a time when to see the photo captured on the camera it was necessary to print it, or rather... pay a specialized company to print the photograph that was stored on a physical device called film. I myself produced videos of grandparents hugging children who had already passed away, which generated great family emotion. Unfortunately, there were no audio files, because perhaps I could also have emulated the voice.

Today we are practically gods, bringing the deceased back to life using increasingly elaborate deepfakes that confuse us in our reality.

It is the use we make of these tools that distinguishes us from those who corrupted the technology.

And you, what do you think?


HiveBR Discord



Created by ChatGPT


Aos meu sempre amigos da comunidade HiveLearners, minhas melhores saudações!

Quando a OpenIA abriu seus servidores para o mundo conhecer a primeira versão pública do ChatGPT, foi como se fosse aberta a caixa de Pandora. O mundo se viu à deriva, e as bases sobre as quais construimos nossa segurança e nossas certezas foram colocadas em xeque (quase xeque-mate).

A Caixa de Pandora é um mito grego sobre a primeira mulher, Pandora, criada por Zeus, que recebeu um jarro (erroneamente chamado de caixa) com a ordem de não abrir; sua curiosidade a levou a desobedecer, liberando todos os males (doenças, miséria, etc.) no mundo, restando apenas a Esperança (Elpis) no fundo, tornando-se uma metáfora para ações que desencadeiam consequências desastrosas e a natureza ambígua da esperança. (Resumo criado por IA 'Gemini')

Descobrimos que a tecnologia era generativa e essa palavra passou a ser constante em nossos diálogos, jornais e dia-a-dia. Os computadores passaram a ser capazes de criar coisas. E não demorou muito também descobrimos que eles eram capazes de muito mais.

As Deepfakes surgiram em 2017 com um objetivo obscuro: substituir em vídeos pornográficos o rosto humano pelo roto de atrizes famosas. Esse momento foi quando o termo foi batizado deepfake. Mas a técnica surgiu muito antes, e para outros fins. Nos anos 90 o uso de CGI foi avançando para recriar movimentos faciais humanos visando dublagem de filmes. Afinal de contas, o que é o CGI usado em filmes, se não uma deepfake? Uma grande mentira, na tradução livre para o português.

Parando para pensar, a Deepfake estava ali o tempo todo, desde os primeiros CGIs no cinema. Qual era a diferença então? A resposta é brutalmente simples: acesso.

Não tínhamos acesso ao uso de programas, nem recursos computacionais para produzirmos nossas próprias deepfakes. Isso estava restrito a poucos grupos, empresas e estúdios. Apesar de que sempre existiu o risco de que essas gingantesca corporações pudessem usar dessas estratégias para enganar a população, até hoje não foi possível identificar nenhuma tentativa de golpe.

Hoje temos acesso a produzir nossa própria CGI sem ter investido um centavo em recursos computacionais, e fazemos isso através dos usos públicos das IAs. O acesso amplo e irrestrito fez com que qualquer um possa colocar a foto de qualquer presidente nas roupas do Papa. E depois de um tempo, descobrimos que também é possível emular a voz, gerando assim vídeos bastante parecidos com uma atuação real.

Temos todas as ferramentas para produzir nossas grandes mentiras (deepfakes), então o que podemos fazer de bom com elas?

Coincidências!

16 horas atrás eu estava procurando uma música no youtube quando me deparei com uma título de publicação muito curioso. Alguém teve a ideia de produzir uma Deepfake musical. Um artista de uma famosa banda de rock brasileiro já falecido foi colocado a cantar uma das músicas da banda cujas gravações existentes não são das melhores. A base utilizada me parece ter sido outro vocalista, cuja imagem e voz foi substituido por uma reconstrução usando IA. Sensacional!

Mêses atrás eu também pensei em colocar movimento nas fotos antigas que existem nos álbuns de recordação dos avós. Sim, houve um tempo em que para ver a foto capturada na câmera era preciso imprimir, ou melhor... pagar para uma empresa especializada imprimir a fotografia que estava armazenada em um dispositivo físico chamado filme. Eu mesmo produzi vídeos de avós se abraçando com filhos já falecidos, o que gerou grande comoção familiar. Infelizmente não haviam arquivos de áudio, pois talvez eu conseguisse também emular a voz.

Hoje somos praticamente deuses, trazendo à vida os falecidos usando deepfakes cada vez mais elaboradas e que nos confundem em nossa realidade.

É o uso que fazemos dessas ferramentas que nos distingue daqueles que corromperam a tecnologia.

E você o que acha?

https://img.inleo.io/DQmQk2GzspvWRQvKJJArXRBPsCYbqMmCEm6TU191ggnCBQh/divisor_hivelearners.png


https://i.imgur.com/4UpXHUR.gif

HiveBR Discord

Sort:  

This post was curated by @hive-br team!

banner_hiver_br_01.png

Delegate your HP to the hive-br.voter account and earn Hive daily!

🔹 Follow our Curation Trail and don't miss voting! 🔹

 14 hours ago  

With the advancement of this technology, access to it is becoming more democratic for more people, now without needing to spend anything, or almost nothing. It greatly helps in creating content and putting creativity into practice.

Exatamente. Eu, por exemplo, estou "programando" através de IA, já que não aprendi fazer isso!
!PIZZA

PIZZA!

$PIZZA slices delivered:
@crazyphantombr(1/15) tipped @rimurutempest

Please vote for pizza.witness!