I wasn't even going to write about it today, but I ended up watching a great short video from Vice Channel about a facebook employee who works as a moderator for company content. That is, he spends eight hours a day looking at content that is reported as possibly "dangerous" and needs to decide whether to keep or delete it from the social network. It's not the first time I've talked about something like this here, a few months ago I wrote about why people have the mixed desire to watch Gore videos, but now I'm talking about another level of the problem. I'm talking about a company that hires hundreds of people to moderate content and tells them: -It's possible that you sometimes see some aggressive or offensive content, can you handle that? And the unemployed person will accept, of course. But it wasn't clear that she would see explicit content of all kinds all the time, every day for the rest of her time working at the company.
A facebook moderator spends most of his work time watching and deleting videos of murder, mutilation, rape, pedophilia, suicide, accidents, racial and hate crime videos, and so on. It's not like watching ten music video clips and alerting if anyone has spicy scenes that kids shouldn't see, we're talking about ten videos that have already been warned by some user as explicit and somehow disturbing and then reach the "moderator"'s hand , who will see at least one suicide a day. The anonymous interviewee also comments on the fact that it is playing on his mental screen automatically even during sleep and that it is impossible to avoid reviewing the scenes in his memories.
Is facebook to blame? No. Not exactly. The blame, unfortunately like 95% of the things that happen on this planet, are solely with the humans involved. The people who spread and share these misfortunes as if it were something really interesting and somehow productive. I honestly don't know what mechanism of psychological action makes these people engage in this type of behavior, but what I do know is that if you give a stupid and ridiculously disgusting person the tools, he will use the tools to his advantage. Facebook is nothing more than a disseminator of the thoughts of every human being, and if most are sick and disturbed, most of the content is sick and disturbed. Even we "non-moderators" see this clearly. When I had a facebook profile I got tired of seeing garbage, even filtered only by my network of friends that was nothing much out of my vision of life, but it doesn't take effort for you to be shocked by strong and unnecessary external opinions expressed as absolute and positive truths.
Source
This is where the ethics I would expect from the owner of facebook come into play. Couldn't he at least invest in an advanced artificial intelligence system that could filter 50% of this moderate content? To lessen the harm, at least for your own employees? Well, waiting for the collective human consciousness to expand and for everyone to create sensitivity and stop seeing other people's misfortunes is much more utopian than thinking that Jesus will come back, so being more realistic and lighthearted, all I hope is that nature of "social natural selection" do their job of sorting out niches well (which unfortunately is a solution), and little by little there will be an outburst of this kind of toxic web. It won't take long to create a crypto-based social network where there will be some "Gore Token" and people will be paid for fresh content from the best high definition massacre, but that's okay, it's their niche, just like there are people who pay girls to wear kitten ears and cross-eyed looking like a mentally handicapped woman dressed in an anime. Everyone knows what they want and is entitled to spend their money on it. As long as they don't come looking for our space and pollute the eye of those who don't want to see it, and in the same way, it's no longer necessary to pay humans outside of this reality to visualize misfortunes every day of their job and spoil their mind for the rest of the useful life span of them.
Thômas H N Blum
Eu nem ia escrever sobre isso hoje, mas acabei assistindo um ótimo video curto do Canal da Vice à respeito de um funcionário do facebook que trabalha como moderador de conteúdo da empresa. Ou seja, ele passa oito horas por dia vendo conteúdos que são denunciados como possivelmente "perigosos" e precisa decidir se serão mantidos ou deletados da rede social. Não é a primeira vez que falo de algo do tipo por aqui, há alguns meses eu escrevi sobre por que as pessoas tem o desejo contraditório de assistir videos de Gore, mas agora estou falando de outro nível do problema. Estou falando de uma empresa que contrata centenas de pessoas para moderar conteúdos e diz a elas: -é possível que algumas vezes você veja alguns conteúdos agressivos ou ofensivos, você consegue lidar com isso? E a pessoa desempregada vai aceitar, é claro. Mas não ficava claro que ela veria conteúdos explícitos de todo tipo o tempo todo, todos os dias para o resto de seu tempo trabalhando na empresa.
Um moderador de facebook passa a maior parte do seu tempo de trabalho assistindo e deletando videos de assassinatos, mutilações, estupro, pedofilia, suicídio, acidentes, vídeos de crimes raciais e de ódio, e assim por diante. Não é como assistir dez video clipes de música e alertar caso algum tenha cenas picantes que crianças não deveriam ver, estamos falando de dez videos que já foram alertados por algum usuário como explícito e de alguma forma perturbador para então chegar a mão do "moderador", que verá no mínimo um suicídio por dia. O entrevistado anônimo ainda comenta sobre o fato de que aquilo fica passando em sua tela mental automaticamente até mesmo durante o sono e que é impossível evitar de rever as cenas em suas memórias.
A culpa é do facebook? Não. Não exatamente. A culpa, infelizmente como 95% das coisas que acontecem nesse planeta, é unicamente dos humanos envolvidos. Das pessoas que disseminam e compartilham essas desgraças como se fosse algo realmente interessante e de alguma forma produtivo. Não sei sinceramente qual mecanismo de ação psicológica faz essas pessoas se dedicarem a esse tipo de comportamento, mas o que sei é que, se você dá as ferramentas a uma pessoa estúpida e ridiculamente repugnante, ela irá utilizar as ferramentas a seu favor. O facebook é nada mais que um disseminador do pensamento de todo ser humano, e se a maioria é doente e perturbado, a maioria do conteúdo é doente e perturbada. Mesmo nós "não-moderadores" vemos isso claramente. Quando eu tinha um perfil no facebook eu cansava de ver lixo, mesmo filtrado apenas pela minha rede de amigos que já não era nada muito fora da minha visão de vida, mas não é necessário esforço para você se chocar com opiniões alheias fortes e desnecessárias explicitadas como verdades absolutas e positivas.
Source
Aí é que entra a ética que eu esperaria do dono do facebook. Será mesmo que ele não poderia ao menos investir num sistema de inteligência artificial avançado que conseguisse filtrar 50% desse conteúdo moderado? Diminuir o mal ao menos para seus próprios empregados? Bom, esperar que a consciência humana coletiva se expanda e que todos criem sensibilidade e deixem de ver a desgraça alheia é muito mais utópico do que achar que Jesus vai voltar, então, sendo mais realista e leviano, tudo que eu espero é que a natureza da "seleção natural social" faça bem seu trabalho de separação de nichos (que infelizmente, é uma solução), e pouco a pouco haverá uma debanda desse tipo de rede tóxica. Não tardará a criarem uma rede social baseada em cryptos onde haverá algum "Gore Token" e as pessoas serão pagas por conteúdos inéditos do melhor massacre em alta definição, mas tudo bem, é o nicho deles, assim como tem gente que paga garotas para vestirem orelhas de gatinho e ficarem vesga parecendo uma deficiente mental vestida de anime. Cada um sabe o que quer e tem direito a gastar seu dinheiro com isso. Contanto que não venham procurar nosso espaço e poluir o olho de quem não quer ver, e da mesma forma, não seja mais necessário pagar humanos alheios a essa realidade a visualizar desgraças todos os dias de seu emprego e estragarem sua mente para todo o resto do tempo útil de vida delas.
Na verdade existe um algoritmo que pega esses tipos de coisas. Vide o Instagram. Mas ainda é necessário um moderador que faça esse trabalho. Ou não teremos rede social ou então seria abandonar todas essas coisas hahaha.
Eu não sei como funciona realmente, mas acredito que deva ter um auxílio psicológico para essas pessoas que fazem esse tipo de trabalho ou que são menos afetadas diretamente.
Lembre que tem gente que trabalha com funerária, arrumando os mortos todos os dias, médicos legistas, bombeiros atendendo acidentes e por aí vai. Coisas que para algumas pessoas como eu por exemplo não sei se conseguiria. Mas para muitos eles trabalham com isso tranquilo. Então esse tipo de serviço moderador não é muito longe desses casos.
Demorei só 9 dias pra te responder kakak. Cara, primeiramente, você viu o video da entrevista do cara? Ele não parece estar dizendo que ele ou os amigos de trabalho dele estavam tendo bom acompanhamento e tudo seguia bem. Imagina só a cena: Ah hoje eu vi a pior cena de estupro e morte com uma criança na minha vida, filmada por puro sadismo, vou passar uns meses no mínimo fazendo acompanhamento para resolver isso. Porém, amanhã eu vou ver um video um pouco pior, que supera o anterior. E daqui seis meses, quando isso estiver já nublado na minha mente, eu vejo um mais forte ainda.
...
Mas claro, o argumento de "existe gente capaz de ser médico de emergência, neurocirurgião, bombeiro, etc" é um bom argumento. Se estivessemos falando de salvar vidas. Eu não seria capaz, eles são. Máximo respeito. Mas agora. QUAL o benefício que uma rede social dessas realmente tem a ponto de tornar necessário estragar mentalmente 300 pessoas (imaginando um número). E claro, eu sou daqueles que responderia, MESMO que fosse completamente baseado em inteligência virtual sem contato humano para esses conteúdos, a rede social do padrão facebook continua sendo um lixo. Desnecessária e desgovernada. Mas é lógico que ela seguirá existindo, é igual as religiões, cada um tem os motivos para utiliza-las. hahha.