Por Nina Dahora
Quando a sua pesquisa envolve algoritmos e seus impactos na sociedade você acaba usando quase tudo do seu dia a dia como parte do seu estudo. Pois bem decidi documentar no medium algumas das reflexões que tenho feito. A bola da vez é a animação Next Gen, produção original da Netflix que estreou no dia 7 de setembro. A animação fala da amizade de uma menina e um robô e de como juntos combateram o mal. Falando parece mais uma animação de robô. Porém o que quero compartilhar com vocês é como esta animação promove discussões bem mais profundas.
No inicio da animação é possível perceber a transição que o filme faz de uma sociedade sem tecnologia para uma sociedade dependente da tecnologia e isso é retratado por meio da relação dos pais da personagem principal a mai. Após o pai largar a família a mãe compra um robô, que no filme é retratado como um “filho adotivo” pois ele é tratado pela mãe como se fosse seu filho mais novo e conforme Mai cresce mais próximo do robô a mãe fica. Este tipo de abordagem não está tão longe de nossa realidade né?! já existem países onde a interação robô-humano é quase a mesma coisa que humano-humano, por exemplo no Japão já existe uma robô jornalista e âncora de um telejornal, chamada Erica e ela está ao lado de um jornalista de carne osso. e o que dizer da robô Sofia que se tornou a primeira robô da história a ter cidadania , no caso, o país que lhe concedeu isso foi a Arábia Saudita. O primeiro caso ocorreu este ano e o segundo caso ocorreu no final do ano passado.
Outro ponto que me chamou muito a atenção além de cada pessoa (aqui lê-se de crianças a idosos) terem um robô de estimação, eles são programados para
cumprirem QUALQUER ordem de seu dono. Em uma das cenas de Mai na escola ela acaba se metendo em um briga com uma valentona da escola e seus robôs, isso mesmo, robôs. Eu revi esta cena várias vezes para escrever esta parte do texto. E consegui resumir ligar este fato a dois conceitos muitos importantes na robótica e nos algoritmos. O primeiro são as leis de Isaac Asimov que falam o seguinte:
- 1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
- 2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
- 3ª Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.
- Mais tarde Asimov acrescentou a “Lei Zero”, acima de todas as outreas: um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal.
Pois bem a cena da briga é construída com a menina mandando os robôs cercarem mai e eles mudam a fisionomia para algo mais assustador e começam a reproduzir palavras com a mesma agressividade de sua dona. Esta cena infligem as leis da robótica. Além disso me fizeram ligar ao conceito dos vieses de algoritmos. Antes de robô se robô precisamos entender o algoritmo por trás e sua construção. Esta cena é um ótimo exemplo de vieses de algoritmos, da reprodução do comportamento de quem o criou, mais do que isso, o robô aprende o comportamento de outras pessoas para reproduzir na sociedade. Trazendo para o nosso mundo real, pois, já temos exemplos reais disso acontecendo. Como por exemplo:
Um estudo feito em 2017 pelo Law’s Center on Privacy and Technology, o centro sobre privacidade e tecnologia da faculdade de direito da Universidade de Georgetown, estima que 117 milhões de cidadãos já estejam nos bancos de dados que a polícia pode usar. “O reconhecimento facial vai afetar afroamericanos desproporcionalmente. Muitos departamentos de polícia não percebem isso”, diz o estudo. Outro documento do FBI sugere que “o reconhecimento facial é menos preciso em negros. Além disso, devido à desproporção no número de negros presos, sistemas que utilizam fotos realizadas no momento da prisão incluem mais afroamericanos. “Apesar dessas descobertas, não há nenhum estudo independente com testes para viés racistas nestes programas”, conclui o estudo.
E também existem iniciativas que lutam contra este tipo de algoritmo como a organização Algorithmic Justice League comandada pela Cientista Joy Buolamwini, esta organização tem por objetivo organização que procura desafiar o preconceito no software de tomada de decisão.
Antes de finalizar esta reflexão queria compartilhar um último ponto que me chamou a atenção que foi o fato de finalmente, uma Menina ser protagonista de uma animação com robô (se houver outra animação que tenha meninas neste contexto, compartilhem comigo pois não conheço!) eu fiquei extremamente ansiosa para assistir esta animação pois era tinha uma menina como protagonista. Eu já tinha gostado muito de Big Hero, porém faltava algo que me fizesse conectar totalmente com a animação. E a Netflix conseguiu suprir isso (Alô Netflix, Parabéns!). Referências são muito importantes , referências femininas em areas de exatas também. O impacto disso na sociedade pode ser acompanhado por meio de algumas notícias , como por exemplo: Barbies agoram são engenheiras, cientistas. Filmes de herois retratam cientistas como mulheres, como podemos ver no Pantera Negra com a Shuri. E claro a iniciativa Preta Lab (alou Sil Bahia!) que tem por objetivo incentivar mulheres negras nas áreas de exatas, iniciativa criada pelo Olabi. Quero ver mais que isso. Quero ver animações com mulheres negras neste contexto. Acredito que estamos no caminho certo.
Este post é uma reflexão que fiz ligando o que tenho estudado para minha pesquisa com a animação Next Gen, serviu como um exercício pois se queremos entender o impacto de algoritmos ou tecnologias precisamos refletir e para isso não é necessário ler só livros técnicos precisamos refletir com o que está acontecendo ao nosso redor também. Desculpas os spoilers. Assistam a animação.
Dados da Animação:
- Next Gen (Idem, China/Canadá/EUA – 07 de setembro de 2018)
- Direção: Kevin R. Adams, Joe Ksander
- Roteiro: Kevin R. Adams, Joe Ksander, Ryan W. Smith (baseado em história de Wang Nima)
- Elenco: John Krasinski, Charlyne Yi, Jason Sudeikis, Michael Peña, David Cross, Constance Wu, Kiana Ledé, Anna Akana, Kitana Turnbull, Jet Jurgensmeyer, Betsy Sodaro
- Duração: 105 min.
Links importantes:
- Algorithm League Justice : https://www.ajlunited.org/
- Humanoides : https://epocanegocios.globo.com/colunas/Sociedadecom/noticia/2018/04/humanoides-gente-como-gente.html
- Robo Sophia : https://www.tecmundo.com.br/produto/123533-sophia-primeira-robo-historia-ter-cidadania-oficial-pais.htm
- Humanoides e sociedade : https://madeinjapan.com.br/agenda/evento/palestra-robos-humanoides-e-sociedade-do-futuro/
- TEDtalks Joy Algorithm Bias : https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms/transcript?language=pt-br&rdst_srcid=621272
- Preta Lab : http://pretalab.com/
——
Créditos
Artigo originalmente publicado em: https://medium.com/@horana
