Racismo em Algoritmos: Viés racial em Deep Fakes

48:48
 
Compartilhar
 

Manage episode 298858892 series 2964733
Por Canal Peixe Babel descoberto pelo Player FM e nossa comunidade - Os direitos autorais são de propriedade do editor, não do Player FM, e o áudio é transmitido diretamente de seus servidores. Toque no botão Assinar para acompanhar as atualizações no Player FM, ou copie a feed URL em outros aplicativos de podcast.

Recentemente uma técnica de “aumento de resolução de imagens” foi popularizada através de um tweet. Uma limitação supostamente inesperada rapidamente veio à tona graças à comunidade do Twitter: o método é incapaz de lidar com imagens de pessoas não-brancas, com destaque a asiáticos e pretos.

O viés racial em algoritmos baseados em aprendizado de máquina recebeu um grande destaque com a popularização de métodos generativos, capazes de produzir rostos de pessoas que não existem. As famosas #DeepFake se preferir. Apesar de existirem redes generativas capazes de produzir imagens muito diversas, nem todo método tem essa preocupação inerentemente. Por isso chamamos duas mulheres MARAVILHOSAS para discutirmos os impactos desse tipo de trabalho, as possíveis soluções e porquê a academia deve se preocupar com o viés de dados: a Nina da Hora e a Clara Matheus do Mimimidias.

Nina da Hora:
Twitter e Instagram @ninadhora
Ogunhê Podcast https://anchor.fm/ana-carolina-da-hora

Clara Matheus:
Twitter @claramatheus
Instragram @claramatheus_
Mimimidias https://www.youtube.com/channel/UCg0CfiR_iKjBOYgeHps17BA

Vídeos citados:
Sueli Carneiro: Ciência e racismo
https://www.youtube.com/watch?v=gBYk4ePmS6s
Sabrina Fernandes: Nem todo homem é machista
https://www.youtube.com/watch?v=MdoJnJTEj88

Nossa playlist de Deep Fake https://www.youtube.com/playlist?list=PL3Wx5P4NOzUjqE52_NNz1HOwAcP_FtwFD

######## Referências ########

-- Sobre o Face Depixelizer (Algoritmo PULSE):
Tweet original: https://twitter.com/tg_bomze/status/1274098682284163072
Colab: https://colab.research.google.com/github/tg-bomze/Face-Depixelizer/blob/master/Face_Depixelizer_Eng.ipynb
GitHub: https://github.com/adamian98/pulse#data
Paper: http://openaccess.thecvf.com/content_CVPR_2020/papers/Menon_PULSE_Self-Supervised_Photo_Upsampling_via_Latent_Space_Exploration_of_Generative_CVPR_2020_paper.pdf
Página do Projeto: http://pulse.cs.duke.edu/

Twitter da Dr. Timnit Gebru:
https://twitter.com/timnitGebru/
Post que apresenta todas as threads de Twitter comentadas no vídeo:
https://thegradient.pub/pulse-lessons/

Uma aula sobre viés de dados em Machine Learning, apresentada pela Margaret Mitchell, pesquisadora sênior da Google AI: Slides:
https://web.stanford.edu/class/archive/cs/cs224n/cs224n.1194/slides/cs224n-2019-lecture19-bias.pdf
Vídeo: http://onlinehub.stanford.edu/youtube-cs224n-natural-language-processing-with-deep-learning-winter-2019/stanford-cs224n-nlp-with-deep-learning-winter-2019-lecture-19-bias-in-ai

24 episódios