DIREITOS HUMANOS E RACISMO ALGORÍTMICO: UMA ANÁLISE CRÍTICA DA COLONIALIDADE DIGITAL E SEUS EFEITOS PARA O CONTROLE DA SOCIEDADE

Aldreis Tacyanna de Lima Santos; Darlindo Ferreira de Lima; Diadiney Helena de Almeida; José Marcos da Silva

doi:10.54899/dcs.v21i78.21

Palavras-chave:

Colonialismo de Dados

Resumo

O advento da tecnologia cibernética e de suas ferramentas digitais costuma estar associado diretamente ao progresso humano. Indubitável dizer que tais mudanças foram responsáveis por um expressivo desenvolvimento, mas que, ao mesmo tempo, tornaram-se um meio de rastreamento e de vigilância. Neste artigo, apresenta-se uma análise crítica do racismo algorítmico e os efeitos do colonialismo digital para o controle da sociedade, especificamente como biopolítica contra grupos humanos vulneráveis. Trata-se uma pesquisa qualitativa que utilizou a hermenêutica fenomenológica para abordar o conceito de colonialismo digital e sua relação com o racismo, a biopolítica, a sociedade do controle e a psicopolítica. São identificadas implicações para a violação da dignidade humana e vulneração da população negra demarcada pelo racismo algorítmico como o perfil de perigosa, criminosa e ameaçadora. Ademais, a questão racial permeia as relações de poder e de controle, corroborando com o surgimento e manutenção do racismo em suas diversas formas, cujo enfrentamento deve advir por meio de bases epistêmicas como as da Bioética da Intervenção e da teoria crítica dos direitos humanos.
Referências
1. Almeida, S. (2021). Racismo estrutural. São Paulo: Sueli Carneiro; Editora Jandaíra.
2. Avelino, R. S. (2023). Colonialismo digital: tecnologias de rastreamento online e a economia informacional. 1ª ed. São Paulo: Alameda.
3. Berigo, I. (2021). A Relativização dos Direitos Fundamentais no Sistema Prisional Brasileiro. Jusbrasil. https://www.jusbrasil.com.br/artigos/a-relativizacao-dos-direitos-fundamentais-no-sistema-prisional-brasileiro/1358933999
4. Couldry, N. & Mejias, U. (2019). Data colonialism: rethinking big data’s relation to the contemporary subject. Television and New Media, 20 (4), pp. 336-349. https://doi.org/10.1177/1527476418796632
5. Deleuze, G. (1992). Post-scriptum sobre as sociedades de controle. In: Deleuze, G. (1992). Conversações (1972-1990). 2008. Reimpressão, São Paulo: Editora 34.
6. Faustino, D. & Lippold, W. (2023), Colonialismo digital: por uma crítica hacker-fanoniana. 1ª ed. São Paulo: Boitempo.
7. Flores, J. H. (2009). A reinvenção dos direitos humanos. Editora Fundação Boiteux.
8. Floridi, L. & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1 (1). http://dx.doi.org/10.2139/ssrn.3831321
9. Foucault, M. (2005). Em Defesa da Sociedade. Curso no Collège de France (1975-1976). São Paulo: Martins Fontes.
10. Foucault, M. (1988). História da sexualidade. Livro I: A vontade de saber. 13ª ed. Rio de Janeiro: Edições Graal.
11. González, F. E. (2020). Reflexões sobre alguns conceitos da pesquisa qualitativa. Revista Pesquisa Qualitativa, 8 (17), pp. 155-183. https://doi.org/10.33361/RPQ.2020.v.8.n.17.322
12. Garrafa, V., Amorin, K., Garcia, T. & Manchola, C. (2017). Bioética e Vigilância Sanitária. Revista De Direito Sanitário, 18 (1), pp. 121-139. https://doi.org/10.11606/issn.2316-9044.v18i1p121-139
13. Garrafa, V. (2005). Introdução à Bioética - Uma introdução à bioética. Revista do Hospital Universitário Ufma, São Luís - MA, v. 2, pp. 9-13. https://www.gov.br/ebserh/pt-br/hospitais-universitarios/regiao-nordeste/hu-ufma/ensino-e-pesquisa/revista-de-pesquisa-em-saude/v6-no2.pdf
14. Grosfoguel, R. (2012). Para descolonizar os estudos de economia política e os estudos pós-coloniais: transmodernidade, pensamento de fronteira e colonialidade global. Revista Periferia, 1 (2), pp. 41-91. https://doi.org/10.12957/periferia.2009.3428
15. Han, B. (2018). Psicopolítica: o neoliberalismo e as novas técnicas de poder. 10ª ed. Tradução de Maurício Liesen. Belo Horizonte: Editora Âyiné.
16. Hardt, M. (2000). A sociedade mundial de controle. In: Alliez, E. (Org.) (2000). Gilles Deleuze: uma vida filosófica. São Paulo: Editora 34.
17. Lazzarato, M. (2006). As revoluções do capitalismo (L. Corsini, Trad.). Rio de Janeiro: Civilização Brasileira.
18. Machado, D. (2021a). A modulação de comportamento nas plataformas de mídias sociais. In: Souza, J., Silveira, S. A. da; Avelino, R. (Orgs.) (2021). A sociedade de controle: manipulação e modulação nas redes sociais. São Paulo: Hedra.
19. Machado, D. (2021b). A colonização dos dados como produto das operações das mídias sociais no sul global. In: Cassino, J. F., Souza, J. & Silveira, S. A. da (Orgs.) (2021). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária.
20. Mignolo, W. (2010). Desobediencia epistémica: retórica de la modernidad, lógica de la colonialidad y gramática de la descolonialidad. Argentina: Ediciones del signo.
21. Minayo, M. C. S. (2008). Hermenêutica Dialética com caminho do pensamento social. In: Minayo, M. C. S. & Deslandes, S. F. (Orgs.). (2008). Caminhos do pensamento: epistemologia e método. Rio de Janeiro: Editora Fiocruz.
22. Morozov, E. (2018). Big Tech: a ascensão dos dados e a morte da política (C. Marcondes, Trad.). São Paulo: Ubu Editora.
23. Moraes, R. & Galiazzi, M. C. (2016). Análise textual discursiva. São Geraldo: Editora Unijuí.
24. Moura, C. (1983). Escravismo, colonialismo, imperialismo e racismo. Revista Afro-Ásia, (14), pp. 124-137. https://doi.org/10.9771/aa.v0i14.20824
25. Moura, C. (1988). Sociologia do negro brasileiro. São Paulo: Editora Ática.
26. Noguera, R. (2016). Sociedades de controle e o grito de Eric Garner: o racismo antinegro do cogito da mercadoria na (através da) filosofia de Deleuze. Revista Trágica: estudos de filosofia da imanência, 9 (1), pp. 47-65. https://doi.org/10.59488/tragica.v9i1.26641
27. Oliveira, M. J. & Osman, E. M. R. O. (2017). Pluralismo bioético: contribuições latino-americanas para uma bioética em perspectiva decolonial. Revista Bioética, 25 (1), pp. 52-60. https://doi.org/10.1590/1983-80422017251166
28. Pedro, R. M. L. R. & Chevitarese, L. (2005). Da sociedade disciplinar à sociedade de controle: a questão da liberdade por uma alegoria de Franz Kafka, em O Processo, e de Philip Dick, em Minority Report. Revista do Programa de Pós-Graduação em Sociologia da UFPE, 8 (1 e 2), pp. 129-162. https://periodicos.ufpe.br/revistas/revsocio/article/view/235443/28432
29. Porto, D. & Garrafa, V. (2005). Bioética de intervenção: considerações sobre a economia de mercado. Revista Bioética, 13 (1), pp. 111-123. https://revistabioetica.cfm.org.br/revista_bioetica/article/view/96/91
30. Quijano, A. (2002). Colonialidade, Poder, Globalização e Democracia. Revista Novos Rumos, (37). https://doi.org/10.36311/0102-5864.17.v0n37.2192
31. Quijano, A. (2010). Colonialidade do poder e classificação social. In: Santos, B. S. & Meneses, M. P. (Orgs.) (2010). Epistemologias do Sul. São Paulo: Cortez.
32. Revel, J. (2005). Foucault: conceitos essenciais. São Carlos: Claraluz.
33. Silva, T. (2021a). Colonialidade difusa no aprendizado de máquina: camadas de opacidade algorítimica na ImageNet. In: Cassino, J. F., Souza, J., Silveira, S. A. (Orgs.) (2021). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária.
34. Silva, T. (2021b, novembro 3). Palestra Racismo Algorítmico - NEABI do Campus Avançado Ubá. IF Sudeste MG. https://www.youtube.com/watch?v=F4CBYFLBUng
35. Silva, T. (2022). Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc.
36. Silva, T. (2023). Racismo algorítmico ou racialização digital? In: Faustino, D., Lippold, W. Colonialismo digital: por uma crítica hacker-fanoniana. 1ª ed. São Paulo: Boitempo.
37. Silveira, S. A. (2021a). A hipótese do colonialismo de dados e o neoliberalismo. In: Cassino, J. F., Souza, J. & Silveira, S. A. (Orgs.) (2021a). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária.
38. Silveira, S. A. (2021b). A noção de modulação e os sistemas algorítmicos. In: Souza, J., Silveira, S. A. & Avelino, R. (Orgs.) (2021b). A sociedade de controle: manipulação e modulação nas redes sociais. São Paulo: Hedra.
39. Sodré de Oliveira, F. A., Lucas, D. C. & Copetti Santos, A. L. (2022). Racismo e neoliberalismo como elementos subjetivos estruturantes: da dominação colonial em Frantz Fanon à Psicopolítica de Byung-Chul Han. Revista Direitos Humanos e Democracia, 10 (19). https://doi.org/10.21527/2317-5389.2022.19.13341
40. Zuboff, S. (2021). A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder (G. Schlesinger, Trad.). Rio de Janeiro: Intrínseca.

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.

Como citar

Santos, A. T. de L., Lima, D. F. de, Almeida, D. H. de, & Silva, J. M. da. (2024). DIREITOS HUMANOS E RACISMO ALGORÍTMICO: UMA ANÁLISE CRÍTICA DA COLONIALIDADE DIGITAL E SEUS EFEITOS PARA O CONTROLE DA SOCIEDADE. Derecho Y Cambio Social, 21(78), e21. https://doi.org/10.54899/dcs.v21i78.21

[1] Almeida, S. (2021). Racismo estrutural. São Paulo: Sueli Carneiro; Editora Jandaíra.

[2] Avelino, R. S. (2023). Colonialismo digital: tecnologias de rastreamento online e a economia informacional. 1ª ed. São Paulo: Alameda.

[3] Berigo, I. (2021). A Relativização dos Direitos Fundamentais no Sistema Prisional Brasileiro. Jusbrasil. https://www.jusbrasil.com.br/artigos/a-relativizacao-dos-direitos-fundamentais-no-sistema-prisional-brasileiro/1358933999

[4] Couldry, N. & Mejias, U. (2019). Data colonialism: rethinking big data’s relation to the contemporary subject. Television and New Media, 20 (4), pp. 336-349. https://doi.org/10.1177/1527476418796632

[5] Deleuze, G. (1992). Post-scriptum sobre as sociedades de controle. In: Deleuze, G. (1992). Conversações (1972-1990). 2008. Reimpressão, São Paulo: Editora 34.

[6] Faustino, D. & Lippold, W. (2023), Colonialismo digital: por uma crítica hacker-fanoniana. 1ª ed. São Paulo: Boitempo.

[7] Flores, J. H. (2009). A reinvenção dos direitos humanos. Editora Fundação Boiteux.

[8] Floridi, L. & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1 (1). http://dx.doi.org/10.2139/ssrn.3831321

[9] Foucault, M. (2005). Em Defesa da Sociedade. Curso no Collège de France (1975-1976). São Paulo: Martins Fontes.

[10] Foucault, M. (1988). História da sexualidade. Livro I: A vontade de saber. 13ª ed. Rio de Janeiro: Edições Graal.

[11] González, F. E. (2020). Reflexões sobre alguns conceitos da pesquisa qualitativa. Revista Pesquisa Qualitativa, 8 (17), pp. 155-183. https://doi.org/10.33361/RPQ.2020.v.8.n.17.322

[12] Garrafa, V., Amorin, K., Garcia, T. & Manchola, C. (2017). Bioética e Vigilância Sanitária. Revista De Direito Sanitário, 18 (1), pp. 121-139. https://doi.org/10.11606/issn.2316-9044.v18i1p121-139

[13] Garrafa, V. (2005). Introdução à Bioética - Uma introdução à bioética. Revista do Hospital Universitário Ufma, São Luís - MA, v. 2, pp. 9-13. https://www.gov.br/ebserh/pt-br/hospitais-universitarios/regiao-nordeste/hu-ufma/ensino-e-pesquisa/revista-de-pesquisa-em-saude/v6-no2.pdf

[14] Grosfoguel, R. (2012). Para descolonizar os estudos de economia política e os estudos pós-coloniais: transmodernidade, pensamento de fronteira e colonialidade global. Revista Periferia, 1 (2), pp. 41-91. https://doi.org/10.12957/periferia.2009.3428

[15] Han, B. (2018). Psicopolítica: o neoliberalismo e as novas técnicas de poder. 10ª ed. Tradução de Maurício Liesen. Belo Horizonte: Editora Âyiné.

[16] Hardt, M. (2000). A sociedade mundial de controle. In: Alliez, E. (Org.) (2000). Gilles Deleuze: uma vida filosófica. São Paulo: Editora 34.

[17] Lazzarato, M. (2006). As revoluções do capitalismo (L. Corsini, Trad.). Rio de Janeiro: Civilização Brasileira.

[18] Machado, D. (2021a). A modulação de comportamento nas plataformas de mídias sociais. In: Souza, J., Silveira, S. A. da; Avelino, R. (Orgs.) (2021). A sociedade de controle: manipulação e modulação nas redes sociais. São Paulo: Hedra.

[19] Machado, D. (2021b). A colonização dos dados como produto das operações das mídias sociais no sul global. In: Cassino, J. F., Souza, J. & Silveira, S. A. da (Orgs.) (2021). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária.

[20] Mignolo, W. (2010). Desobediencia epistémica: retórica de la modernidad, lógica de la colonialidad y gramática de la descolonialidad. Argentina: Ediciones del signo.

[21] Minayo, M. C. S. (2008). Hermenêutica Dialética com caminho do pensamento social. In: Minayo, M. C. S. & Deslandes, S. F. (Orgs.). (2008). Caminhos do pensamento: epistemologia e método. Rio de Janeiro: Editora Fiocruz.

[22] Morozov, E. (2018). Big Tech: a ascensão dos dados e a morte da política (C. Marcondes, Trad.). São Paulo: Ubu Editora.

[23] Moraes, R. & Galiazzi, M. C. (2016). Análise textual discursiva. São Geraldo: Editora Unijuí.

[24] Moura, C. (1983). Escravismo, colonialismo, imperialismo e racismo. Revista Afro-Ásia, (14), pp. 124-137. https://doi.org/10.9771/aa.v0i14.20824

[25] Moura, C. (1988). Sociologia do negro brasileiro. São Paulo: Editora Ática.

[26] Noguera, R. (2016). Sociedades de controle e o grito de Eric Garner: o racismo antinegro do cogito da mercadoria na (através da) filosofia de Deleuze. Revista Trágica: estudos de filosofia da imanência, 9 (1), pp. 47-65. https://doi.org/10.59488/tragica.v9i1.26641

[27] Oliveira, M. J. & Osman, E. M. R. O. (2017). Pluralismo bioético: contribuições latino-americanas para uma bioética em perspectiva decolonial. Revista Bioética, 25 (1), pp. 52-60. https://doi.org/10.1590/1983-80422017251166

[28] Pedro, R. M. L. R. & Chevitarese, L. (2005). Da sociedade disciplinar à sociedade de controle: a questão da liberdade por uma alegoria de Franz Kafka, em O Processo, e de Philip Dick, em Minority Report. Revista do Programa de Pós-Graduação em Sociologia da UFPE, 8 (1 e 2), pp. 129-162. https://periodicos.ufpe.br/revistas/revsocio/article/view/235443/28432

[29] Porto, D. & Garrafa, V. (2005). Bioética de intervenção: considerações sobre a economia de mercado. Revista Bioética, 13 (1), pp. 111-123. https://revistabioetica.cfm.org.br/revista_bioetica/article/view/96/91

[30] Quijano, A. (2002). Colonialidade, Poder, Globalização e Democracia. Revista Novos Rumos, (37). https://doi.org/10.36311/0102-5864.17.v0n37.2192

[31] Quijano, A. (2010). Colonialidade do poder e classificação social. In: Santos, B. S. & Meneses, M. P. (Orgs.) (2010). Epistemologias do Sul. São Paulo: Cortez.

[32] Revel, J. (2005). Foucault: conceitos essenciais. São Carlos: Claraluz.

[33] Silva, T. (2021a). Colonialidade difusa no aprendizado de máquina: camadas de opacidade algorítimica na ImageNet. In: Cassino, J. F., Souza, J., Silveira, S. A. (Orgs.) (2021). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária.

[34] Silva, T. (2021b, novembro 3). Palestra Racismo Algorítmico - NEABI do Campus Avançado Ubá. IF Sudeste MG. https://www.youtube.com/watch?v=F4CBYFLBUng

[35] Silva, T. (2022). Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc.

[36] Silva, T. (2023). Racismo algorítmico ou racialização digital? In: Faustino, D., Lippold, W. Colonialismo digital: por uma crítica hacker-fanoniana. 1ª ed. São Paulo: Boitempo.

[37] Silveira, S. A. (2021a). A hipótese do colonialismo de dados e o neoliberalismo. In: Cassino, J. F., Souza, J. & Silveira, S. A. (Orgs.) (2021a). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária.

[38] Silveira, S. A. (2021b). A noção de modulação e os sistemas algorítmicos. In: Souza, J., Silveira, S. A. & Avelino, R. (Orgs.) (2021b). A sociedade de controle: manipulação e modulação nas redes sociais. São Paulo: Hedra.

[39] Sodré de Oliveira, F. A., Lucas, D. C. & Copetti Santos, A. L. (2022). Racismo e neoliberalismo como elementos subjetivos estruturantes: da dominação colonial em Frantz Fanon à Psicopolítica de Byung-Chul Han. Revista Direitos Humanos e Democracia, 10 (19). https://doi.org/10.21527/2317-5389.2022.19.13341

[40] Zuboff, S. (2021). A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder (G. Schlesinger, Trad.). Rio de Janeiro: Intrínseca.

Resumo

Referências

Como citar