Ante la creciente preocupaci\u00f3n por la propagaci\u00f3n de los discursos de odio en Internet y, en especial, en las plataformas sociales, el Ministerio de Inclusi\u00f3n, Seguridad Social y Migraciones ha dado a conocer un protocolo algor\u00edtmico cuyo objetivo es automatizar la detecci\u00f3n de estos discursos ilegales. Se trata de un sistema de procesamiento del lenguaje natural, entrenado en base a una serie de palabras clave, que se consideran determinantes en la detecci\u00f3n de posibles discursos de odio.<\/p>\n
Esta decisi\u00f3n se enmarca en un contexto de auge del uso de sistemas de inteligencia artificial por parte de las instituciones p\u00fablicas que, no obstante, queda a menudo fuera del conocimiento y el debate p\u00fablico. Esta ponencia analiza esta problem\u00e1tica desde la perspectiva de la democracia, la justicia social y la defensa de los derechos humanos.<\/p>\n
Una primera cuesti\u00f3n a valorar es c\u00f3mo este sistema puede afectar a la sociedad y, en este caso particular, al cumplimiento de derechos fundamentales como la privacidad, la protecci\u00f3n de datos o la libertad de expresi\u00f3n. Para que esta reflexi\u00f3n pueda darse cabe reivindicar, por una parte, transparencia sobre sus objetivos, los actores implicados en su adopci\u00f3n, las personas o los grupos afectados, etc. y, por otra, cabe resaltar la importancia de establecer un consenso social al respecto.<\/p>\n
En segundo lugar, es importante prestar atenci\u00f3n a los aspectos m\u00e1s t\u00e9cnicos de esta herramienta tecnol\u00f3gica, para valorar si se adapta de forma coherente a la realidad social en la que opera. Esto implica conocer c\u00f3mo se configuran: en base a qu\u00e9 criterios se programa, cu\u00e1l es su forma de aprendizaje, los potenciales sesgos impl\u00edcitos, etc. En la mayor\u00eda de los casos, estos sistemas operan como cajas negras, impidiendo la comprensi\u00f3n, el control democr\u00e1tico, e incluso la trazabilidad de los motivos que llevan a la decisi\u00f3n final.<\/p>\n
El algoritmo que se incluye en este protocolo del Gobierno es un ensayo piloto. \u00bfPero cu\u00e1l ser\u00e1 su impacto cuando se empiece a usar? En el campo de la libertad de expresi\u00f3n, las empresas gestoras de las plataformas sociales llevan a\u00f1os recibiendo cr\u00edticas por la opacidad de sus\u00a0<\/em>criterios de moderaci\u00f3n de contenidos, que ni son p\u00fablicos ni respetan los est\u00e1ndares internacionales. El hecho de que ahora las instituciones p\u00fablicas traten de establecer un protocolo que supere este monopolio de las empresas privadas, es una buena noticia. Pero, para evitar que las herramientas p\u00fablicas caigan en los mismos problemas de opacidad y funcionamiento antidemocr\u00e1tico que ya exist\u00edan hasta el momento, es necesario promover el debate ciudadano, libre e informado, sobre el tipo de tecnolog\u00eda que queremos y para qu\u00e9 la queremos, y tambi\u00e9n establecer mecanismos efectivos de control y decisi\u00f3n colectiva.<\/p>\n","protected":false},"author":29,"template":"","podcast_category":[],"podcast_tag":[1229,1232,968,813,1233,1231,1230,1234],"podcast_programa":[1228],"class_list":["post-7357","podcast","type-podcast","status-publish","hentry","podcast_tag-algoritmo","podcast_tag-decidimfest21","podcast_tag-discurso-de-odio","podcast_tag-inteligencia-artificial","podcast_tag-laia-serra","podcast_tag-libertad-de-expresion","podcast_tag-plataformas-sociales","podcast_tag-sara-suarez","podcast_programa-decidim-fest-21"],"acf":[],"_links":{"self":[{"href":"https:\/\/xrclab.cat\/ca\/wp-json\/wp\/v2\/podcasts\/7357","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xrclab.cat\/ca\/wp-json\/wp\/v2\/podcasts"}],"about":[{"href":"https:\/\/xrclab.cat\/ca\/wp-json\/wp\/v2\/types\/podcast"}],"author":[{"embeddable":true,"href":"https:\/\/xrclab.cat\/ca\/wp-json\/wp\/v2\/users\/29"}],"wp:attachment":[{"href":"https:\/\/xrclab.cat\/ca\/wp-json\/wp\/v2\/media?parent=7357"}],"wp:term":[{"taxonomy":"podcast_category","embeddable":true,"href":"https:\/\/xrclab.cat\/ca\/wp-json\/wp\/v2\/podcast_category?post=7357"},{"taxonomy":"podcast_tag","embeddable":true,"href":"https:\/\/xrclab.cat\/ca\/wp-json\/wp\/v2\/podcast_tag?post=7357"},{"taxonomy":"podcast_programa","embeddable":true,"href":"https:\/\/xrclab.cat\/ca\/wp-json\/wp\/v2\/podcast_programa?post=7357"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}