La “censura” y el “bloqueo” de los usuarios se han revelado como herramientas “ineficaces” para combatir el delito de odio en las redes sociales, por lo que es más recomendable apostar por la “argumentación y la contranarrativa”, según explicó María Vanina Martínez, científica titular del Instituto de Investigación en Inteligencia Artificial (IIIA) del Consejo Superior de Investigaciones Científicas (CSIC).
En la presentación de su trabajo Regreso al futuro: razonamiento simbólico para combatir el mal uso de las redes sociales en la European Conference on Artificial Intelligence (ECAI 2024), que se celebra desde el 19 hasta el 24 de octubre en Santiago de Compostela, María Vanina Martínez aseveró que “la argumentación es mejor que la censura, porque ayuda a difundir un mensaje contra el odio que llegará a gente que no está necesariamente convencida o incluso implicada en la conversación”.
La investigadora del Instituto de Inteligencia Artificial de Catalunya (IIAC) apuntó que las redes sociales son una de las “principales formas de conectar y comunicarse” en la actualidad y su contenido, “generado automáticamente o no, influye en nuestras creencias en las decisiones que tomamos”. “Son herramientas útiles, pero también nos exponen a amenazas como la desinformación, contenido abusivo o tóxico, mensajes de odio, manipulación... y esto es peligroso teniendo en cuenta que las redes y la IA reproducen y multiplican sus efectos”, agregó.
Además, advirtió que los resultados actuales en la identificación de uso malicioso de las redes “no son buenos”, porque las compañías dueñas de las principales redes suelen externalizar este tipo de servicio y “combatir el uso malicioso en redes implica resolver tareas complejas y subjetivas que necesitan las sinergias entre herramientas automatizadas de IA y los humanos”.
Por ello, abogó por “usar la IA de forma efectiva para combatir la desinformación y los mensajes de odio en redes”, combinando métodos de aprendizaje automático y modelos basados en el lenguaje”. “Los modelos basados en el conocimiento, en particular los que se basan en la lógica y razonamiento, son útiles para identificar y combatir un uso malicioso de las redes sociales por ejemplo en el análisis e identificación de los mensajes de odio y la generación de contranarrativa para combatirlos”, añadió.
Según explicó, los mensajes de odio en redes se resuelven con “eliminación de contenido y bloqueo de usuarios”, lo que permite prevenir una mayor difusión, aunque “no tiene un impacto real si estos mensajes ya han sido interiorizados por una parte de la población”. “Además, estas prácticas atentan contra la libertad de expresión”, subrayó.
María Vanina Martínez defendió que hay “patrones sistemáticos de argumentación en los mensajes de odio” y que “localizarlos automáticamente con IA ayudará a combatirlos”. De este modo, “el análisis de la argumentación automática permite más alternativas a la censura, como la recuperación de la argumentación y la generación automática de contraargumentos”.
Según dijo, la IA permitirá en el futuro “generar y entrenar contranarrativas para comunidades específicas” para combatir delitos de odio o bulos, como es el caso del negacionismo histórico o los conflictos bélicos como la Guerra de Ucrania o la de Israel con Palestina. A modo de ejemplo, citó el trabajo que se está realizando en Argentina con aficionados de fútbol y organizaciones sociales, en un país muy polarizado y en un ambiente general de crisis.
Ayudar a los países en vías de desarrollo
Por otra parte, la investigadora Yirui Jiang defendió que es necesario “aprovechar la IA para fomentar el desarrollo de alto nivel en los mercados emergentes”, porque permitirá a estos países “escapar de alguna etapa de desarrollo particular por la que ya han atravesado otros países más avanzados”.
Según explicó en su intervención en la sesión Birds of a Feather (BoF), la IA ayuda a estos países a proponer “nuevos conceptos y procesar grandes cantidades de datos”, traer más oportunidades laborales y mejorar la eficiencia laboral, por lo que supondrá un impulso de su economía. En opinión Jiang, desde la perspectiva social, la IA puede “integrarse en la industria de la salud, la industria minorista, reducir las emisiones de carbono y resolver los problemas del cambio climático”.
Tu opinión enriquece este artículo: