Deepfake, la última pesadilla de Corea del Sur

Deepfake y el riesgo de enseñar tecnología a niños sin ética

En los últimos días, el deepfake tomó protagonismo entre las noticias que nos llegan desde Corea del Sur. El acoso y la violencia digital son pasados por alto; la educación sobre el uso ético es descuidada
Con el aumento de los delitos sexuales relacionados con deepfakes entre estudiantes de primaria, secundaria y preparatoria, los expertos en medios advierten que tales incidentes eran inevitables debido a la ausencia de una educación integral sobre ética digital.

Los crímenes bajo este sistema, no han surgido de la nada. El acoso en línea, compartir videos violentos y otras formas de delincuencia digital entre niños y adolescentes vienen siendo problemas persistentes.

A pesar de esto, prácticamente no ha habido educación sobre el uso ético de los dispositivos digitales. Esta falta de educación ha llevado a niños y adolescentes a crear y circular videos deepfake sexualmente explícitos con sus amigos, maestros y familiares.

Los expertos advierten que si el gobierno y las escuelas continúan ignorando la necesidad de educación mediática, surgirán problemas aún mayores.

El gran problema de deepfake de Corea del Sur

CONSIGUE LOS MEJORES DESCUENTOS EN VUELOS DEL MUNDO AQUÍ

La educación digital en Corea del Sur se centra principalmente en cómo usar dispositivos digitales. Los estudiantes de primaria aprenden sobre los medios en las clases de lengua coreana, mientras que los estudiantes de secundaria y preparatoria estudian temas digitales en las clases de tecnología de la información.

Sin embargo, estas lecciones se centran en el uso de dispositivos o software. Hay poca o ninguna educación en alfabetización mediática, que enseñe el uso crítico y ético de los medios.

Aunque la Comisión de Comunicaciones de Corea (KCC) y la Agencia Nacional de la Sociedad de la Información ofrecen clases únicas de “ética digital” a las escuelas que lo solicitan, estas suelen ser superficiales.

Shim Jae-woong, profesor de estudios de medios en la Universidad de Mujeres Sookmyung, criticó este enfoque, diciendo: “La alfabetización mediática es un poder acumulado a través de la educación a largo plazo, pero el currículo escolar actual es meramente un gesto simbólico”.

Ciudadanía digital

En contraste, países como Finlandia, Estados Unidos, Australia y Alemania proporcionan educación sistemática en alfabetización mediática desde los grados inferiores de la escuela primaria.

Estos programas incluyen discusiones y ejercicios prácticos sobre los conflictos éticos y los impactos negativos de la tecnología digital.

Lee Moon-hyung, profesor de animación y cine en la Universidad Yuhan, dijo: “En Finlandia, hay una clase donde los estudiantes editan sus propias fotos para entender cuán fácilmente se pueden crear ‘noticias falsas’. Esto entrena a los jóvenes para analizar y juzgar críticamente el contenido digital“.

La educación en alfabetización digital también enfatiza la “ciudadanía digital”, que anima a los individuos a actuar responsablemente en espacios en línea y participar en cuestiones comunitarias.

Miembros del partido progresista pidiendo medidas sobre el tema de deepfake

TODOS LOS ARTÍCULOS OFICIALES DE TUS IDOLS FAVORITOS AQUÍ

Sin acción, surgirán problemas más graves

Sin embargo, la respuesta del gobierno surcoreano a los crímenes de deepfake ha sido mayormente reactiva, centrándose en penas más fuertes y la rápida eliminación de contenido ilegal de plataformas como Telegram. No se menciona la educación en alfabetización digital, una medida fundamental para prevenir que surjan delincuentes en primer lugar.

Este problema ha conmocionado a muchos, ya que los adolescentes son tanto perpetradores como víctimas de crímenes sexuales de deepfake. Sin embargo, las señales de advertencia han sido evidentes durante años. En 2019, los crímenes sexuales de deepfake que involucraban a celebridades fueron llevados a la atención pública.

Según el “Informe Deepfake 2023” de Security Hero, Corea del Sur es el país más vulnerable a la pornografía deepfake a nivel mundial, con 8 de los 10 principales sujetos siendo cantantes coreanos.

Sin una educación adecuada, los crímenes digitales entre adolescentes inevitablemente empeorarán. A medida que la tecnología avanza rápidamente, la brecha de conocimiento entre las generaciones más jóvenes y las mayores se ampliará, dejando a estas últimas impotentes.

Shim dijo: “Si no hacemos obligatoria la educación en alfabetización mediática incluso ahora, podrían surgir problemas mucho más graves que los deepfakes”.

Kang Jin-sook, profesora de medios y comunicación en la Universidad Chung-Ang, dijo: “La educación en alfabetización mediática necesita ser institucionalizada por ley. En países avanzados, es obligatoria para los estudiantes más jóvenes, y las leyes relacionadas con la juventud incluyen disposiciones de educación en alfabetización mediática“.

Los medios y las familias deben llamarlo ‘crimen’

Las escuelas y las familias también tienen roles críticos que desempeñar. Jung Hyun-sun, directora del Instituto de Investigación de Alfabetización Mediática en la Universidad Nacional de Educación de Gyeongin, dijo: “Las escuelas deberían incluir la alfabetización mediática en sus horas de currículo autoorganizado, y no deberían rehuir permitir que los estudiantes discutan el problema actual de los deepfakes“.

La comunidad de padres pide educación preventiva y no castigos por el uso de deepfake en Corea del Sur

TAMBIÉN PUEDES LEER Patrimonio Cultural de Corea del Sur: Palacios y Tours Nocturnos

Los medios también necesitan definir adecuadamente los deepfakes. Shim dijo: “Algunos medios describen los deepfakes como parte de la ‘cultura juvenil’, pero deberían abstenerse de usar términos como juego, cultura o diversión y etiquetarlo claramente como un ‘crimen‘”.

También aconsejó a los padres: “En lugar de advertir vagamente, ‘No uses Telegram o te meterás en problemas’, deberían hablar directa y explícitamente con sus hijos sobre los riesgos potenciales de convertirse en perpetradores y cómo manejar situaciones si se convierten en víctimas“.

Otros casos en el mundo que nos invitan a reflexionar sobre esta tecnología

Los deepfakes se han convertido en un problema global que afecta a diversos países y sectores. Aunque Corea del Sur tiene una de las tasas más altas de vulnerabilidad a la pornografía bajo este medio, el problema es de alcance mundial. Algunos casos y tendencias notables incluyen:

Caso de pornografía deepfake en España (2021):
Una menor creó deepfakes pornográficos de sus compañeras de clase y los distribuyó en redes sociales, lo que llevó a un debate sobre la legislación y la educación digital.
Deepfakes en política:
En 2018, un video con esta tecnología de Barack Obama fue creado para demostrar el potencial de la tecnología para la desinformación política.

En 2019, un video creado de Mark Zuckerberg circuló en Instagram, mostrando al CEO de Facebook aparentemente hablando sobre el poder de controlar datos.

Deepfakes en el mundo empresarial:

En 2019, se reportó un caso de fraude donde criminales usaron deepfakes de voz para imitar a un CEO y autorizar una transferencia de €220,000.

Deepfakes en el entretenimiento:

El uso de este medio para recrear actores fallecidos en películas ha generado debates éticos en Hollywood.

Esfuerzos legislativos globales:

La Unión Europea ha propuesto regulaciones para abordar los deepfakes en su Ley de Servicios Digitales.
Estados Unidos ha introducido el “DEEPFAKES Accountability Act” para regular la creación y distribución de contenido sintético.

Cómo funciona el deepfake que tanto está afectando a Corea

TODOS LOS PRODUCTOS DE K-BEAUTY SIN PAGAR DE MÁS DIRECTO DE COREA A TU HOGAR

Iniciativas tecnológicas:

Empresas como Microsoft y Facebook han desarrollado herramientas para detectar este uso.
El proyecto “Reality Defender” utiliza IA para identificar contenido sintético en tiempo real.

El problema de los deepfakes es particularmente preocupante debido a su potencial para:

-Socavar la confianza en la información visual y auditiva.
-Facilitar el acoso y la explotación sexual.
-Influir en elecciones y opinión pública.
-Dañar reputaciones personales y corporativas.

La comunidad internacional reconoce cada vez más la necesidad de:

-Desarrollar tecnologías de detección más avanzadas.
-Implementar marcos legales y éticos robustos.
-Mejorar la alfabetización mediática y la educación digital.
-Fomentar la colaboración entre gobiernos, empresas tecnológicas y sociedad civil para abordar este desafío global.

El caso de Corea del Sur destaca la urgencia de abordar este problema, especialmente entre los jóvenes, pero es un reflejo de una tendencia mundial que requiere una respuesta coordinada y multifacética de forma global.