Preocupación por herramienta de IA capaz de crear videos para perjudicar a una persona

En un contexto donde la desconfianza en las palabras es prominente y las opiniones, especialmente en redes sociales, se polarizan y se vuelven incendiarias, surge la preocupación por una herramienta capaz de crear videos donde se pueda perjudicar fácilmente a una persona con escenas inventadas. Además, el fenómeno de los Deep Fake, que son noticias falsas que parecen reales a simple vista, agrega una capa adicional de preocupación. Sora, la nueva herramienta de Inteligencia Artificial de OpenAI, representa un ejemplo de esta preocupación.

Un caso reciente y sonado involucró a Taylor Swift y la circulación de imágenes pornográficas falsas de ella. Esto ilustra cómo estas tecnologías pueden ser utilizadas de manera perjudicial sin el consentimiento de las personas afectadas. La dificultad para distinguir entre la realidad y la ficción en las imágenes generadas por IA contribuye a la incertidumbre y el descrédito.

Aunque existen herramientas para detectar imágenes falsas, su desarrollo es superado constantemente por nuevas tecnologías, lo que crea un vacío en la capacidad para discernir la veracidad de lo que se ve en línea. Organizaciones como el Global Investigative Journalism Network ofrecen recursos para detectar imágenes falsas, pero la velocidad del avance tecnológico presenta un desafío constante.

El aspecto legal y regulatorio de estas tecnologías está rezagado en comparación con su desarrollo técnico. Jaron Lanier sugiere que la solución para combatir los Deep Fake es establecer sistemas sólidos y no falsificables para rastrear las fuentes de las imágenes. Sin embargo, aún no se ha definido claramente qué significa privacidad en el contexto de internet, lo que agrega una capa de complejidad adicional al problema.

Sora afirma estar atenta a cuestiones legales y tener un comité de ética, pero la naturaleza en constante evolución de la Inteligencia Artificial plantea desafíos significativos para el control y la regulación. La incertidumbre sobre el futuro de estas tecnologías genera preocupación, especialmente en relación con la seguridad y la responsabilidad de los individuos al interactuar con la información en línea.

Ver también

Así puedes activar el «modo Word» en tu WhatsApp

¿Cansado de los mensajes aburridos y monótonos? ¡Dale un toque de estilo a tus conversaciones …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *