Esta semana quiero referirme a un tema difícil, y que precisamente en el transcurso de estos días recibí, por parte de un lector, la petición de comentar sobre ello.
La llegada de tecnologías basadas en Inteligencia Artificial (IA) ha desencadenado avances significativos en diversas áreas; pero también ha planteado desafíos éticos y sociales.
Entre estos desafíos, la capacidad de clonar voces a partir de muestras de audio ha generado controversias considerables.
La capacidad de replicar la voz de una persona con precisión a través de algoritmos de (IA) ha generado una psicosis en diferentes países, y México no es la excepción.
Estos sistemas son capaces de generar mensajes de audio aparentemente auténticos a partir de muestras de voz de individuos específicos.
La clonación de voces plantea riesgos de manipulación de la identidad, ya que las grabaciones falsas pueden utilizarse para difamar o calumniar a individuos y, peor aún, la comisión de delitos graves como extorsiones y fraudes de todo tipo.
Todo lo anterior involucra grandes desafíos legales y jurídicos y, más grave aún, por el hecho de no contar con ningún tipo de regulación, que pudiera representar cierta seguridad y tranquilidad a la sociedad.
También representa un grave impacto psicológico en la sociedad, ya que esto está generando una paranoia respecto del uso indiscriminado de la tecnología.
Existen soluciones para un reto tan grande como este, y muchos otros que ya están aquí derivados del uso generalizado de la (IA).
Primero que nada, hay que generar un marco jurídico que regule y delimite las áreas de operación de estas herramientas.
Segundo, hay que invertir en desarrollar tecnologías de detección de voces clonadas, así como es posible clonar una voz a través de una herramienta, podemos crear otra herramienta, que detecte con mucha precisión que se trata de una voz no auténtica.
Hoy ya se cuenta con herramientas que detectan con gran precisión y de inmediato, el uso de (IA) en la elaboración de textos.
Y un elemento fundamental para que se preserve la ética y el buen uso de las tecnologías, es el de establecer un programa muy amplio de educación y concientización de toda la sociedad, respecto a cómo debemos manejar estas tecnologías para que sirvan a su propósito original, que no es otro, que el del bienestar de la humanidad.
