El avance en modelos de inteligencia artificial generativa (IAG) como GPT-4 y Claude 3 ha generado muchas expectativas.
Al mismo tiempo, es innegable el hecho de que estos modelos generan información inexacta.
Las denominadas "alucinaciones" de la IA, donde el sistema genera información incorrecta o engañosa, no siempre son meros errores técnicos.
Este fenómeno es un desafío ético.
Según la encuesta del Pew Research Center, a una gran mayoría de las personas les preocupa que la IAG le impacte negativamente en su vida cotidiana.
Esta preocupación es superior al interés por las posibilidades que ofrece esta herramienta.
El uso de la IAG para la generación de información plantea un problema más amplio: la desestabilización de la confianza pública en los nuevos modelos de las herramientas tecnológicas.
La información inexacta es una amenaza para la misma noción de realidad en la que la sociedad confía.
Las alucinaciones generan desconfianza y pueden convertirse en un acelerador de conflictos.
Jean Baudrillard, en su teoría de la "simulación de la realidad", ofrece un anuncio de este desafío: ¿estamos avanzando hacia un punto donde la frontera entre lo real y lo generado por IAG se puede volver peligrosamente borrosa?
De Nick Bostrom, conocido por su trabajo sobre los riesgos existenciales de la tecnología, podemos utilizar sus advertencias y aplicarlas a la IAG en materia de la propagación de errores que pone en riesgo la confianza y disminuye la credibilidad de las instituciones públicas y privadas que hacen uso de ella.
¿Antídoto contra las alucinaciones?
Transparencia, regulación ética y uso crítico.
Las empresas y desarrolladores de IAG deben dar el primer paso y ser transparentes sobre los límites de sus tecnologías.
Al mismo ritmo, es necesario implementar una regulación ética clara.
La convivencia pacífica requiere fortalecer continuamente la confianza y la cohesión social. Es muy difícil cumplir este sueño sin una ruta firme y sostenible.
La educación crítica es clave.
Necesitamos una cultura donde los usuarios tengan las herramientas para cuestionar la información que reciben, para analizar las causas y alcances de la desinformación.
Con el objetivo de reducir el impacto negativo que las "alucinaciones" de la IAG podrían tener en la sociedad.
¿Qué podemos soñar? La promoción de una alfabetización digital crítica. Es una tarea titánica que permite soñar en un nuevo oleaje civilizatorio.
¿Es posible? No lo sé, pero es necesario.
La IAG debe ser un medio para mejorar la vida humana, no una amenaza para la verdad y la paz.
En ese sentido, la IAG puede abrir la puerta hacía una nueva etapa de convivencia. No es una oportunidad menor.
En un presente que genera dudas razonables sobre un futuro promisorio, esta “puerta” que se abre merece la pena que la exploremos y le demos una oportunidad, sin renunciar a nuestro análisis crítico.
@perezyortiz
