Francesc Torralba, filósofo: "La IA puede triturar la democracia y atrofiar la inteligencia"

El filósofo y teólogo Francesc Torralba interviene hoy en Palma en el marco del curso de verano de la UNED Inteligencia artificial, economía y desafíos éticos con una ponencia titulada 'Dilemas éticos de la inteligencia artificial'.

¿Desde qué perspectiva abordará la conferencia?

Me interesa destacar la necesidad de una gobernanza ética y responsable de la inteligencia artificial. Eso implica identificar los principios que deben regularla y cómo aplicarlos en distintos ámbitos: la educación, la sanidad, la administración… Pero también quiero subrayar las situaciones problemáticas que está generando la IA en muchos campos. Son lo que llamamos dilemas: situaciones que desbordan nuestras estructuras de decisión y nos enfrentan a preguntas difíciles sin respuestas claras, porque estamos ante sistemas muy sofisticados y potentes que impactan en nuestra vida personal, laboral, de consumo… pero que aún no están regulados por comités de ética ni por una reflexión pausada.

¿Cuál sería un ejemplo concreto?

Uno muy claro es la creación de voces e imágenes. Hoy podemos generar con IA una voz idéntica a la de un artista, un político, un pensador. También podemos crear imágenes prácticamente indistinguibles de las reales. ¿Cómo distinguimos entonces si unas palabras realmente las dijo esa persona o si son una construcción? Esto puede emplearse para destruir reputaciones, poner en boca de alguien cosas que nunca dijo, desestabilizar un gobierno… Es un dilema de veracidad muy profundo.

También menciona la creación artística.

Claro. Una IA puede hoy crear una poesía bellísima sobre el amor, la muerte o la paternidad. ¿Cómo lo hace? Reuniendo versos y fragmentos de obras digitalizadas en la red, sintetizándolos y construyendo algo nuevo. Pero ahí surge el problema: ¿quién es el autor de ese poema? ¿La persona que pulsó el botón? ¿La IA? ¿Los autores de los fragmentos originales? Esto también pasa con la pintura, el cine, la novela… Estamos hablando de una suplantación de la autoría y de la creatividad humana, y eso es éticamente muy delicado.

¿Y en el ámbito educativo?

Es muy preocupante. Hay estudiantes que, en lugar de hacer un resumen, un análisis, un trabajo propio, directamente lo encargan a una IA. Esto afecta a su desarrollo intelectual: no ejercitan la memoria, ni la comprensión, ni la creatividad. Si estos sistemas no se gobiernan bien, no solo no nos ayudan, sino que pueden perjudicarnos profundamente. Pueden triturar la democracia, la creatividad, incluso atrofiar facultades humanas esenciales como la inteligencia o la imaginación.

¿Estamos confiando demasiado en la IA?

Sin duda. Hace falta educar el sentido crítico. La filosofía nace de la crítica. Hoy veo dos actitudes dominantes: la tecnofobia —el miedo a ser reemplazado por máquinas— y la tecnolatría, que es una especie de fascinación acrítica. Ambas son peligrosas. Necesitamos una mirada crítica: saber qué nos aportan estas herramientas, pero también qué límites deben tener. Y, sobre todo, no perder nuestra capacidad de cuestionar.

Muchos jóvenes confían en ChatGPT para informarse o estudiar.

Sí, y eso es preocupante. Muchos me dicen: “Lo he leído en internet”. ¿Y eso qué significa? En internet circulan mentiras monumentales. Muchas veces creadas deliberadamente para desacreditar a una persona, una institución, un país. Lo mismo pasa con la IA: estos sistemas organizan y sintetizan la información digital que encuentran, pero no pueden discernir si es verdadera o falsa. Nosotros sí tenemos esa capacidad crítica. Por eso no podemos cederla.

¿Podría la IA aumentar la soledad?

Absolutamente. Ya pasa en países como Japón. Muchos jóvenes se encierran en su habitación y viven ahí. El mundo exterior es difícil, lleno de frustraciones, de rechazo. En cambio, en el entorno digital encuentran lo que quieren: juegos, entretenimiento, paisajes… y se refugian ahí. Abandonan la vida real y se crean un avatar: una personalidad ficticia, idealizada. Pero eso nos puede alejar de lo esencial, de la vida concreta y de los vínculos humanos reales.

Aunque también tiene un lado positivo.

Por supuesto. Gracias a la tecnología podemos comunicarnos con hijos que están lejos, parejas, amigos. Nos conecta con culturas y personas que físicamente están muy lejos. Pero también nos puede aislar de quienes tenemos cerca. Basta ir a un restaurante y ver a una familia entera mirando su móvil, sin hablarse. Por eso digo que la tecnología es ambivalente: puede aislarnos o puede unirnos. Todo depende del uso que hagamos de ella.

¿Y qué papel deben jugar las familias y la escuela?

Un papel clave. No podemos dejar a un niño solo frente a una pantalla, accediendo a contenidos para los que no está preparado. Ahí ve violencia, pornografía, lenguaje malsonante… y todo eso se va acumulando en su mente como un vertedero. Eso no le hace ningún bien. Necesitamos una tutoría constante por parte de los padres y de los docentes. Solo cuando ese niño tenga la madurez suficiente podrá autorregular su uso y diferenciar lo que le conviene de lo que no.

Suscríbete para seguir leyendo