Imagina la escena.
Un vehículo autónomo circula por una avenida cualquiera de una ciudad cualquiera. No va demasiado rápido. Respeta la velocidad permitida, mantiene la distancia de seguridad, interpreta señales, semáforos, peatones, ciclistas, vehículos aparcados, obras, sombras, reflejos, movimientos imprevistos. Todo aquello que para una persona sucede casi como una intuición, para el sistema se convierte en datos, cálculos, probabilidades y escenarios posibles.
Unos metros más adelante hay un paso de cebra. El semáforo está en verde para los vehículos y en rojo para los peatones. En la acera espera una mujer embarazada de cinco meses. Tiene cogido de la mano a un niño de dos años.
De pronto, el niño se suelta.
No es una escena cinematográfica. No hay música dramática ni cámara lenta. Apenas hay tiempo. El niño se dispone a cruzar justo cuando el vehículo se aproxima al paso de cebra. En milésimas de segundo, el sistema calcula velocidad, distancia, adherencia, ángulo de giro, capacidad de frenado, obstáculos cercanos y probabilidad de impacto. Valora maniobras posibles. Algunas podrían poner en peligro la vida de la madre. Otras, la del niño.
Y entonces aparece la pregunta incómoda: ¿qué hará el vehículo?
La respuesta técnica puede hablar de sensores, algoritmos, modelos predictivos, normas de tráfico, sistemas de emergencia y reducción de daños. Pero, en el fondo, hay otra pregunta mucho más difícil: ¿qué criterio moral se ha introducido en esa máquina?
Porque ese vehículo no "decide" como decidimos las personas. No siente angustia, no se queda paralizado, no se arrepiente, no mira a los ojos, no comprende qué significa una vida truncada, una maternidad interrumpida, una infancia perdida o una familia rota. El vehículo calcula. Ejecuta una arquitectura de decisión diseñada por seres humanos. Por eso, aunque parezca que la decisión la toma la máquina, una parte de esa decisión ya fue tomada antes, en otro lugar, por otras personas: ingenieros, legisladores, empresas, comités éticos, responsables públicos y también, en cierto modo, por la sociedad que aceptó o no preguntarse a tiempo por estos dilemas.
Este ejemplo nos recuerda al conocido dilema del tranvía, ese experimento mental en el que debemos elegir entre dejar que un tranvía atropelle a varias personas o intervenir para desviarlo hacia una vía donde morirá una sola. Durante años, muchos lo han visto como un juego filosófico algo artificial. Una pregunta de aula, de libro, de conversación universitaria. Sin embargo, la inteligencia artificial ha traído ese tipo de dilemas al centro de nuestra vida tecnológica. No porque todos los coches autónomos vayan a encontrarse cada día ante una escena tan extrema, sino porque cada sistema que automatiza decisiones incorpora, de forma explícita o implícita, una visión sobre lo que importa, lo que se prioriza y lo que se considera aceptable.
De hecho, el experimento Moral Machine, impulsado desde el MIT y publicado en Nature, exploró precisamente cómo distintas personas y culturas respondían ante dilemas morales planteados a vehículos autónomos. El estudio mostró que no existe una respuesta universal sencilla, sino preferencias morales atravesadas por valores culturales, sociales y políticos.
Y aquí es donde la Filosofía deja de parecer una asignatura del pasado para convertirse en una necesidad del presente.
Durante mucho tiempo, hemos cometido el error de pensar que la tecnología avanza por un lado y las humanidades por otro. Como si la primera perteneciera al futuro y las segundas fueran una especie de patrimonio cultural, valioso pero prescindible. Algo bonito, sí, pero poco práctico. Sin embargo, cuanto más poder adquieren los sistemas de inteligencia artificial, más evidente se vuelve la fragilidad de esa separación.
La inteligencia artificial ya está presente en tareas que hace muy poco parecían reservadas a la inteligencia humana: redacta, resume, traduce, clasifica, recomienda, detecta patrones y nos ayuda a tomar decisiones en contextos cada vez más complejos. Todo eso tiene un valor enorme, pero no resuelve la cuestión de fondo. Ninguna de esas capacidades sustituye nuestra responsabilidad de preguntarnos qué es justo, qué es verdadero, qué límites no deberíamos cruzar y qué tipo de sociedad estamos construyendo cuando empezamos a delegar determinadas decisiones en máquinas.
La inteligencia artificial no es una herramienta técnica aislada. Su presencia está modificando nuestra relación con ideas tan profundas como la verdad, el conocimiento, la autoría, el juicio o la responsabilidad. No estamos únicamente ante una tecnología que hace cosas por nosotros, sino ante un cambio que afecta a la forma en que interpretamos el mundo y tomamos decisiones dentro de él.
Y aquí aparece una paradoja difícil de justificar ya que cuanto mayor es la sofisticación algorítmica, mayor es también la necesidad de pensamiento crítico, ético y conceptual. Sin embargo, justo en este momento histórico, la Filosofía y las Humanidades han ido perdiendo peso en muchos planes educativos.
Estamos entregando más decisiones a sistemas automatizados mientras reducimos el espacio educativo dedicado a aprender a pensar sobre esas decisiones.
Estamos entrando en una época en la que necesitaremos mirar con más cuidado aquello que las máquinas nos devuelven. Esta tensión se vuelve especialmente delicada cuando confundimos el cálculo con la comprensión. Un sistema puede detectar patrones con una precisión extraordinaria y, aun así, no entender las causas de lo que ocurre. Puede ofrecernos una respuesta convincente, bien formulada y aparentemente razonable, sin que eso la convierta automáticamente en verdadera. También puede sugerirnos el camino más eficiente, aunque ese camino no sea necesariamente el más justo, el más responsable o el más humano.
Esto no es una preocupación abstracta. Lo vemos cada día en la desinformación, en los sesgos algorítmicos, en los contenidos sintéticos, en los deepfakes, en la polarización emocional de las redes y en esa creciente dificultad para saber si lo que estamos viendo, leyendo o escuchando responde a hechos, intereses, manipulaciones o simples probabilidades generadas por una máquina.
La UNESCO adoptó en 2021 una Recomendación sobre la Ética de la Inteligencia Artificial, aplicable a sus 194 Estados miembros, en la que sitúa la protección de los Derechos Humanos, la dignidad, la transparencia, la justicia y la supervisión humana como pilares fundamentales. No deja de ser significativo que, en pleno auge de la IA, las instituciones internacionales estén insistiendo en algo que la Filosofía lleva siglos trabajando. No basta con poder hacer algo; hay que preguntarse si debemos hacerlo, en qué condiciones, con qué límites y con qué responsabilidad.
También la Unión Europea ha incorporado esta preocupación en el Reglamento de Inteligencia Artificial (AI Act). Desde el 2 de febrero de 2025, el artículo 4 exige que proveedores y responsables del despliegue de sistemas de IA garanticen un nivel suficiente de alfabetización en IA para las personas que trabajan con estos sistemas. Esta alfabetización no debería entenderse solo como aprender a usar herramientas, redactar buenos prompts o conocer funcionalidades. Eso sería quedarse en la superficie. Necesitamos una alfabetización más profunda, capaz de integrar pensamiento crítico, comprensión ética, conciencia de sesgos y responsabilidad social.
La OCDE ha señalado algo parecido al presentar su marco de alfabetización en IA para jóvenes: no se trata únicamente de enseñar competencias técnicas, sino de fomentar pensamiento crítico, creatividad y examen de las implicaciones éticas de la IA. Dicho de otra manera, no basta con preparar al alumnado para convivir con máquinas inteligentes; tenemos que prepararlo para no delegar en ellas su propio juicio.
Este es, bajo mi punto de vista, uno de los grandes desafíos educativos de nuestro tiempo.
Cuando hablamos de IA en educación solemos mirar antes la herramienta que el proceso de aprendizaje. Nos preocupa que el alumnado copie, que el profesorado no pueda detectar un trabajo generado artificialmente o que no sepamos si ChatGPT debe prohibirse, regularse o incorporarse al aula. Son preocupaciones legítimas, claro que sí. Pero quizá la cuestión de fondo sea otra. ¿Qué tipo de pensamiento estamos entrenando en una generación que puede obtener respuestas inmediatas sin atravesar el esfuerzo de formular bien sus preguntas?
Y claro, ¡pensar cuesta! Pensar exige detenerse, comparar, sospechar de la primera impresión, revisar argumentos, tolerar la duda, reconocer contradicciones, aceptar que uno puede estar equivocado. Pensar implica tiempo. Y precisamente por eso resulta tan incómodo en una cultura que premia la velocidad, la productividad y la respuesta instantánea.
La Filosofía es, en este sentido, una tecnología lenta. Una tecnología humana, antigua y profundamente actual. Nos enseña a detenernos, a examinar los fundamentos de nuestras propias creencias y a mirar con cierta distancia aquello que damos por evidente. Y eso, por mucho que avance la inteligencia artificial, ninguna herramienta puede hacerlo por nosotros.
Cuando una persona estudia Filosofía, no solo aprende nombres de autores, escuelas o teorías. Aprende, sobre todo, a pensar con más cuidado, distinguiendo un argumento de una ocurrencia, una opinión de una justificación y una emoción legítima de una conclusión precipitada. También aprende a identificar supuestos ocultos, a reconocer sesgos, a analizar las consecuencias de una idea y a mirar un mismo problema desde distintos marcos morales.
En un mundo mediado por algoritmos, todo esto deja de ser un lujo cultural para convertirse en una forma de defensa ciudadana. No basta con saber usar herramientas digitales; necesitamos comprender cómo se construyen sus respuestas, qué datos las alimentan, qué prejuicios pueden reproducir y qué realidades dejan fuera. La inteligencia artificial no nace en el vacío. Aprende de textos, decisiones, imágenes, clasificaciones y contextos creados por seres humanos. Por eso puede terminar funcionando como un espejo digital que amplifica desigualdades o formas de exclusión que ya estaban presentes en la sociedad.
Frente a esa realidad, las respuestas meramente técnicas se quedan cortas. Podemos ajustar modelos, limpiar datos o mejorar métricas, y todo eso será necesario, pero no suficiente. Si un sistema discrimina, invisibiliza o reproduce desigualdades, la pregunta no debería ser solo qué le pasa al algoritmo, sino qué nos pasa a nosotros para que el algoritmo haya aprendido eso.
Ahí la Filosofía vuelve a ser imprescindible, porque nos obliga a no quedarnos en la capa técnica del problema. Nos lleva al fondo y nos invita a preguntarnos qué entendemos por justicia, qué consideramos discriminación, cómo repartimos responsabilidad, qué papel debe tener la supervisión humana y qué derechos no pueden quedar subordinados a la eficiencia.
Volvamos al vehículo autónomo.
La escena del niño y la mujer embarazada nos incomoda porque nos obliga a formular algo que normalmente preferimos no mirar de frente. Hay decisiones en las que no existe una salida limpia. Podemos vestirlas de cálculo, podemos envolverlas en lenguaje técnico, podemos decir que el sistema minimiza daños, maximiza probabilidades de supervivencia o aplica reglas de seguridad vial. Pero, incluso así, queda una pregunta moral. ¿Quién decidió que ese era el criterio correcto?
Programar un sistema para proteger prioritariamente a sus ocupantes implica una ética distinta a la de diseñarlo para minimizar el daño total. También cambia mucho el criterio si solo se cuenta el número de vidas afectadas o si se incorporan variables como la vulnerabilidad, la edad, la responsabilidad en la situación o la probabilidad de supervivencia. Incluso la forma de decidir esos principios importa. Dejar que cada comprador configure la "ética" de su coche no tiene las mismas implicaciones que establecer normas públicas compartidas. Y, desde luego, no deberíamos aceptar que criterios de ese calibre se definan únicamente en un despacho corporativo, lejos de procesos transparentes, democráticos y deliberativos.
Por eso, la ética no puede ser un barniz añadido al final del desarrollo tecnológico. No puede ser una diapositiva bonita en una presentación corporativa ni un comité simbólico que legitime decisiones ya tomadas. La ética debe estar en el diseño, en los datos, en los objetivos, en las pruebas, en la evaluación de impacto, en la regulación y en la conversación social.
Para evitar que la ética llegue tarde, conviene mirar la IA desde dentro y no solo desde sus resultados. Importa saber cómo aprende una máquina, cómo valida sus respuestas y cómo puede ser corregida cuando se equivoca. Importa también preguntarnos qué partes de la experiencia humana quedan reconocidas dentro del modelo y cuáles desaparecen porque no encajan bien en los datos. Y, sobre todo, importa discutir el propósito del sistema, porque hacer más eficiente un proceso no significa necesariamente orientarlo hacia la dignidad de las personas o el bien común.
Puede sonar complejo, pero la idea de fondo es sencilla. Toda tecnología lleva dentro una forma de mirar el mundo. En un sistema de selección de personal, por ejemplo, hay una idea previa sobre qué entendemos por talento. En una herramienta de vigilancia, una concepción concreta de la seguridad. En una IA educativa, una determinada visión del aprendizaje. En una aplicación de productividad, una manera de interpretar el trabajo. Y en un coche autónomo, aunque no siempre lo veamos con claridad, hay una decisión previa sobre cómo valorar el riesgo, la responsabilidad y la vida humana.
La cuestión, por tanto, no es si la tecnología contiene ideas, porque siempre las contiene. La cuestión es si esas ideas serán pensadas, discutidas y gobernadas de forma consciente, o si quedarán escondidas bajo la falsa apariencia de neutralidad técnica.
Porque uno de los grandes riesgos de la IA no es que piense demasiado, sino que nosotros pensemos demasiado poco. El peligro está en aceptar sus respuestas porque llegan rápido, suenan ordenadas y parecen convincentes. También en confundir fluidez con verdad, delegar decisiones difíciles porque la máquina aparenta objetividad y renunciar, poco a poco, al esfuerzo de deliberar.
¿Qué ocurre cuando debilitamos la Filosofía justo cuando más la necesitamos?
En España, el debate sobre la presencia de la Filosofía en el currículo educativo lleva años abierto. La pérdida de peso de la Ética como materia obligatoria y autónoma en 4º de ESO, junto con la tendencia a sustituir una formación filosófica rigurosa por enfoques más genéricos de valores cívicos, ha generado preocupación en una parte importante de la comunidad educativa. El problema no es menor. Si una parte del alumnado termina su etapa obligatoria sin haber trabajado de forma sistemática la argumentación, la ética, la lógica o la reflexión sobre la verdad, estamos reduciendo su capacidad para desenvolverse críticamente en un mundo cada vez más mediado por sistemas automatizados.
No se trata de defender la Filosofía por nostalgia. No hablamos de mantener una asignatura porque "siempre ha estado ahí" o porque algunos le tengamos cariño. La cuestión es mucho más profunda. Una sociedad que reduce la formación filosófica está tomando una decisión política sobre el tipo de ciudadanía que quiere formar.
Podemos formar usuarios eficaces de herramientas digitales, consumidores veloces de información y profesionales adaptables al mercado. O podemos formar personas capaces de preguntar, cuestionar, argumentar, disentir, imaginar alternativas y participar con criterio en las decisiones que afectan a su vida.
Lo primero puede ser útil a corto plazo. Lo segundo es imprescindible para una democracia.
La inteligencia artificial va a transformar la educación, el trabajo, la sanidad, la justicia, la comunicación, la política y la forma en que nos relacionamos con el conocimiento. Ya lo está haciendo. Pero el debate central no debería ser si estamos a favor o en contra de la IA. Esa pregunta se queda corta. La pregunta importante es otra: qué humanidad queremos preservar mientras la incorporamos a nuestras vidas.
No necesitamos una ciudadanía tecnófoba, incapaz de reconocer el enorme potencial de estas herramientas. Sería absurdo negar que la IA puede ayudarnos a investigar mejor, diagnosticar antes, personalizar aprendizajes, automatizar tareas pesadas, mejorar procesos y abrir posibilidades extraordinarias. Pero tampoco necesitamos una ciudadanía tecnófila e ingenua, dispuesta a entregar su autonomía a cualquier sistema que prometa eficiencia. Necesitamos personas capaces de usar la IA sin obedecerla ciegamente, de aprovechar sus respuestas sin dejar de interrogarlas, de reconocer su utilidad sin confundirla con sabiduría y de exigir explicaciones cuando haya decisiones importantes en juego.
Quizá el gran reto educativo de nuestro tiempo no sea enseñar a usar inteligencia artificial, sino enseñar a pensar en un mundo donde la inteligencia artificial estará presente en casi todas partes.
Y conviene recordarlo. Pensar no consiste en producir respuestas sin descanso, sino en aprender a formular mejores preguntas. Preguntas que nos ayuden a identificar quién gana y quién pierde con cada sistema, qué datos lo alimentan, qué sesgos arrastra, qué realidades deja fuera y qué valores han quedado inscritos en su diseño.
También implica preguntarnos quién responde cuando algo sale mal y qué decisiones no deberíamos automatizar, aunque técnicamente pudiéramos hacerlo. Porque la verdadera inteligencia no está solo en encontrar soluciones rápidas, sino en saber detenerse antes para comprender qué problema estamos intentando resolver y qué precio humano puede tener esa solución.
El vehículo autónomo de nuestra escena inicial quizá nunca se encuentre exactamente ante ese dilema. Ojalá no. Pero nosotros sí estamos ya ante uno parecido. Podemos construir una sociedad que delegue cada vez más decisiones en sistemas que no comprenden el sentido humano de lo que calculan, o podemos construir una cultura capaz de gobernar esos sistemas desde la ética, el pensamiento crítico y la responsabilidad compartida.
Las máquinas seguirán ofreciéndonos respuestas cada vez más rápidas, precisas y convincentes. La tarea humana será no aceptarlas sin más, sino aprender a interrogarlas. Porque no todas las respuestas merecen ser obedecidas, no todas las preguntas han sido formuladas y no todo lo técnicamente posible es humanamente deseable.
Quizá por eso, en un mundo gobernado por algoritmos, la Filosofía no debería ocupar menos espacio. Debería ocupar más.
Porque una sociedad que sabe programar máquinas, pero no sabe preguntarse para qué las programa, no es necesariamente una sociedad más inteligente. Solo es una sociedad más rápida.
Y puede que el futuro no dependa tanto de la velocidad con la que respondan nuestras máquinas como de la profundidad con la que aprendamos, todavía, a preguntarnos nosotros.
