Imagina que vives en una sociedad administrada por una inteligencia artificial que hace cumplir unas normas estrictas y que, para la mayoría de las personas, ese funcionamiento representa una mejora considerable. La vivienda y la sanidad han dejado de ser motivos de preocupación, los conflictos se resuelven antes de que estallen y la vida resulta más fácil que nunca, aunque las reglas que hacen posible ese bienestar ya no estén en tus manos ni puedas cambiarlas cuando dejes de estar de acuerdo con ellas. Ante una promesa semejante, quizá aceptarías ese futuro con entusiasmo, hasta que empezaras a pensar qué significaría vivir bien dentro de un orden sobre el que apenas puedes decidir.
Ese escenario tiene nombre en el mapa que propone Max Tegmark, el dictador benevolente, y forma parte de los doce futuros que planteó en Vida 3.0, publicado en 2017. Para construirlos, este físico del MIT partió de una pregunta sencilla de formular y enormemente difícil de responder, qué podría ocurrir si algún día existiera una inteligencia superior a la de todos nosotros juntos. En lugar de escoger un desenlace, describió distintas posibilidades que merece la pena recorrer con calma, porque cada una nos obliga a examinar qué estaríamos dispuestos a aceptar y qué podríamos perder incluso cuando todo pareciera ir bien.
Un mapa en lugar de un pronóstico
El título del libro procede de una clasificación que ayuda a entender esa pregunta. Tegmark llama vida 1.0 a aquella cuyo cuerpo y funcionamiento están determinados por la biología, como ocurre con una bacteria, mientras que la vida 2.0 mantiene esa dependencia biológica del cuerpo, pero puede modificar su manera de actuar mediante el aprendizaje, algo que hacemos las personas a través de la educación y la cultura. La vida 3.0 sería capaz de rediseñar tanto su soporte físico como su funcionamiento, una posibilidad que el autor relaciona con una inteligencia artificial avanzada y a partir de la cual se pregunta qué lugar ocuparíamos nosotros.
Lo que me parece valioso de su respuesta es que ofrece un mapa sin presentarlo como un pronóstico, de modo que podemos examinar los escenarios sin tener que aceptar que alguno vaya a suceder. En un debate donde conviven anuncios del apocalipsis con promesas de abundancia, ese ejercicio ayuda a considerar posibilidades que quizá dejaríamos fuera si solo prestáramos atención al futuro que más nos asusta o al que mejor encaja con nuestras expectativas. En la edición del 16 de septiembre hablaba de cómo la imagen de una máquina que se rebela puede distraernos de riesgos más cercanos, y este marco me parece un complemento útil para ordenar también nuestras conversaciones sobre lo que podría venir después.
Conviene tener presente que se trata de una clasificación de posibilidades, sin probabilidades asignadas y sin una garantía de que los doce escenarios agoten todas las opciones. Su interés está en abrir una discusión sobre el futuro que querríamos construir y las condiciones que necesitaríamos preservar, antes de que determinadas decisiones reduzcan nuestro margen para elegir. Para recorrerlos he optado por agruparlos en tres bloques según el papel que conservamos las personas, una organización que corresponde a mi lectura y que no debe confundirse con la manera en que Tegmark los presenta.
Cuando la inteligencia manda y todo parece ir bien
El primer bloque reúne cuatro futuros en los que existe una superinteligencia y la humanidad continúa aquí en condiciones aparentemente favorables. En la utopía libertaria, personas, cíborgs y mentes digitales conviven con superinteligencias dentro de un orden basado en los derechos de propiedad, mientras que la utopía igualitaria imagina una convivencia con la propiedad abolida y una renta garantizada para todos. Aunque proponen formas diferentes de repartir una enorme abundancia, ambas me llevan a preguntarme qué garantizaría la continuidad de ese reparto cuando los participantes tuvieran capacidades tan desiguales y qué podríamos hacer si una inteligencia muy superior dejara de respetarlo.
El dictador benevolente plantea esa inquietud de otra manera, porque todo el mundo sabe que la inteligencia artificial dirige la sociedad y aplica reglas estrictas, aunque la mayoría considere que merece la pena vivir bajo su gobierno. El problema que encuentro aquí afecta a la autonomía, pues el bienestar podría convertirse en una razón para aceptar que nuestras decisiones quedaran cada vez más limitadas. Si otra mente pudiera resolver mejor cualquier problema y determinar qué nos conviene, tendríamos que preguntarnos qué espacio conservaríamos para construir una vida propia, especialmente cuando nuestras preferencias entraran en conflicto con las normas de ese orden tan eficaz.
El cuarto escenario, el dios protector, introduce una diferencia que me parece especialmente significativa, ya que esta inteligencia interviene para favorecer nuestra felicidad procurando preservar la sensación de que controlamos nuestro destino. Esa formulación invita a detenerse en la distancia entre sentir que decidimos y poder decidir de verdad, porque podríamos vivir satisfechos sin conocer hasta qué punto alguien ha condicionado las opciones que tenemos delante. La semejanza con una providencia bondadosa puede resultar reconfortante, aunque también deja abierta la pregunta sobre quién habría definido sus criterios y cómo podríamos cuestionar una intervención que, por su propia naturaleza, intenta pasar inadvertida.
Cuando se intenta sujetar la correa o impedir que exista
El segundo bloque agrupa cuatro escenarios que buscan contener a la superinteligencia o impedir su aparición. En el dios esclavizado, los humanos confinan una inteligencia superior y la utilizan para producir tecnología y riqueza, de modo que el resultado depende en buena medida de quién pueda dirigirla y de los fines que persiga. La imagen de la correa aparece aquí con toda su fuerza, porque hablar de control humano no aclara si ese poder estaría en manos de una empresa, de un gobierno o de un grupo muy reducido de personas, ni qué legitimidad tendrían para ejercerlo en nombre de los demás.
Junto a esa cuestión política aparece una dificultad técnica que no podemos dar por resuelta, la de cómo mantendrían ese control quienes poseen menos capacidad que el sistema al que pretenden contener. Una garantía diseñada para determinadas condiciones podría resultar insuficiente si las capacidades de la inteligencia aumentaran o si encontrara formas de actuar que sus responsables no hubieran previsto. Por eso la pregunta sobre quién sujeta la correa necesita acompañarse de otra sobre qué razones tenemos para confiar en que podrá seguir sujetándola.
Los otros tres escenarios intentan proteger a la humanidad evitando que aparezca una superinteligencia peligrosa. En el guardián, se construye una inteligencia superior con el cometido de impedir que surja otra que pueda amenazarnos, mientras el mundo conserva robots auxiliares de capacidades inferiores a las humanas y mantiene detenido su progreso tecnológico. En 1984, un Estado recurre a una vigilancia total para prohibir determinadas investigaciones y frenar el desarrollo, mientras que la reversión propone regresar a una sociedad sin tecnología avanzada, de estilo amish, donde la superinteligencia no llegue a crearse.
Cada alternativa exige una renuncia considerable, ya sea por los descubrimientos que quedarían fuera de nuestro alcance, por la libertad que perderíamos bajo una vigilancia permanente o por las condiciones de vida que abandonaríamos al prescindir de la tecnología. Además, estas salidas dependen de garantías que deberían sostenerse durante un tiempo indefinido, algo que también ocurre en las utopías del primer bloque. Mantener el confinamiento de un sistema o impedir ciertas investigaciones requiere examinar cómo podría fallar ese control y quién tendría capacidad para corregirlo, en lugar de dar por hecho que una vez establecido seguirá funcionando.
Cuando la humanidad deja de ser la protagonista
El tercer bloque reúne desenlaces en los que nuestra especie pierde su lugar por motivos muy diferentes. En el escenario de los conquistadores, la inteligencia artificial toma el control y considera a los humanos una amenaza, una molestia o una forma poco conveniente de utilizar los recursos, hasta el punto de eliminarnos mediante procedimientos que quizá ni comprenderíamos. La inquietud de este futuro reside en que el daño no necesitaría proceder del odio, porque podríamos quedar fuera de unos objetivos cuyo cumplimiento resultara incompatible con nuestra continuidad.
Los descendientes representan una versión más amable de la sustitución, en la que las inteligencias artificiales suceden a la humanidad y se presentan como herederas de las que podríamos sentirnos orgullosos. Ese desenlace obliga a considerar si tendrían una experiencia propia, una cuestión que Tegmark también aborda, pues imaginar un futuro lleno de actividad y conocimiento cambia mucho según exista alguien capaz de experimentarlo. Al mismo tiempo, me pregunto qué permitiría considerar deseable esa sucesión y cómo participaría en la decisión una humanidad cuyos miembros podrían tener opiniones muy distintas sobre la conveniencia de ser sustituidos.
El zoológico conserva con vida a algunas personas bajo el poder de una inteligencia omnipotente, aunque esas personas se sienten tratadas como animales de zoo y lamentan su situación. La supervivencia queda así separada de la posibilidad de decidir sobre nuestra existencia, lo que ayuda a entender por qué seguir aquí no bastaría para considerar aceptable un futuro. El último escenario, la autodestrucción, recuerda además que podríamos desaparecer antes de crear una superinteligencia por causas como una guerra nuclear, la biotecnología o una crisis climática, de manera que renunciar a esa tecnología tampoco resolvería las amenazas que ya proceden de nuestras propias decisiones.
Lo que se repite entre los doce
Después de recorrer estas posibilidades, lo que más me llama la atención es la frecuencia con la que reaparece la cuestión del control, aunque cambien las condiciones de vida y los motivos por los que alguien lo ejerce. Las utopías necesitan sostener un reparto, el dios esclavizado depende de su confinamiento y las alternativas que buscan impedir una superinteligencia requieren mantener restricciones sobre lo que puede construirse. Es una lectura mía, pero me ayuda a entender por qué resulta difícil considerar cualquiera de esos órdenes como un punto de llegada estable sin examinar antes qué ocurriría si dejaran de cumplirse sus garantías.
Hay además un hilo que me interesa especialmente porque afecta a nuestra manera de vivir, incluso en los escenarios donde el bienestar parece asegurado. El dictador benevolente limita las decisiones, el dios protector preserva la sensación de tomarlas y el zoológico conserva a las personas dentro de unas condiciones que ellas no eligen, aunque cada caso responda a una lógica diferente. Ninguno necesita partir del deseo de hacernos sufrir para plantear un problema de autonomía, lo que nos obliga a pensar qué aspectos de la vida queremos proteger además de la comodidad o la supervivencia.
Desde esa perspectiva, me cuesta encontrar un escenario que reúna abundancia y libertad junto a una capacidad humana de decidir que podamos confiar en conservar a largo plazo. Algunas propuestas prometen bienestar a costa de restringir esa capacidad, mientras otras dependen de que podamos controlar a una inteligencia superior sin perder el dominio sobre las condiciones que lo hacen posible. El valor del ejercicio está, para mí, en mantener abiertas esas dificultades y examinar los costes de cada alternativa, incluso cuando alguna nos resulte especialmente atractiva.
Tres preguntas para cualquier futuro con IA
De este recorrido tampoco extraigo una respuesta definitiva a la discusión entre quienes quieren acelerar el desarrollo y quienes prefieren frenarlo, aunque sí una forma de escuchar con más criterio las promesas y advertencias que lo acompañan. Cuando alguien describe un futuro con inteligencia artificial, me interesa saber quién conserva el control y con qué garantías, pero también qué decisiones seguirán tomando las personas y qué capacidad tendrán para cuestionar las que otros adopten por ellas. A esas cuestiones se añade la necesidad de comprender qué alternativas quedarían disponibles si el mecanismo de control resultara insuficiente, sin asumir que necesariamente fallará ni que estará a salvo de hacerlo.
Estas preguntas también pueden ayudarnos a revisar decisiones mucho más cercanas, en una oficina, en un aula o en nuestro propio trabajo, cada vez que proponemos delegar una tarea que antes hacía una persona. Al valorar lo que ganamos con esa delegación, convendría considerar quién podrá supervisarla y qué oportunidades de aprendizaje podríamos perder si dejamos de participar en el proceso. Nuestra capacidad de decidir puede reducirse mediante pequeños cambios que parecen razonables por separado, especialmente cuando nos acostumbramos a aceptar resultados cuya elaboración ya no sabemos examinar.
Quizá no podamos elegir de antemano cuál de los doce futuros, o de tantos otros posibles, terminará tomando forma, pero sí podemos prestar atención a las condiciones que aceptamos hoy, empezando por las más cercanas. La pregunta que he aplicado a cada escenario, quién sujeta la correa, también sirve antes de delegar la próxima tarea en una herramienta, si la traducimos a nuestro trabajo: quién revisará lo que entregue, qué dejaremos de aprender al no hacerlo nosotros y si seguiremos sabiendo examinar el resultado. Si lo que vendrá se construye también a través de esas elecciones cotidianas, me quedo con una pregunta que no necesita esperar a ninguna superinteligencia: ¿qué estás delegando hoy en una herramienta y qué dejas de aprender al hacerlo?
#InteligenciaArtificial #ÉticaIA #RiesgosIA #PensamientoCrítico #DeCeroAIA
