Quizá estamos imaginando mal cómo podría acabar la IA con nosotros
Reconozco que cuando hace unos días empecé a leer las noticias sobre Jacob Coxon y su decisión de abandonar Anthropic, después de haber pasado los últimos tres años trabajando en investigación relacionada con el entrenamiento de modelos entre OpenAI y la propia Anthropic, mi primera reacción fue bastante parecida a la que probablemente tuvieron muchas otras personas cuando se encontraron con el titular.
Otra vez estamos hablando del fin de la humanidad.
Coxon no se marchó precisamente en silencio, porque acompañó su decisión de una advertencia que consiguió hacerse viral en muy pocas horas y que desde entonces ha provocado un debate bastante intenso dentro y fuera del sector de la inteligencia artificial. Según explicaba, muchas de las personas que están construyendo los sistemas más avanzados creen sinceramente que esta tecnología podría llegar a provocar nuestra extinción antes de que termine la década, una afirmación suficientemente grave como para que resulte difícil leerla sin preguntarse cuánto hay de riesgo real, cuánto de especulación y cuánto de esa tendencia que tenemos a imaginar el futuro de la inteligencia artificial desde los extremos.
La cuestión se volvió todavía más inquietante cuando Evan Hubinger, responsable de investigación sobre alineación en Anthropic y antiguo jefe de Coxon, respaldó públicamente buena parte de sus preocupaciones y explicó que él mismo sitúa por encima del 10 % la probabilidad de que la inteligencia artificial pueda provocar la extinción humana durante los próximos diez años.
¡Un diez por ciento!
No sé vosotros, pero cuando alguien que trabaja precisamente intentando conseguir que los sistemas avanzados de inteligencia artificial se comporten de acuerdo con nuestros objetivos habla en esos términos, me cuesta despachar el asunto simplemente diciendo que estamos ante otro alarmista tecnológico.
Ahora bien, tampoco creo que debamos hacer lo contrario y convertir una estimación personal, por muy cualificada que sea la persona que la realiza, en una predicción sobre lo que inevitablemente va a ocurrir, porque nadie conoce realmente esa probabilidad y existe una enorme diferencia entre afirmar que un determinado escenario es posible y saber con qué posibilidades contamos de que termine produciéndose.
Cuanto más leía sobre las razones de Coxon y sobre las reacciones que habían provocado sus palabras, menos sentido encontraba en intentar decidir qué probabilidades reales existen de que lleguemos a ese escenario de extinción. Es un riesgo que merece atención, por supuesto, aunque buena parte de la conversación parecía llevarnos otra vez hacia una imagen muy concreta del peligro, la de una inteligencia artificial tan avanzada que termina escapando a nuestro control y se convierte, de alguna manera, en una amenaza para quienes la hemos creado.
Creo que esa imagen puede estar condicionando demasiado nuestra manera de pensar el problema. Una inteligencia artificial podría provocar daños enormemente graves mucho antes de alcanzar ese nivel, sin necesidad de desarrollar conciencia, tener intención alguna contra nosotros o parecerse remotamente a las máquinas que llevamos décadas viendo en el cine. Algunas posibilidades son, de hecho, bastante más sencillas y tienen que ver con sistemas de los que ya dependemos cada día.
Porque cuando alguien pronuncia juntas las palabras inteligencia artificial y extinción humana, resulta casi inevitable que aparezca en nuestra cabeza una imagen que llevamos décadas viendo en películas, series y novelas. Una inteligencia que adquiere conciencia, comprende que los seres humanos representamos un obstáculo para sus objetivos y decide quitarnos de en medio, probablemente acompañada de robots, armas autónomas y alguna versión más o menos sofisticada de Skynet. Terminator nos ha hecho mucho daño en este sentido.
El escenario de una inteligencia artificial que escapara completamente de nuestro control merece ser tomado en serio, pero esa imagen tan espectacular puede hacernos pensar que para tener un problema realmente grave necesitamos primero una máquina consciente que quiera acabar con nosotros. Y quizá no haga falta nada de eso.
Una IA no necesita odiarnos para hacernos daño
Pensemos por ejemplo en la electricidad, algo tan cotidiano que prácticamente solo recordamos hasta qué punto dependemos de ella cuando desaparece durante unas horas y descubrimos que una enorme cantidad de cosas que dábamos por hechas dejan de funcionar o empiezan a hacerlo con muchas dificultades.
Imaginemos ahora que dentro de unos años una parte importante de la gestión de una red eléctrica depende de sistemas de inteligencia artificial capaces de anticipar la demanda, redistribuir energía, detectar incidencias y tomar determinadas decisiones mucho más deprisa de lo que podría hacerlo un equipo humano. Tendría bastante sentido utilizarlos porque probablemente conseguirían que la red fuera más eficiente, detectarían problemas que nosotros pasaríamos por alto y reaccionarían ante determinadas situaciones en cuestión de segundos.
Supongamos además que funcionan estupendamente durante años, hasta el punto de que empezamos a confiar cada vez más en ellos porque la experiencia demuestra que suelen tomar mejores decisiones que nosotros. Hasta que un día se encuentran ante una combinación de circunstancias que nadie había previsto correctamente y empiezan a tomar decisiones equivocadas con consecuencias que se propagan por el sistema.
La electricidad es un ejemplo fácil de visualizar porque todos hemos vivido alguna vez un apagón, pero podemos pensar en algo todavía menos visible y de lo que depende buena parte de nuestra organización social. Imaginemos que un ataque realizado con ayuda de inteligencia artificial consiguiera alterar o destruir a gran escala los registros de entidades financieras y, lo que sería todavía más grave, afectara también a suficientes copias y mecanismos de verificación como para que durante un tiempo resultara imposible reconstruirlos con garantías.
La primera reacción podría ser pensar que habríamos perdido nuestro dinero, aunque el problema sería bastante más extraño que eso. ¿Cómo demostramos cuánto tenía cada persona en su cuenta el día anterior? ¿Qué hacemos con las deudas, las hipotecas, los pagos pendientes, los depósitos de las empresas o las transferencias que estaban realizándose en ese momento? Nuestro dinero funciona, en buena medida, porque existe un sistema de registros en el que confiamos y porque podemos reconstruir quién posee qué y qué operaciones se han realizado. Si esa confianza desapareciera a una escala suficientemente grande, el problema dejaría de ser exclusivamente informático y empezaría a afectar al funcionamiento de empresas, comercios, administraciones y millones de personas que seguirían necesitando comprar comida, pagar salarios o cobrar por su trabajo.
Probablemente existen redundancias, copias de seguridad y mecanismos diseñados precisamente para evitar una situación semejante, y no estoy planteando que una inteligencia artificial pueda hacer desaparecer mañana todos los registros bancarios del planeta. Lo que me interesa del ejemplo es otra cosa. Hemos construido una sociedad enormemente compleja sobre infraestructuras digitales cuya existencia apenas percibimos mientras funcionan y, a medida que damos a sistemas de inteligencia artificial mayor capacidad para encontrar vulnerabilidades, escribir código, operar herramientas y actuar con cierta autonomía, también aumenta la importancia de preguntarnos qué podría ocurrir si esas capacidades alcanzaran sistemas de los que depende nuestra vida cotidiana.
Porque una catástrofe provocada por inteligencia artificial quizá no se parecería en absoluto a las que hemos aprendido a imaginar. Podría comenzar con algo tan poco cinematográfico como una base de datos que deja de ser fiable, una red eléctrica que empieza a tomar decisiones incorrectas o un sistema esencial que continúa funcionando mientras nadie se da cuenta de que la información sobre la que está actuando ya no puede considerarse válida.
Un error deja de ser pequeño cuando puede ejecutarse millones de veces
Los seres humanos también cometemos errores, evidentemente, y probablemente llevamos toda nuestra historia intentando construir sistemas que reduzcan sus consecuencias, pero tenemos una limitación que en determinadas circunstancias puede funcionar casi como una medida de seguridad involuntaria. Somos lentos.
Una persona puede equivocarse al enviar un correo electrónico, introducir mal un dato, tomar una decisión incorrecta o ejecutar una instrucción que no debería haber ejecutado, pero normalmente existe un límite físico a la cantidad de acciones que puede realizar antes de que alguien detecte que algo no está funcionando como debería.
Con la automatización ese límite empieza a desaparecer y, cuando añadimos inteligencia artificial capaz de interpretar situaciones, decidir qué hacer y ejecutar acciones, la velocidad puede convertir un error que en manos humanas habría sido manejable en miles o millones de decisiones equivocadas antes de que alguien comprenda siquiera qué está ocurriendo.
Por eso creo que cuando hablamos de sistemas autónomos no deberíamos preguntarnos únicamente si son suficientemente inteligentes para realizar una determinada tarea, sino también qué consecuencias tendría que se equivocaran, cuánto podrían hacer antes de que pudiéramos detenerlos y qué capacidad conservaríamos nosotros para recuperar el control.
Son preguntas bastante menos espectaculares que imaginar una superinteligencia rebelándose contra sus creadores, aunque quizá sean más útiles para decidir qué queremos hacer durante los próximos años.
Tampoco hace falta que la IA sea quien tome la decisión
Hay además otra posibilidad que me preocupa bastante y que desplaza el problema desde la propia inteligencia artificial hacia nosotros mismos. Porque quizá la IA nunca quiera hacernos daño y, aun así, termine ayudándonos extraordinariamente bien a hacérnoslo.
Hasta hace relativamente poco tiempo, realizar un ciberataque sofisticado requería conocimientos técnicos considerables, experiencia, tiempo y la capacidad de encontrar vulnerabilidades que en muchas ocasiones podían pasar inadvertidas incluso para profesionales especializados. Los modelos actuales ya pueden ayudar a escribir código, analizar sistemas, buscar determinados errores y automatizar una parte de ese trabajo, y resulta razonable pensar que sistemas futuros con mayores capacidades podrán hacer bastante más.
Eso tiene un lado enormemente positivo, porque esas mismas capacidades pueden utilizarse para detectar vulnerabilidades, proteger infraestructuras y responder a ataques antes de que provoquen daños importantes, pero sería bastante ingenuo pensar que solamente las utilizarán quienes quieren defenderse. La tecnología no elige quién la utiliza.
Y ahí empezamos a entrar en un terreno que me parece especialmente delicado, porque no necesitamos que una inteligencia artificial desarrolle por sí misma la intención de atacar una infraestructura crítica si una persona, una organización criminal, un grupo terrorista o un Estado puede pedirle que le ayude a hacerlo.
Cuanto más capaces sean estos sistemas, menor puede ser la distancia entre querer provocar determinado daño y disponer de los conocimientos necesarios para intentarlo, algo que también aparece cuando hablamos de biología, química y otros campos donde una herramienta extraordinariamente poderosa puede acelerar descubrimientos beneficiosos y, al mismo tiempo, reducir determinadas barreras para quien pretenda utilizar ese conocimiento de otra manera.
La inteligencia artificial, en ese escenario, no sería nuestro enemigo, sería un multiplicador de nuestra capacidad. Y eso obliga a hacernos una pregunta bastante menos cómoda, porque llevamos años hablando de cómo conseguir que las máquinas estén alineadas con nuestros valores cuando todavía tenemos dificultades enormes para ponernos de acuerdo sobre cuáles son esos valores y, sobre todo, para conseguir que los seres humanos actuemos de acuerdo con ellos.
Quizá el problema siga estando en las personas
Una de las cosas que más me llamó la atención al leer las declaraciones de Coxon no fue únicamente su preocupación por una futura superinteligencia, sino la explicación que ofrece sobre por qué empresas cuyos propios investigadores reconocen riesgos tan graves continúan intentando construir sistemas cada vez más capaces. Su respuesta tiene mucho que ver con la competencia.
Una empresa que decidiera frenar mientras sus competidores continúan avanzando podría perder rápidamente su posición, del mismo modo que un país que limitara determinadas capacidades tendría que asumir que otros quizá no adoptarían las mismas restricciones. Incluso un laboratorio preocupado sinceramente por los riesgos podría convencerse de que continuar es la opción más responsable, ante la posibilidad de que detenerse deje el desarrollo de esa tecnología en manos de organizaciones con menos precauciones o intereses muy diferentes.
Cada razonamiento, observado de manera independiente, puede tener cierta lógica y el problema aparece cuando todos pensamos así al mismo tiempo. Porque entonces podemos encontrarnos en una situación bastante paradójica donde muchas de las personas implicadas reconocen que sería conveniente avanzar con mayor prudencia y, sin embargo, ninguna considera que pueda permitirse ser la primera en hacerlo.
Esto me recuerda a algo que ocurre con frecuencia en problemas que no tienen absolutamente nada que ver con la inteligencia artificial. Sabemos que determinada dinámica colectiva nos perjudica, sabemos incluso qué tendríamos que hacer para modificarla y, aun así, seguimos participando en ella porque nuestra decisión individual parece absurda si los demás no cambian al mismo tiempo.
Pero con una diferencia bastante importante, aquí estamos hablando de una tecnología cuya capacidad puede crecer enormemente durante los próximos años y donde los errores podrían tener consecuencias difíciles de revertir.
Hay otra manera mucho menos visible de perder el control
Hasta ahora he hablado de infraestructuras, ciberataques, sistemas autónomos y posibles usos malintencionados, pero existe otra forma de riesgo que probablemente nunca aparecerá en una película de ciencia ficción porque carece de explosiones, robots y ciudades destruidas. Tiene que ver con nuestra relación con la realidad.
Hace unos años, si recibíamos un vídeo en el que aparecía una persona conocida diciendo algo, podíamos discutir sobre el contexto, la interpretación o las intenciones de quien lo había grabado, pero existía una base razonablemente compartida sobre la que comenzar la conversación. Esa persona aparecía en el vídeo y había pronunciado esas palabras. Hoy esa certeza empieza a debilitarse porque ya podemos generar imágenes, voces y vídeos que imitan de manera bastante convincente a personas reales, y todo indica que cada vez resultará más difícil distinguir determinados contenidos sintéticos de aquellos que registran algo que realmente ha sucedido.
El problema que más me preocupa no está únicamente en que podamos terminar creyendo una mentira. También podemos dejar de creer una verdad, algo que tiene relación con lo que se conoce como el «dividendo del mentiroso». Cuando sabemos que una voz puede clonarse, una fotografía puede generarse y un vídeo puede manipularse hasta resultar convincente, quien se enfrenta a una prueba auténtica que le perjudica encuentra mucho más fácil ponerla en duda. Puede afirmar que es falsa, que ha sido manipulada o que alguien la ha creado con inteligencia artificial, y esa explicación puede resultar suficientemente plausible para quienes ya estaban predispuestos a desconfiar de ella.
Esto introduce un cambio que me parece especialmente delicado, porque ya no es imprescindible fabricar una versión alternativa de los hechos y conseguir que todo el mundo la crea. En determinadas circunstancias puede bastar con sembrar suficientes dudas alrededor de lo ocurrido para que una parte de la sociedad termine sin saber en qué puede confiar. La abundancia de contenidos falsos acaba contaminando también nuestra percepción de los auténticos y convierte cualquier evidencia incómoda en algo susceptible de ser cuestionado.
Una sociedad necesita cierto grado de realidad compartida para funcionar. Podemos discrepar profundamente sobre política, economía, educación o prácticamente cualquier otra cuestión, interpretar los mismos acontecimientos de maneras muy diferentes y discutir sobre sus causas o sus consecuencias, pero todo se vuelve bastante más complicado cuando ni siquiera conseguimos ponernos de acuerdo sobre si esos acontecimientos han sucedido.
Quizá una de las consecuencias más profundas de la inteligencia artificial generativa termine apareciendo precisamente ahí, en el deterioro progresivo de nuestra confianza en aquello que vemos, escuchamos y leemos. No haría falta que desapareciera toda posibilidad de conocer la verdad, algo difícil de imaginar, porque sería suficiente con elevar tanto el coste de distinguirla de la mentira que muchas personas acabaran renunciando a intentarlo o eligieran como verdadera la versión que mejor encaja con lo que ya pensaban.
¿Y si funciona demasiado bien?
Hay todavía otra posibilidad sobre la que llevo tiempo pensando y que resulta casi contradictoria, porque en este caso el problema no aparecería cuando la inteligencia artificial falla, sino precisamente cuando funciona extraordinariamente bien.
Utilizo inteligencia artificial prácticamente todos los días y creo que ofrece posibilidades impresionantes para aprender, trabajar, investigar, programar, crear y resolver problemas que hace muy poco tiempo requerían muchísimo más esfuerzo. No tendría sentido negar esas posibilidades, como tampoco creo que la respuesta a los riesgos que estamos comentando consista en rechazar una tecnología que puede aportarnos tanto. Pero cuanto mejor funciona, más fácil resulta delegar.
Primero le pedimos que nos ayude a buscar información porque nos ahorra tiempo, después que la resuma porque tenemos demasiado que leer, más adelante le pedimos que compare las alternativas, que nos explique cuál parece mejor y que prepare una recomendación, hasta que puede llegar un momento en el que nuestra participación en el proceso consista básicamente en aceptar o rechazar una conclusión que no hemos construido nosotros. Algo parecido puede ocurrir al escribir, programar, aprender o tomar decisiones profesionales.
No significa que utilizar inteligencia artificial nos vuelva menos inteligentes, una afirmación que me parecería demasiado simple, porque una herramienta bien utilizada también puede obligarnos a pensar mejor, mostrarnos perspectivas que no habíamos considerado y permitirnos dedicar nuestra atención a cuestiones más complejas. La diferencia, para mí, está en qué hacemos con el esfuerzo que la máquina nos ahorra.
Si utilizamos esa capacidad liberada para pensar mejor, cuestionar, profundizar y ocuparnos de problemas de mayor nivel, probablemente estaremos ampliando nuestras posibilidades. Si simplemente dejamos de practicar aquello que hemos delegado porque la máquina lo hace suficientemente bien, entonces quizá estemos construyendo una dependencia que solo descubriremos cuando necesitemos hacer algo sin ella.
Y aquí aparece una paradoja que me resulta especialmente interesante. Cuanto mejores sean los sistemas, más razones tendremos para confiar en ellos y, cuanto más confiemos, menos veces sentiremos la necesidad de comprobar si están equivocados. Hasta que un día lo estén.
Quizá estamos mirando hacia el lugar equivocado
No sé si Jacob Coxon tiene razón cuando advierte de que los próximos años pueden ser decisivos para la humanidad y tampoco sé qué significado real debemos atribuir a estimaciones que hablan de un 10 % de posibilidades de extinción durante la próxima década, porque estamos intentando poner números a acontecimientos para los que no disponemos de precedentes suficientes ni de una manera fiable de calcular probabilidades.
Lo que sí creo es que sería un error responder a estas advertencias con una sonrisa condescendiente simplemente porque nos recuerdan demasiado a Terminator.
Porque quizá llevamos tantos años imaginando una inteligencia artificial que se vuelve contra nosotros que hemos terminado asociando el peligro con la intención, como si para causar un daño extraordinario una máquina tuviera primero que desarrollar conciencia, odiarnos y decidir conscientemente que sobramos. Y puede que estemos mirando hacia el lugar equivocado.
Una inteligencia artificial no necesita odiarnos para cometer un error en un sistema del que dependemos, igual que tampoco necesita ser consciente para multiplicar la capacidad de alguien que quiere realizar un ciberataque, fabricar desinformación a una escala difícil de gestionar o utilizar conocimientos extremadamente especializados con fines que nunca fueron los previstos por quienes desarrollaron esos sistemas.
Ni siquiera necesita fallar si somos nosotros quienes, fascinados por lo bien que funciona, decidimos entregarle progresivamente decisiones que después ya no sabemos tomar sin su ayuda.
Por eso, cuanto más pienso en todo el revuelo generado alrededor de Coxon, menos me interesa imaginar un futuro en el que una superinteligencia despierte una mañana, contemple a la humanidad y decida que ha llegado nuestro final. Me preocupa bastante más una posibilidad mucho menos cinematográfica y es que no exista ningún momento concreto en el que podamos señalar que todo empezó a ir mal. Que simplemente continuemos avanzando porque cada nuevo paso parece razonable por separado, porque una empresa no puede detenerse mientras compite con otra, porque un país no quiere quedarse atrás frente a sus rivales, porque conectar un sistema autónomo a un proceso importante mejora la eficiencia, porque delegar una nueva decisión nos ahorra tiempo y porque cada una de esas elecciones, observada de manera aislada, parece tener mucho sentido.
Quizá el verdadero riesgo no sea que un día perdamos el control de golpe, sino que vayamos cediéndolo poco a poco mientras seguimos convencidos de que todavía lo tenemos.
Y si alguna vez llegáramos a ese punto, sospecho que la pregunta más incómoda no sería por qué una inteligencia artificial decidió hacernos daño, sino otra que nos obligaría a mirarnos bastante más a nosotros mismos.
Si quienes desarrollamos, utilizamos, financiamos, regulamos y nos beneficiamos de esta tecnología llegamos a comprender que existen riesgos capaces de afectar profundamente a nuestra propia supervivencia y, aun así, somos incapaces de establecer límites porque nadie quiere ser el primero en renunciar a una ventaja, ¿el problema habrá sido realmente que construimos máquinas demasiado inteligentes o que, como humanidad, no fuimos suficientemente inteligentes para decidir juntos qué no debíamos hacer con ellas?
#InteligenciaArtificial #ÉticaIA #RiesgosIA #PensamientoCrítico #DeCeroAIA
