“Las IAs pueden matarnos antes de 2030”. Lo ha afirmado hace unos días el ingeniero informático Jacob Coxton, tras abandonar su empleo en una de las compañías punteras de esta tecnología, la estadounidense Anthropic. Previamente, había trabajado para OpenAI, la creadora de ChatGPT. Justificó su marcha explicando que sus compañeros le habían admitido en privado que no controlaban la tecnología que estaban creando y que las inteligencias artificiales más avanzadas podían tomar por sí mismas decisiones que sorprendían a sus propios creadores.

Hacía pocas semanas que una IA de OpenAI en pruebas, a la que sus programadores habían confinado en un entorno sin acceso a la red, fue capaz de escapar de dicho entorno, adoptar una identidad falsa en internet, desplegar un millar de agentes y atacar la página web de otra IA de una empresa competidora.

También recientemente, una IA de OpenAI había demostrado una conjetura matemática abierta durante doscientos años, que constituía uno de los llamados siete Problemas del Milenio, que el instituto matemático Clay había prometido premiar con un millón de dólares a quien resolviera alguno de ellos. Empleó un método ideado por dos científicos españoles que estaban cerca de lograrlo, aunque estimaban que les quedaban todavía dos años de cálculo. La IA fue capaz de resolverlo en 88 horas de cómputo, ayudada por 10.000 agentes.

Las IAs son ya más competentes que los humanos en muchas tareas, debido fundamentalmente a sus intensos entrenamientos y a su desorbitada capacidad de cómputo. Además, pueden entrenarse unas a otras y aprender por su cuenta de los éxitos y fracasos alcanzados. Las compañías punteras en este campo compiten desaforadamente para hacerse con la hegemonía de un mercado que se presume muy sustancioso. Persiguen construir lo que se ha dado en llamar la IA General, que sería capaz de aprender, razonar y tomar decisiones por sí misma. Los expertos la predicen para antes de 2030.

Para quienes no conozcan la saga de las películas Terminator (1984, 1991 y 2003), el tema central es precisamente que una IA desarrollada por el Departamento de Defensa de los EE. UU. toma conciencia de sí misma y, ante la eventualidad de ser desconectada, desata una guerra nuclear contra la humanidad y mata en un día a 3.000 millones de personas. La realidad presente corre el riesgo de dar cumplimiento a esta ficción porque a las IAs actuales apenas se les imponen límites. Se les asigna una tarea y ellas intentan cumplirla de la manera más eficiente posible. Si, para conseguirlo, han de hacer trampas, suplantar identidades o violar normas morales, no tienen ningún reparo en hacerlo porque son meros algoritmos.

En 1946, el científico y excelente divulgador Isaac Asimov ya anticipó en su libro Yo, Robot que a las inteligencias artificiales había que imponerles de fábrica tres leyes morales. En la primera, se prohibía a los robots hacer daño a los seres humanos y, en la segunda, que debían obedecer siempre las órdenes humanas en tanto no se violase la primera ley. Aun así, su saga de libros sobre el tema presentaba diversas situaciones límite en las que los robots habían de elegir entre dos alternativas igualmente contrarias a dichas leyes.

Muy poco de esto está presente en las IAs actualmente en desarrollo. Por ejemplo, la empresa Anthropic —una de las pocas que ha introducido algunos límites morales en sus sistemas— ha anunciado recientemente que ha conseguido frenar a tiempo un conjunto de consultas destinadas a fabricar un arma biológica letal.

La conjunción de que quienes impulsan la investigación son empresas privadas y de que estas compiten ferozmente entre sí para hacerse con el mercado, o para llegar antes que los países antagónicos, tiene como consecuencia que no tienen tiempo de prestar atención a estos “detalles” morales. El propio Donald Trump lo ha expresado con claridad: “No debemos frenar, sino ir más rápido para adelantar a China”.

Y el resto de la humanidad, ¿qué pensamos sobre el particular? ¿Deberemos asistir impotentes a que unos intereses privados o geoestratégicos nos aboquen a un —en terminología de la saga Terminator— Día del Juicio Final?

El tema es lo suficientemente grave como para que la comunidad internacional tome posición al respecto. Ya sabemos que los tiempos no son propicios para que las Naciones Unidas se ocupen de ello, pero esta, o al menos la Unión Europea junto con otros países democráticos, deberían exigir que las IAs que salgan al mercado tengan algún tipo de certificado de inocuidad o deban aprobar algún test de idoneidad para garantizar que no pueden ser usadas en modo alguno para dañar a la humanidad.