No es lo mismo parecer inteligente que ser inteligente. También para una máquina.

Desde luego que no. La inteligencia es un concepto profundo, inasible, difícil de definir. Pero estamos avanzando una barbaridad, hasta el punto de dotar a las máquinas de la capacidad de tomar decisiones. Eso se parece mucho a la inteligencia ¿verdad?

Mucha gente piensa que una máquina no puede ser inteligente. En vez de pensar lo contrario: que el cerebro humano es tan admirable que es capaz de crear máquinas comparables a él o que le superan: en fuerza, en capacidad de cálculo..., ahora en capacidad de decisión. El test más profundo de los prejuicios humanos se da cuando está en juego la vida de un ser querido. En ese instante tú quieres al mejor médico, el mejor medicamento; de repente, sí que crees en la ciencia, y crees que seguramente la opinión de un médico que esté muy bien respaldada o aconsejada por una inteligencia artificial (IA) avanzada seguramente es la mejor opción de vida para un hijo o una hija. Ahí es donde se diluyen todos estos sesgos y prejuicios. Si lo miras con perspectiva, casi todo avance tecnológico ha sido frenado por sesgos políticos, religiosos, ideológicos..., pero nuestra sociedad de hoy en día los ha dejado atrás. La adopción de tecnologías es un hecho silencioso, se da en el día a día. Cuando un joven decide buscar pareja en internet en lugar de abordar a un chico o una chica, ese día ha cedido su decisión a un algoritmo y el futuro de su vida va a quedar condicionado. El primer día en que eso pasó no salió en las noticias. 

Ya hay IA en el teléfono que nos asiste cuando escribimos un mensaje o en el asistente virtual con el que conversamos, pero esto no ha hecho más que empezar.

Es un atisbo nada más. La IA está entrando en cada rinconcito de nuestra sociedad, como la máquina de vapor, que alteró el transporte de personas, todo el sistema económico, los telares, las fábricas, las fundiciones... Todo. Aportó una transformación social inexorable. También hoy toda nuestra sociedad está transformada por internet y la IA está alterando cómo optimizar cadenas de producción, cómo controlar el tráfico, la medicina, ha empezado a alterar la justicia en Estados Unidos, donde hay redes neuronales para asesorar a jueces. Muy poco a poco está alterando los negocios: el agua de Barcelona está potabilizada por una red neuronal, no por un señor que decida cómo hacerlo. Es imparable. Es casi imperceptible porque las transformaciones de la sociedad por la tecnología son siempre un proceso imparable, inexorable y silencioso. Como se produce en todas partes a la vez, es como una marea, una marea que invade y transforma todo; algunos se ahogan y otros flotan.

¿Cómo no ahogarse?

En ese camino hemos de aprender a convivir con ello. Temo que pase lo mismo que con la revolución industrial, cuando se produjo un cambio vertiginoso: el aire se volvió irrespirable en Londres, el Támesis perdió sus peces, las personas empezaron a trabajar 80 horas, unos pocos se enriquecieron como nunca en la historia y una gran mayoría pasó a vivir mal. Quisiera que con la IA no pasara lo mismo, pues nos hemos pasado siglos rectificando las leyes, discutiendo si es correcto o no contaminar o de quién son los beneficios que producen las grandes corporaciones. Hay una inadaptación entre las capacidades tecnológicas del ser humano y su capacidad de legislar de forma sabia esas capacidades. Es una inadecuación manifiesta de orden filosófico. Hay una ausencia de reflexión. Se adopta cualquier medida que sea económicamente ventajosa y eso no es correcto. No es sostenible, sencillamente.

¿Por qué va a pasar ahora algo distinto?

Cada vez somos un poquito más sabios, aunque cueste creerlo. Yo sigo las ideas de Stephen Pinker, que habla de la pacificación de la humanidad. Siglo tras siglo, la probabilidad de que un humano sea asesinado por otro va decreciendo. Uno es mucho más sensible a la noticia negativa instantánea que a las mejoras a largo plazo. Es un hecho que en 1830 la edad media de vida era 36 años y ahora supera los 80. Como no ha pasado en un instante, no es una noticia. Pero es un hecho que cada vez vivimos más pacíficamente y tenemos más rato de ocio. Me preocupa que la reducción de las horas de trabajo redunde en estar delante de una pantalla. Hay una profunda ausencia de educación en las escuelas con lo que respecta a la convivencia con tecnologías avanzadas, que nos asisten pero hay que controlarlas, preservar nuestra intimidad y aprender a disponer de nuestro tiempo libre de manera que, a largo plazo, nos haga felices y no infelices, como sucede en la gran mayoría de los casos. Ver chicos que pasan ocho horas ante la pantalla del móvil da vértigo.

Otras especies son las más fuertes o las más veloces, pero los humanos estamos acostumbrados a ser la más inteligente. Con máquinas intelectualmente superiores a nosotros se desbarata esa pirámide. ¿Dónde nos colocamos? ¿Cuál será el lugar de los humanos?

Se acabó eso. Los antropólogos hablan de las nuevas especies humanas que van a aparecer durante el siglo XXI, modificadas genéticamente, y obviamente habría que añadir una especie que es la IA con soporte de silicio, no biológico, que tiene ventajas notables porque no está sujeta a la degradación, como lo está nuestro cuerpo humano, y también que el crecimiento no está limitado a un pequeño lugar, sino que puede extenderse ampliamente. Soy un firme convencido de que el tiempo futuro traerá grandes sorpresas a la especie humana, por decirlo de una forma suave. Hay mucha gente que cree que los humanos tenemos un destino, que somos singulares de alguna manera y los dinosaurios pensarían lo mismo en su tiempo, eran los reyes. No creo que haya mucho sentido en los dinosaurios, como especie final, ni en las amebas, los trilobites o los chimpancés, ni tampoco en los humanos. Podríamos ser un eslabón en la evolución que tuvo como gran característica relevante haber creado máquinas más potentes que ellos mismos. Es entrar un poco en el terreno de la ciencia ficción. La singularidad, como se llama, es una tema de discusión de café fantástico.

¿Las máquinas inteligentes nos gobernarán? Porque nadie nos ha preguntado si es eso lo que queremos.

Efectivamente. Pero ya te gobiernan las corporaciones. Google te gobierna un montón y no te han preguntado. El hecho y la aquiescencia son conceptos separados. De hecho, en la parte más banal nadie duda que hay máquinas que controlan los semáforos, cómo llega el agua o el gas, llevan la contabilidad, en los negocios por internet todo pasa en un algoritmo... El funcionamiento de la sociedad está delegado en máquinas, no hay nadie que dude que estamos siendo gobernados por máquinas a ese nivel. El punto es en cuanto a la toma de decisiones. Muy poquito poco, la medicina va a convertirse en más personalizada y necesitará tener en cuenta más millones de casos, y eso excede la capacidad humana. La medicina, la justicia, la optimización de ciertas tareas... En los coches autónomos o los drones, las decisiones se tomarán de forma automatizada por algoritmos muy astutos, bien entrenados. Esa segunda capa de decisión está pasando. Y la tercera es hasta qué punto las altas cuestiones de gobernanza van a empezar a estar asistidas por inteligencia artificial. Una IA que podría tomar las políticas energéticas de cien países, ver cuáles hay ido bien y cuáles mal, someterlas a análisis matemático, a entrenamiento, y emergerían ciertas características que podrían aconsejar sobre política. ¿Lo vamos a hacer o no? Habrá mucha reticencia porque eso de sustituir al político son palabras muy mayores. No va a pasar en los próximos diez, veinte años, pero durante el siglo XXI sí, sin duda. Hay gente que se resiste. Hay una encuesta en Estados Unidos que preguntó a la gente si preferirían un presidente demócrata, republicano o una inteligencia artificial y la IA tiene un porcentaje de apoyo del 20 y pico. Es banal, pero ya te dice que no es tan impensable creer que hay algo mejor que la eterna lucha de los partidos políticos. Los partidos políticos tienen que dotarse de gente preparada en la realidad de las tecnologías, es muy triste ver cómo el nivel de discusión es extremadamente superficial, cuando existe. Y eso no es correcto. Todas las voces deben estar representadas en los parlamentos y en los partidos políticos deben entender bien lo que es la tecnología avanzada, que va a cambiar la economía, que va a tener consecuencias para los ciudadanos. No consiste en tener comisiones que les dicen dos o tres cosas, hay que tener el conocimiento en la mesa. Personas preparadas que comprendan el problema y tengan las capacidades para resolverlo.

¿Con una IA al mando, no haría falta un Consejo de Ministros? 

No quiero ser tan exagerado, pero debería haber voces muy educadas en el Consejo de Ministros, no deberían ser únicamente políticos. Un ejemplo muy claro: los países del primer mundo se mantienen gracias a su preeminencia científica y tecnológica. Es un hecho. El pasado lunes, Trump aprobó 650 millones de dólares para computación cuántica, añadidos a los ya invertidos. Alguien que no va a pasar a la historia por ser una de las personas más sabias sin embargo entiende que la preeminencia de su país depende de que tenga un control de la ciencia y de la tecnología que se deriva. Hemos de pasar de una Europa dominada por los problemas territoriales, migratorios, de agricultura, de treinta millones de cosas, a una Europa dominada por la adquisición de talento. Hablo en el desierto. Pero son temas que interesan a ciertos niveles. El otro día la Reina escuchó en San Millán de la Cogolla la misma charla sobre inteligencia artificial que he dado esta semana en Zaragoza. En unas jornadas sobre el castellano se analizó y debatió el impacto de la IA en las 'fake news', el procesamiento del lenguaje natural...

¿Realmente queremos un futuro donde las máquinas tomen todas las decisiones y controlen todo? Me viene a la cabeza la frase de 'Yo, robot': “Es por su seguridad”?

El problema que planteas de hasta qué punto la autonomía de la máquina supera la libertad del hombre es crítico. Déjame que ponga un ejemplo contrario al que tienes en mente. Hemos hecho coches veloces, pero legislamos para no ir a más de 50 km/h por ciudad y, por algunas calles, a 30 km/h. Aunque el coche puede ir a 200. ¿Puede una máquina tomar todo tipo de decisiones? Sí. ¿Vamos a legislar para que las tome todas? Yo espero que no, que vamos a legislar conteniendo la capacidad de decisión de las máquinas. Imagínate que pudiéramos hacer una máquina que, en una economía digitalizada que tiene control sobre tus cuentas, te prohíbe comprar tabaco o alcohol, “por tu bien”, pero tú quieres tomarte una copita porque es tu cumpleaños. ¿Dónde está el límite? Es como un fuera de juego de medio milímetro. Confío en que vamos a legislar dando mayor importancia a la capacidad de los humanos de decidir sobre sí mismos. Para eso hace falta que se legisle. 

¿Y se está haciendo?

Un mes después de salir mi libro, 'Ética para máquinas', la Unión Europea anunció las directrices éticas para la programación de IA, y están muy bien. Pero una cosa es una directriz y otra una ley. Las leyes las han de hacer los parlamentos. En el segundo capítulo de esas directrices están los principios éticos básicos: respeto a diversidad, al género, que los programas sean inteligibles para los humanos, que puedan entender qué ha sido programado... Creo que van todos en la buena dirección: mantener que, de momento, la esencia humana domine sobre esta primera IA avanzada pero todavía primitiva.

El secreto es si vamos a lograr legislar bien. Me gusta la palabra codecisión. Todos debemos decidir: periodistas, científicos, políticos, economistas, dentistas, taxistas... porque todos vamos a recibir la influencia de esta avalancha de tecnología que se nos viene encima. El proceso de codecisión implica responsabilidad, haber educado correctamente a los niños. Esto es lo que más me preocupa, que no existe esa formación básica.

¿Delegar decisiones en máquinas inteligentes nos convertirá en seres dependientes de ellas? Dejaremos de saber operar una apendicitis o conducir un coche, no hará falta aprender idiomas... 

Los antiguos conocían el campo a fondo, las plantas y animales. Yo soy incapaz de distinguir plantas, no sabría qué hacer con los animales. Hemos perdido toda esa capacidad, nos hemos alejado de naturaleza; es un hecho. Y con las máquinas hemos perdido la fuerza: en una justa medieval, al primer sablazo ya estoy fuera yo; nos hemos de entrenar en el gimnasio para mantener algo de musculatura. ¿Y calcular? Ya nadie divide por siete la cuenta de una cena. Antes lo hacíamos de memoria. Si delegas las decisiones, obviamente se va a debilitar la capacidad de juicio. Veo venir, y hay mucha tela ahí, hasta qué nivel se va permitir a los asistentes personales aconsejarte. Rápidamente buscamos opiniones para reafirmarnos, preguntamos ¿y tú qué harías? Puedes empezar preguntando al asistente personal si regamos las plantas, tomas confianza en él y ya es imparable, al final acabas preguntándole qué haría ante un problema de pareja, en lugar de buscar a un amigo o un familiar. Da un poco de vértigo. Aunque por otro lado pueden ser una voz amiga para personas solas o mayores. Se está investigando en esto y es imparable que los asistentes virtuales sean receptivos a emociones, capaces de expresarlas y de dialogar. El bueno será más caro, claro. Tal vez acabemos legislando que todos tengamos derecho a un buen asistente. Suena a ciencia ficción pero hay mucho dinero invertido en esta investigación, con resultados notables.

"Los humanos seremos prescindibles para muchas tareas", escribe. ¿En qué trabajaremos? O, sencillamente, ¿trabajaremos? Esta entrevista se la podría estar haciendo un bot.

Hemos dejado de trabajar 80 horas para trabajar 40 y ¿en qué hemos invertido el tiempo? En ver la tele. Los americanos ven 5 horas en promedio al día; en Europa, quítale una hora y media. La liberación de tareas obligatorias ha redundado en un aumento del tiempo dedicado al entretenimiento, no a la formación ni a las relaciones sociales, no se sale más. Es entretenimiento puro y duro: ver series, navegar en internet... Si extrapolamos y, en vez de 40, trabajamos 20 horas, si no pasa algo muy raro ¿qué harán los humanos?: entretenerse. Una sociedad hedonista en extremo.

Pero si lo pensamos, ya hay mucha gente prescindible. Me impresiona ir por la calle en un día normal y ver las terrazas llenas de gente, los bares, vayas donde vayas, por el motivo que sea, hay gente que no trabaja. De hecho la población activa es muy inferior al total, y aún lo será más. Hay quien ha especulado que el trabajo, para la gente que le gusta, tendrá que ser un derecho, no un deber, porque será innecesaria la gran mayoría de trabajos. Es un poquito vertiginoso, pero no irrazonable. El primero que usó la palabra 'singularidad' fue John von Neumann, en escritos de 1950. Habla de que una evolución acelerada de la tecnología da signos de aproximarse a una singularidad esencial; ninguno de los quehaceres humanos permanecerán inalterados.  

¿Las máquinas que nos sustituyan pagarán nuestras pensiones?

Ese es otro debate, el jurídico. Y yo me sumo abiertamente a la idea de que sustituir un humano por una máquina no debería permitirse si no se produce una contrapartida que garantice el sistema de pensiones y seguridad social. Si de repente hacemos un cajero automatizado y todos los cajeros y cajeras de España se van a su casa -eso está pasando en Reino Unido, donde hay uno de guardia y el resto es autoservicio-, esas máquinas le producen un beneficio únicamente al propietario y producen una merma a toda la sociedad: porque un humano ha dejado de pagar impuestos, ha dejado de pagar pensiones, y alguien las tendrá que pagar. Eso no es sostenible. Yo defiendo que esa máquina, formalmente, tenga entidad jurídica, y por lo tanto tenga su cuenta corriente, reciba un sueldo, que será mucho menor que el del humano, pero de ahí tendrá que pagar impuestos, su futuro reemplazo, sus averías e investigación para las futuras máquinas, igual que pagas la educación de tus hijos. Para que, en esta transformación social donde las tareas banales hoy hechas por humanos pasen a estar dominadas por máquinas, se mantenga un sistema de respeto a los mayores, haya seguridad social y pensiones dignas. Si no, lo que está pasando en Francia ahora será calderilla comparado con lo que va a venir.

Te puede interesar

Por qué debería preocuparte la ética de la inteligencia artificial

Pensar que las máquinas harán el bien ¿no es ser demasiado optimista? Quien diseñe las IA puede programarlas para que favorezca sus intereses.

El primer uso de una tecnología siempre es nefasto: se inventó el fuego, se quemó alguien; se inventó la báscula y se hizo la catapulta; se descubrió el núcleo atómico y se hizo la bomba atómica... Es solo cuando los parlamentos legislan cuando se limita el mal uso de las tecnologías. Siempre me ha impresionado Hannah Arendt y su mensaje sobre la banalidad del mal: para ser malo no hace falta ser muy listo, cualquier persona, según las circunstancias que le tocan, puede llegar a ser muy malo. Yo digo que también es cierto en el sentido contrario: no hace falta ser muy listo para ser bueno, dadas las condiciones correctas, las personas son buenas. Entonces, la banalidad del bien debería imponerse en la programación. No puede ser que cada vez que te compras un billete de avión te cojan las 'cookies' para subirte el precio la próxima vez. Eso no vale. Un primer principio de programación de IA debería ser la banalidad del bien. Por ley. Si no se impone, no pasará. Por eso hace falta legislar. No entiendo cómo estos políticos no se percatan de que la sociedad se está transformando desde el siglo XX a gran velocidad y seguimos con leyes del siglo XIX. Como no hay forma nunca de ponerse de acuerdo, la inadecuación de las leyes con la realidad es espectacular.

¿Hay que dotar de botón de apagado a la IA? Por si acaso.

De momento, sí. Google tiene uno.

¿Le da miedo algo que todo esto?

Al revés. Me da una curiosidad inmensa. Me gustaría vivir más de lo que voy a vivir para saber hacia dónde va. Estoy dominado por la curiosidad. Soy superpositivo. Cuesta mucho ser positivo en la sociedad actual; hay que serlo por software, no por hardware. Hay que autoconvencerse. Yo creo muchísimo que la especie ha ido mejorando y que tiende a niveles de pacificación y de elevación, aunque en el día a día no lo parezca. En cada intento de cultura, cuando estaban asentados y habían acabado de hacer sus guerras, ¿a qué se dedicaban? A hacer esculturas, a la música, el teatro, la literatura. El ser humano, en tanto que no compite por recursos, halla su plenitud en tareas muy elevadas del cerebro humano. Eso, como especie, se va a ir dando. Ahora hay cientos de universidades en Europa y en la Edad Media había cuatro. El 35% de la población tiene estudios universitarios, antes nadie. Algo ha cambiado. Antes había pocos focos de saber, ahora hay cada vez hay más: en Asia, en Oriente....

Esta semana dejo la Universidad de Barcelona y me voy a Abu Dabi a crear un centro, voy a dirigir la parte de computación cuántica del TII, Techology Innovation Institute, y en septiembre me voy a dirigir el centro de tecnologías cuánticas de Singapur, el CQT. Me voy a una aventura doble en Abu Dabi y en Singapur, que persiguen el saber. En Abu Dabi está habiendo un giro notable hacia comprender que el talento es esencial, que las universidades son importantes. 

¿Continuará como subdirector del Centro de Ciencias de Benasque Pedro Pascual?

Este verano tengo tantos compromisos en Benasque que seguro que sigo, pero luego ya veré. La voluntad mía es irme fuera. No te puedes imaginar la movida que está dándose ahora en todo el mundo. Estoy en asesorías en Singapur y Abu Dabi, pero ahora voy a Japón, estuve en Israel, y mañana voy a Bruselas a hablar de la guerra geoestratégica en torno a la computación cuántica. Hay inversiones fuertes. Ahora ha puesto Trump 650 millones de dólares, en Israel son centenares, Singapur dobla su inversión en tecnologías cuánticas, Abu Dabi arranca con mucha fuerza y así, país tras país, excepto Sudamérica, España..., menos los que hablan en español. Al menos con Abu Dabi he llegado a un acuerdo: voy a dirigir el centro a cambio de que ellos financien la creación de uno aquí, en España, en Barcelona.

¿La última hora en computación cuántica?

Google ha alcanzado la supremacía cuántica: 53 cúbits. Es admirable la máquina que han hecho. Han imprimido 138 cúbits: ochenta y pico de control y 53 útiles. Han aprendido a reducir lo que se llama 'crosstalk' y han hecho un cálculo inútil pero inasequible al mayor ordenador de la Tierra. Y es imparable. Mucha gente no entiende el concepto de la inexorabilidad de la ciencia. Dicen: no puede ser. Pero las leyes son las que son; es un hecho. Hay una promesa interna dentro de Google de tener 100.000 cúbits en el año 2029. Eso realmente altera toda la economía. Y como queremos ser parte de ello, por eso me voy. La lucha aquí es lucha de migajas. 

Te puede interesar

La economía cuántica que viene

¿En puertas del ordenador cuántico? También desde Aragón