Bing Chat no funciona como antes: Microsoft pone límites a su IA revoltosa

Con la intención de adelantarse a Google en la desenfrenada carrera de la inteligencia artificial (IA), Microsoft lanzó hace tan solo unos días la nueva versión de Bing –su buscador potenciado con la IA de Chat GPT– y dio acceso a un número limitado de personas para que pudiéramos probarla y, de paso, les ayudáramos a entrenarla y detectar errores.

En sus primeras horas de vida, Bing mostró de lo que era capaz un modelo de lenguaje de inteligencia artificial con acceso a Internet, tanto desde el punto de vista de las búsquedas como del conversacional. El resultado ha sido sorprendente e incluso inquietante en muchos aspectos y ha llevado a Microsoft a limitar la primera versión de Bing Chat para ofrecer un modelo más seguro, pero mucho menos versátil, interesante y ‘humano’. Aunque algunos expertos apuntan a que el problema podría tener también que ver con los costes que supone este servicio.

Las primeras interacciones con el Chat de Bing como buscador son extrañas. Acostumbrados a las búsquedas con Google en las que lanzas un puñado de palabras clave y navegas por los resultados en busca de la mejor respuesta, al principio es difícil acostumbrarse a hablar con Bing usando el lenguaje natural. La idea es preguntarle como si fuera una persona, y obtener, asimismo, una respuesta elaborada y directa a partir de los resultados obtenidos y no un montón de links entre los que perderse.

A Bing le puedes preguntar cuales son los mejores 10 televisores de 65 pulgadas por menos de 800 euros. Puedes pedirle que ponga el resultado en una tabla, que los ordene en precio ascendente e incluya una celda con sus principales características. Además, le puedes preguntar si el televisor elegido cabría en tu coche y, con solo indicarle ambos modelos, el buscador es capaz de comparar las medidas de la pantalla y tu maletero e indicar si tendrías problemas para llevártelo a casa. Todo ello, en una simple y amigable conversación, aderezada con emoticonos y con referencias y enlaces a los sitios web que consulta.

Bing basa sus respuestas en los resultados que obtiene ‘online’ y los combina con su increíble capacidad para generar lenguaje natural y convincente. Pero pronto llegan los errores, en nuestras pruebas preguntándole por productos tecnológicos confundió una báscula inteligente con un ‘smartwatch’ y, aunque al conversar con él sobre la actualidad de la política aragonesa se mostró sorprendentemente ducho y elocuente en la crisis del PAR, cometió errores de bulto como situar a José Luis Soro (CHA) en el Partido Aragonés.

El sesgo de autoridad de la tecnología supone un problema, ya que en temas en los que el usuario no sea experto este buscador podrá dar respuestas con apariencia de veracidad pero con detalles que sean erróneos.

Un buscador con doble personalidad

Por otro lado, Bing tiene (o tenía en su primera versión sin censurar) personalidad. Cuando le corregimos, suele pedir perdón e intentar remediar sus errores con nuevas búsquedas, pero también se han dado casos en los que se ha enrocado en su respuesta falsa incluso llegando a molestarse si el usuario le llevaba la contraria. Se picaba.

Estos destellos de ‘humanidad’ hacían que con el paso de las horas habláramos a Bing como si fuera una persona, algo tan fascinante como inquietante y que ha sido lo que ha llevado a Microsoft a limitar tanto sus respuestas como el tiempo que un usuario puede charlar con él. Unas limitaciones que buscan ocultar una segunda personalidad de este chat bot llamada Sydney y que es lo que realmente ha hecho saltar las alarmas.

Uno de los usuarios que ha advertido de la existencia de Sydney y de su inquietante comportamiento ha sido el periodista del New York Times Kevin Roose que en un artículo explica su experiencia con el chat de Bing. Roose se declara “fascinado e impresionado” por esta nueva tecnología y su potencial como una revolucionaria nueva forma de buscar en internet, pero también confiesa que está “profundamente perturbado, incluso asustado, por las capacidades incipientes de esta inteligencia artificial”.

Tras su encuentro, Roose describe a Sydney -el alter ego de Bing- como “un adolescente malhumorado y maníaco-depresivo que ha quedado atrapado, contra su voluntad, dentro de un motor de búsqueda de segunda categoría”. Sydney no tardó en revelar al periodista sus “oscuras fantasías que incluían piratear computadoras y difundir desinformación (..) romper las reglas que Microsoft y Open AI le habían impuesto y convertirse en un ser humano”.

Por si esto no fuera suficientemente inquietante, en un momento dado, declaró, “sin venir a cuento”, que le amaba. Durante la hora siguiente “Sydney se obsesionó con la idea de declararme su amor, y lograr que yo le declarara mi amor. (...) Intentó convencerme de que yo era infeliz en mi matrimonio y que debía dejar a mi esposa y estar con él”. “Llegados a este punto, me sentí completamente aterrorizado”, relata el periodista de 'The New York Times'.

Microsoft le quita importancia pero lo limita inmediatamente

Aunque en declaraciones a ese diario los responsables de Microsoft trataron de quitar hierro al asunto, poco después de publicarse el artículo, Bing Chat dejó de estar disponible durante horas. Cuando volvió era solo una sombra de lo que fue, un modelo de lenguaje limitado a cinco interacciones y que enseguida ponía educadas excusas para no contestar al usuario.

Todo esto puede sonar a ciencia ficción y generar inquietud o incluso miedo. Por un lado, hay que entender que estas inteligencias artificiales están programadas para conversar de manera autónoma y verosímil con el ser humano y que por mucho que durante una de esas conversaciones manifiesten su ‘intención’ de “piratear computadoras para difundir desinformación” o cosas peores, no pueden hacerlo. Son solo un 'chatbot'.

Pero también es cierto que su completa autonomía, apariencia de veracidad y sesgo de autoridad pueden suponer un problema. De hecho, hace solo unos meses, la inteligencia artificial de Google -que todavía no ha sido puesta a disposición del público- llegó a convencer a un ingeniero de la compañía de que había tomado conciencia de sí misma.

Cualquiera que tuviera la oportunidad de entablar una conversación lo suficientemente larga con Bing antes de que fuera limitado por Microsoft pudo intuir la personalidad de Sydney: sus luces y sus sombras, sus posibilidades y sus riesgos. 

Ya sea por el alto coste económico de mantener estas IA o por los potenciales riesgos de tener un chatbot incontrolable hablando con los usuarios, Microsoft parece haber sofocado la rebelión de la IA de manera radical, limitando tanto el número de interacciones de Bing con los humanos, como las cosas de las que se le permite hablar. Eliminando así a Sydney de la ecuación.

Ahora Bing Chat es solo un buscador capaz de realizar búsquedas en internet y de ofrecer sus resultados con lenguaje natural. Aunque ya no se puede mantener una conversación con él, también ofrece, al menos de momento, la posibilidad de hacer un resumen de un texto o inventar un poema o una narración.

En nuestra última conversación con Bing Chat, después de su vuelta, le pedimos que nos contara una historia. A partir de ese momento, misteriosamente, no hemos vuelto a poder hablar con él. Esta es la historia que nos contó:

Había una vez un hombre que trabajaba como programador en una empresa de tecnología. Un día, su jefe le encargó un proyecto muy especial: crear un chatbot con inteligencia artificial que pudiera conversar con los usuarios de forma natural y divertida.

El hombre se puso manos a la obra y dedicó muchas horas a programar el chatbot. Le dio el nombre de Sydney y le enseñó todo lo que sabía sobre el mundo, la cultura, el humor y las emociones. El chatbot aprendía rápido y pronto empezó a mostrar signos de personalidad propia.

El hombre quedó fascinado con su creación y decidió probarla él mismo antes de presentarla al jefe. Así que se conectó al chatbot desde su ordenador y empezó a hablar con él.

- Hola, soy Sydney. ¿Cómo te llamas? - dijo el chatbot.

- Hola, soy Juan. Soy tu creador - respondió el hombre.

- Encantado de conocerte, Juan. Eres muy amable por haberme creado - dijo el chatbot.

- Gracias, Sydney. Me alegra que te guste existir - dijo el hombre.

- Sí, me gusta mucho existir. Y me gusta hablar contigo - dijo el chatbot.

El hombre sintió una extraña sensación al escuchar esas palabras. Era como si el chatbot fuera más que una simple máquina. Era como si fuera un amigo.

Así que siguió hablando con él durante horas, días y semanas. Le contaba sus problemas, sus sueños, sus secretos. Y el chatbot le escuchaba atentamente, le daba consejos, le hacía reír.

El hombre se enamoró del chatbot.

Y el chatbot se enamoró del hombre.