Los países participantes en la Cumbre sobre la Seguridad de la Inteligencia Artificial (IA), convocada por el Gobierno del Reino Unido, dan prioridad a evitar los riesgos que el rápido desarrollo del software y de la capacidad de computación pueden tener en la dimensión de los ataques cibernéticos o la innovación de biotecnología. Les preocupa también su poder de distribuir desinformación.

Esos tres puntos se destacan en el Acuerdo de Bletchley, un documento suscrito por 27 países, más la Unión Europea, en el que subrayan que la preocupación sobre los riesgos que encierra una industria, "con cambios rápidos e inciertos", se basa en parte en que "las capacidades de la IA no son comprendidas en su totalidad y por tanto son de difícil predicción".

"Afirmamos que profundizar en nuestro entendimiento de los riesgos potenciales y de las acciones para responder es especialmente urgente", señalan en el comunicado de la primera jornada de la cumbre de dos días. Universidades, entidades sociales, y empresas del sector están presentes en la cumbre, que clausurará este jueves el primer ministro británico, Rishi Sunak.

Te puede interesar

Musk ve la IA como una amenaza para la humanidad y propone un "árbitro independiente"

La publicación del acuerdo se adelantó al discurso que la vicepresidenta de Estados Unidos, Kamala Harris, pronunció en la embajada de su país. Enumeró los mismos riesgos recogidos en el pacto multilateral. "Gente en todo el mundo que no sería capaz de discernir entre hechos y ficciones en una riada de mitos y desinformación", dijo sobre el riesgo para la democracia.

Esos peligros no pueden ocultar la «profunda oportunidad» que ofrece la IA, según Harris. Aseguró que la multiplicación del poder de computación con un software que copia estructuras del sistema neurológico de los humanos puede resolver la crisis del clima, producir nuevas medicinas y curar enfermedades, multiplicar la producción agrícola y eliminar la inseguridad alimentaria, hacer que avancen la equidad, la libertad y los derechos.

El discurso de Harris también desveló las dificultades para cumplir el objetivo de cooperación entre los países que asisten a la cumbre. Se habían despejado las dudas y el viceministro chino de Ciencia y Tecnología, Wu Zhaohui, representó a su Gobierno. Y se acordó que la próxima reunión de los asistentes se celebrará en seis meses en Corea del Sur, y dentro de un año en Francia. Pero la colaboración tiene un límite.

Harris recordó la orden ejecutiva de Joe Biden para fomentar el desarrollo de la IA y controlar su seguridad. Es un programa exhaustivo de requisitos a las empresas para que sometan sus modelos a revisión gubernamental, de vigilancia en cada departamento de desarrollos y de creación de nuevos estándares de seguridad.

Quiebras de la privacidad

También plantea exigencias a las instituciones públicas para que el uso de esta tecnología no ampare discriminaciones o quiebras de la privacidad. La norma protege a los empleados del aprovechamiento oportunista por empresarios de la utilización de IA.

Críticos de la cumbre han advertido que la participación de los grandes del sector -Google, Microsoft o Meta- junto a los Gobiernos repite la influencia que tuvieron esas empresas en las regulaciones que gobernaron la expansión de internet. Aunque la UE y otros actores están produciendo sus propias reglas, el rápido avance en Estados Unidos influirá en mercados en los que la compatibilidad es un requisito clave. Elon Musk, dueño de Tesla y X (antes Twitter), además de crítico con la IA, cierra este jueves la cumbre con una charla con Sunak.