Sesgos de la IA
El sesgo es un peso desproporcionado a favor o en contra de una cosa, persona o grupo en comparación con otra, generalmente de una manera que se considera injusta.
Los sesgos se pueden observar en cualquier contexto cultural, los hay cognitivos, estadísticos, en la aplicación de las leyes, en los medios, en los prejuicios… Por ello, es habitual que las personas puedan desarrollar sesgos hacia o en contra de un individuo, un grupo étnico, una identidad sexual o de género, una nación, una religión, una clase social, un partido político o paradigmas e ideologías teóricas dentro de los dominios académicos.
Como no podía ser de otra manera, también existe el sesgo algorítmico, que ocurre cuando un sistema informático refleja o los valores de los humanos que están implicados en la codificación o los sesgos que se encuentran ya en el tipo de datos usados para entrenar el algoritmo. Por eso no es de extrañar que muchos algoritmos de inteligencia artificial, en especial aquellos que han utilizado ingentes cantidades de datos para su entrenamiento, reflejen todos los sesgos que caracterizan a la humanidad. De hecho, esta situación es la demostración de que reflejan la realidad, y de que de autonomía intelectual tienen más bien poco. Por lo que hay que ir despidiéndose de la infantil creencia de que los algoritmos pueden ser neutros y diseñarse sin sesgo alguno. Repito, el sesgo está en las personas, pero mayormente está en los datos que la humanidad ha ido depositando en los libros, en el arte, en las leyes, en la red y en cualquier manifestación humana que haya quedado registrada y pueda digitalizarse.
Ciertos avances tecnológicos tienen una forma de asombrar, conmocionar o inquietar a las personas porque pueden repercutir en las esferas empresarial, laboral y cultural. La problemática surge cuando esos algoritmos se utilizan para eliminar trabajo y de paso reducir el control humano sobre los resultados. Comportamientos que sólo se le pueden ocurrir a responsables que tienen un conocimiento tecnológico análogo al cocinero al que se le ocurrió asar la manteca y que suelen tomar decisiones sin piedad. Por lo tanto, ese prototipo de dirigentes, consejos de administración y demás personas de similar catadura, deberían empezar por estudiar un poquico antes de hablar y sobre todo de tomar decisiones.
Para seguir, la investigación en inteligencia artificial general del tipo que tiene cualquier ser humano no está funcionando bien, por decirlo de una forma caritativa. Y para adjetivar los avances con respecto a una inteligencia artificial como la que estamos viendo estos días, antes de diagnosticarla, habría que dejar de confundir capacidad de actuación con competencia. Cuando vemos a una persona con algún nivel de capacidad de actuación en algo intelectual, como resumir un texto, podemos generalizar sobre su competencia en el área de la que está hablando, es decir, vemos a una persona hacer algo e intuimos qué más puede hacer, por lo que podemos emitir un juicio rápidamente, de hecho, por razones evolutivas somos muy buenos en eso. Pero los sistemas de inteligencia artificial son incapaces de generalizar su capacidad de actuación a una competencia. Los modelos de lenguaje grande, como Chat GPT-X, BERT, NLG, Gopher, XL Net, etc., que ya están llegando a sus límites predictivos, cuando los interrogas varias veces sobre un mismo tema, descubres que no tienen la inferencia lógica que parecían tener en su primera respuesta. De hecho, pueden llegar a alucinar, proporcionando respuestas inventadas, sesgadas o completamente equivocadas.
Por último, algunos de los ejecutivos de ciertas empresas que están detrás de esas aplicaciones están muy interesados en manifestar delirios disparatados, amedrentadores, tan estúpidos como ese que dice que la inteligencia artificial generativa tiene la capacidad de aniquilar a la humanidad. En un mundo dominado por el capitalismo salvaje, habría que leer entre líneas lo que buscan cuando manifiestan esas afirmaciones sesgadas. Posiblemente, dinero público.
