“La humanidad va a perder el control”

Los que alertan de los riesgos de la IA suelen dividirse en 2 categorías:

- Los 'doomers', que previenen de sus potenciales consecuencias apocalípticas.

- Los que insisten en los daños que la IA está causando ya, en especial los sesgos o la desinformación.

Esta supuesta oposición es exagerada y se trata, en realidad, de un espectro: alertar sobre los riesgos de extinción de la humanidad ligados al despliegue ciego de la IA no implica cerrar los ojos antes los daños que ya se están observando.

Ambos resaltan que nos adentramos en un terreno desconocido y deshumanizador cuando no delimitamos la autonomía de las máquinas.

Las declaraciones del “insider” William Saunders, exempleado de OpenAI junto a compañeros de la empresa que está detrás de ChatGPT reúnen estos dos extremos, especialmente en cuanto a cómo la desinformación masiva y una IA con agenda propia podría conmocionar nuestra especie.

Saunders describe una cultura empresarial en OpenIA en la que premia el objetivo de cumplir con las fechas de lanzamiento sobre las precauciones más mínimas de seguridad.

“Fue como construir un avión que solo se probara en tierra. Pero como también tiene que volar sobre agua, alguien advierte sobre los riesgos. Y la respuesta es: ‘Nunca hemos tenido un choque sobre el agua. Así que comencemos la aerolínea. Si las máquinas caen al agua, lo arreglaremos. No te preocupes.’ ”

Una cultura en la que todo está hecho para que los empleados se mantengan callados y se desincentiva cualquier crítica, a pesar de que estén en primera línea para alertar sobre riesgos que pueden tener consecuencias para toda la humanidad.

“Me inquieta mucho pensar que pronto podremos tener sistemas que […] asesoren a presidentes o directores ejecutivos, pero que ni siquiera sepamos sin son confiables o si tienen su propia agenda.”

“No quiero despertar en un mundo donde la gente ya no tiene el control. Pero estamos corriendo hasta este escenario ahora mismo.”

¿Te ha parecido interesante esta reflexión?

⮕ Más artículos en LinkedIn.

⮕ Suscríbete a OFF, la newsletter para retomar el control (una vez al mes)