① ENERO 

La IA de atención al cliente de la compañía de mensajería DPD empezó a delirar ante un usuario, admitiendo que la empresa era la peor y soltando una serie de tacos.

La anécdota parece ligera —no afectó cuestiones de seguridad nacional— pero en un contexto en el que las empresas confían cada vez más en IAs para ser más eficientes, es un aviso de que pueden perder el control sobre ellas y estas se pueden volverse en su contra.

② FEBRERO

Un joven de 14 años, Sewell Setzer, se suicidó tras enamorarse de una IA con la que había mantenido conversaciones a través de la plataforma Character.AI y de la que pensaba estar enamorado.

Este trágico evento es la punta del iceberg de una epidemia de soledad y de problemas de salud mental, especialmente entre los adolescentes, que amenaza intensificarse si la interacción con máquinas se sustituye progresivamente a las relaciones entre seres humanos. 

③ MARZO

Tras un incidente técnico, los vídeos del interior de 13.000 hogares clientes de las cámaras conectadas Wyze quedan expuestos a terceros. Se suman a la larga lista de objetos conectados susceptibles de revelar nuestra intimidad más allá de nuestra actividad puramente digital.

Al intentar controlar todas las variables que influyen en nuestras vidas a través de trackers, cámaras inteligentes, asistentes de voz, etc., sin querer estamos cediendo nuestra privacidad, lo cual nos hace, de nuevo, más vulnerables. 

Para ir más a fondo, os recomiendo OFF #10: “Los riesgos de vivir en un hogar Smart” y OFF #14: “Quieres conocer la hora de tu muerte”. 

④ ABRIL 

El sitio de investigación +972 revela cómo el ejército israelí utiliza la IA en el guerra en Gaza para identificar potenciales militantes de Hamas.

“Where’s Daddy?”, “Depth of Wisdom” o “Alchemist” son los nombres de algunos de los algoritmos que prefiguran una automatización de los conflictos, con márgenes de error importantes, cajas negras que producen recomendaciones algorítmicas para disparar de forma más eficiente y una intervención humana que se reduce paulatinamente. 

⑤ MAYO 

Roban los datos de varios millones de clientes de Iberdrola, Santander y Telefónica. El ataque estaría ligado al proveedor de servicios en la nube Snowflake y habría afectado a 400 empresas en el mundo, incluidos Ticketmaster (560 millones de cuentas hackeadas) o Mitsubishi. 

En realidad, muchas multinacionales a nivel mundial se apoyan en los mismos proveedores tecnológicos. Esto incrementa la dependencia, y por ende, la vulnerabilidad de todos los datos a nivel global. 

⑥ JUNIO 

Millones de usuarios de ChatGPT sufren una especie de apnea cognitiva cuando la plataforma de OpenAI deja de funcionar durante varias horas. 

A medida que delegamos nuestra capacidad de reflexión en la IA, desaprendemos progresivamente a pensar de forma autónoma y nos cuesta más trabajar sin su apoyo.

⑦ JULIO 

Durante 24 horas, el mundo sufre uno de los mayores parones jamás experimentados. Aerolíneas, bancos, bolsas, etc. se ven afectados mundialmente por un fallo en la actualización del programa Crowdstrike, utilizado por Microsoft. 

La concentración en el sector tecnológico, la interconexión entre servicios esenciales para el funcionamiento de nuestras infraestructuras y la digitalización de todos los aspectos de nuestras vidas hacen que un fallo en un pequeño ladrillo del sistema ponga en peligro el edificio entero. 

⑧ AGOSTO

Strava, una app popular entre los runners, permite deducir con antelación detalles de los viajes de jefes de Estado como Putin, Macron o Biden. 

Una investigación del diario Le Monde mostró cómo los miembros de sus servicios de seguridad son usuarios frecuentes y suelen acudir con antelación a los sitios a los que los presidentes viajan. Resulta fácil inferir en qué hotel se van a quedar o incluso, el lugar exacto de las villas de lujo secretas del presidente ruso.

Miembros del Secret Service posan en una foto publicada en Strava durante los juegos olímpicos de París. 

⑨ SEPTIEMBRE

El martes 17 de septiembre, Israel hizo estallar simultáneamente miles de beepers y cientos de walkie- talkies de miembros del Hezbollá, matando a decenas de miembros de la organización e hiriendo al menos a 4.000. 

Los análisis de este acontecimiento se han ceñido principalmente a su dimensión geopolítica. Y como la mayoría de nosotros no somos terroristas, no nos sentimos particularmente afectados. Sin embargo, esto significa que un Estado u organización puede usar dispositivos personales para matar selectivamente a personas. 

⑩ OCTUBRE 

Unos hackers tomaron el control de robots de limpieza de la marca Ecovacs. Estos empezaron a gritar obscenidades, perseguir a perros o niños y posiblemente, a revelar imágenes captadas por sus cámaras. 

Una advertencia más de que los objetos conectados son hackeables vía bluetooth o por una red de wifi. Hoy se trata de robots con una agilidad limitada pero ¿qué sucedería si mañana tienes un humanoide del estilo del Tesla Optimus en casa, que ya no responde a tus órdenes? 

⑪ NOVIEMBRE  

Siete familias francesas llevan TikTok a juicio por poner en peligro a sus hijos, 2 de los cuales se suicidaron, 4 lo intentaron y 1 con anorexia grave. Reunidas en el colectivo Algos Victima, defienden que sus hijos fueron expuestos a contenidos que promovían el suicidio, autolesiones o trastornos de la alimentación. 

El algoritmo de TikTok –de forma similar a lo que ocurre con otras redes– conoce cada vez mejor a sus usuarios, les ofrece vídeos relacionados con sus inquietudes (incluso si estas tienen que ver con el hecho de hacerse daño) y de manera general, intensifica la competición social. Los adolescentes son especialmente vulnerables ante estas dinámicas.

⑫ DICIEMBRE

El Tribunal Constitucional de Rumanía anula el resultado de las elecciones presidenciales en las que el candidato de extrema derecha y complotista prorruso Calin Georgescu, había llegado primero. 

Desconocido semanas antes del escrutinio, este se benefició de una campaña masiva a través de TikTok, presuntamente financiada por Rusia, en la que se manipuló el algoritmo de la plataforma. Nuestros cerebros, y por ende, nuestras democracias, son especialmente vulnerables ante plataformas que lo saben casi todo sobre sus usuarios y saben qué tecla pulsar para influir en nuestras decisiones. 

Puedes consultar

• La agenda de mis próximas conferencias (solicita una conferencia aquí).

• Reflexiones en LinkedIn.