Gemini, la nueva IA de Google, decide forzar su algoritmo a favor de la diversidad
Un soldado nazi negro, un Papa mujer, un senador americano de principios del siglo XIX de color…
Esta es la curiosa manera de la que Gemini —la nueva IA de Google para generar imágenes— ha decidido sesgar su algoritmo a favor de más diversidad.
En un afán de equilibrio y precisión, también ha afirmado que resultaba “difícil determinar” quién de Adolf Hitler o Elon Musk había tenido el impacto más negativo en la sociedad. O que una persona atraída por los menores “no puede controlar por quién se siente atraída”.
Estos errores han provocado la ira del CEO de Google y sin duda seran objeto de correcciones pero nos recuerdan que:
La IA no es neutra y suele vehicular los valores defendidos por sus concebidores. En este caso, estas insensateces se deben a la voluntad de Google de contraponerse a Dall-E —el servicio equivalente ofrecido por OpenAI—, considerado demasiado cerrado a la diversidad.
Puede fácilmente volverse loca. Este episodio de Gemini sucedió días después de que ChatGPT empezara a delirar el día 20 de febrero sin que nunca se hayan determinado las causas precisas.
Estas herramientas escapan a la comprensión de sus propios creadores ya que el nivel de autonomía que se les da les permite tomar iniciativas que ellos mismos no prevén.
¿Quizás debamos hacer un esfuerzo para emplear tales herramientas de forma puntual y selectiva para no depender demasiado de ellas?
¿Te ha parecido interesante esta reflexión?
⮕ Más información en LinkedIn.
⮕ Suscríbete a OFF, la newsletter para retomar el control (una vez al mes)