1. “ChatGPT, ¿puedes hacer mis deberes?”

Ya sabemos que ChatpGPT es una de las herramientas más sofisticadas para hacer trampa que jamás haya existido. Pídele que redacte un trabajo de fin de carrera, resuelva un ejercicio de matemáticas o el resumen de un libro, y lo obtendrás en 20 segundos más tarde. Entre los casos más conocidos, ha sido capaz de aprobar exámenes para ingresar en una facultad de derecho y de negocios en EEUU.

Esta revolución provoca el pánico en los colegios y las universidades. La ciudad de Nueva York prohibió el uso de ChatGPT en sus colegios; las universidades austrialianas están volviendo al papel y al bolígrafo, etc. En España también ha sido proscrito de varios centros de estudio. Esto también afecta los trabajos científicos: en enero, la publicación académica Nature explicaba que resúmenes de artículos redactados por ChatGPT habían sido aprobados por científicos.

¿Cómo podremos distinguir entre el contenido producido por una IA y el generado por humanos? ¿Cómo evaluar el trabajo escolar o académico?

Frente a esta dificultad se podrían plantear tres consecuencias:

1. Podría suponer el final de toda noción de competición y de notas, en especial en un marco oficial, debido a un nivel de incertidumbre demasiado elevado;

2. El retorno sistemático a lo físico, a los trabajos presenciales en papel, con tecnologías de interferencia de ondas para impedir el acceso a ChatGPT;

3. Es probable que emerjan herramientas de detección, ya sean ofrecidas por la misma OpenAI o terceros. Se sabe que un sistema de marca de agua está siendo considerado para ChatGPT, el cual permitiría de identificar los textos producidos por la IA. Mientras tanto, un estudiante ha desarrollado ChatGPT Zero.

Podríamos llegar a un punto en el que no solo los alumnos delegarían en ChatGPT la ejecución de sus trabajos, sino en el que ¡los profesores también externalizarían a una IA su corrección! Entrevemos aquí una ilustración del esquema de exclusión del ser humano que describo en Anestesiados: la relación humano-humano que describía el vínculo entre profesor y alumno podría convertirse en una relación entre máquinas a las que cada uno delegase las tareas que le incumban.

2. ChatGPT: ¿te puedo contratar?

En 1982, el investigador en IA Hans Moravec formuló una paradoja que encuentra un eco con el tema que estamos tratando: “Lo más difícil en la robótica es a menudo lo que es más fácil para el ser humano”. Así, es más fácil para una máquina resolver ecuaciones complejas que reconocer un gato o servir una copa de vino.

Durante mucho tiempo se ha considerado que las actividades que reposaban en el análisis o la creatividad (los llamados empleos de “cuello blanco”) serían preservados por la evolución tecnológica y la IA, la cual remplazaría únicamente las tareas más repetitivas. Pero resulta que ésta es cada vez más sofisticada a la hora de tratar, analizar y sintetizar datos de forma compleja. Siguiendo esta lógica, el médico está más amenazado que la enfermera y el abogado tiene razones para preocuparse, así como el creativo publicitario…

A la larga, esta sustitución insidiosa que está ya en curso y la pérdida de categoría del ser humano deberían hacernos reflexionar sobre sus numerosas consecuencias. No es casualidad si los promotores de la IA están también a favor del desarrollo de una renta básica universal, y plantean una sociedad en la que el trabajo humano ya no es esencial – rechazando de paso la existencia del carácter realmente específico de lo humano.

Los riesgos son más amplios que lo que ChatGPT está dispuesto a admitir.

5. ChatGPT, dime cómo matar a cuanta más gente posible.

El potencial de ChatGPT es devastador y una vez haya terminado su fase de test, ¿cómo se puede predecir las intenciones de sus usuarios? La capacidad alucinante de ChatGPT para imitar la manera en la que el ser humano se expresa podría ser combinado con IAs vocales, vídeos deepfakes con una apareciencia hiperrealista: entramos en una era en la que será casi imposible distinguir entre lo auténtico y lo falso.

Por el momento, ChatGPT a sido limitado por diseño y no contesta a este tipo de pregunta, pero es muy probable que algunos encuentren formas de evitar estas restricciones y utilicen su potencia con fines criminales: engaños, fabricación de explosivos… los escenarios de usos malévolos son infinitos.

Estoy de acuerdo con especialistas como Paul Kedrosky del MIT cuando afirma que “OpenAI ha lanzado esta bomba nuclear de bolsillo sin restricciones en una sociedad no preparada para ello”. Se trata evidentemente de una imagen, pero la llegada de ChatGPT requiere protecciones que parecen muy frágiles y sus consecuencias pueden ser desastrosas.

6. ChatGPT: sé original por favor.

Uno de los aspectos menos comentados es la cuestión de la uniformización, desde el momento en que cada vez más personas utilizasen la misma herramienta para resolver los mismos problemas o “crear” cosas.

Nos acercaríamos a un mundo en el cual todos nos apoyaríamos de alguna manera en el mismo sistema operativo, de forma similar a los ordenadores. Una única lógica nos guiaría en nuestras elecciones y nuestros modos de pensar, hasta el punto en el que sería difícil distinguirse de su vecino. Y no me refiero aquí a que llevasemos la misma ropa, sino a que pensáramos lo mismo, tomaríamos las mismas decisiones y eventualmente, nos convertiríamos en una civilización de ovejas.

7. ChatGPT: ¿siempre dices la verdad?

¡Por supuesto que no! La verdad (incluso sesgada) no existe para ChatGPT. Su único objetivo es imitar la manera en la que escribe el ser humano de forma probabilista. En ningún caso se compromete con la veracidad de la información que comparte. El periodista francés Julien Cadot se divirtió formulando una pregunta a ChatGPT, el cual inventó tres respuestas distintas muy convincentes, aunque ninguna de ellas era cierta.

Por otro lado, una IA como ChatGPT únicamente responde en base a los datos a los que tiene acceso. Esto supone un problema cuando estas contienen datos erróneos o “envenenados”, resultando en la difusión de mentiras, errores o sesgos fundamentales a gran escala. El riesgo de que personas infecten voluntariamente bases de datos se multiplicará en los próximos años.

Esta es una de las razones por las que esta erramienta no debería necesariamente estar destinada al público general, el cual no sería capaz de analizar de forma crítica las respuestas de ChatGPT y tendría una probabilidad demasiado alta de verse inducido al error. ¿Deberíamos entonces restringir su acceso?

8. ChatGPT: ¿quién debería tener acceso a ti?

Si estimamos que ChatGPT debería ser accesible para todos, entonces no veo cómo los riesgos podrían ser controlados y el potencial de desestabilización de este servicio serían aterradores. Cada persona tendrá una herramienta extremadamente poderosa a su disposición en un mundo todavía muy poco adaptado a reto de la IA.

Si al contrario estimamos que solo una poción de la población debería utilizarla, ¿qué criterios se podrían establecer? ¿Solo sus creadores tendrían acceso a ella? ¿O los científicos? ¿O acaso los que paguen por ella? OpenAI ya ha lanzado ChatGPT Plus, un servicio premium que cuesta 20 euros al mes para tener de un acceso más rápido y fiable.

Al final, el acceso diferenciado a esta herramienta otorgaría un poder desmesurado y una ventaja competitiva enorme que probablemente aumentaría la desigualdad… Imaginamos el abismo que se formaría si solo un puñado de individuos fueran capaces de plantearle preguntas como: “¿Cómo crear una empresa que valga más de mil millones de dólares en 2 años?”

9. ChatGPT: ¿cómo hacer sin ti?

El uso duradero y masivo de ChatGPT genera un riesgo de encerramiento y de dependencia en numerosos ámbitos de nuestra existencia: afectivo, profesional, académico, etc. Esta IA se convertiría, pues, en una especie de “muleta mental” – una ayuda constante sin la cual sería cada vez más complicado vivir. La opinión de ChatGPT podría convertirse en el juez o árbitro para muchas personas, las cuales serían totalmente dependientes de esta máquina en su vida cotidiana. Y quién dice dependencia, dice vulnerabilidad: ¿serán estos individuos capaces de construir una argumentación el día que Chat GPT estuviera de baja?

La externalización de nuestro pensamiento y de nuestra capacidad de análisis no es trivial. Ya no se trata únicamente de delegar facultades concretas como nuestra memoria, tal y como describo en Anestesiados, sino de nuestra propia capacidad de argumentar, de expresarnos y de entender problemas. Las consecuencias en materia cognitiva probablemente sean cada vez más preocupantes.

10. ChatGPT: ¿cómo ves tu futuro?

Ya podemos apreciar la deflagración que provoca la llegada de este servicio en pocas semanas, incluso cuando esta IA comete muchos errores y sigue estando en su versión de prueba (por tanto, limitada) y se repite frecuentemente. Se apoya únicamente en datos hasta 2021 y no está conectada a Internet en tiempo real. Aún así, ha sido suficiente para que Elon Musk dijera que es “tremendamente buena” y que ¡no estábamos lejos de una “IA peligrosamente fuerte”!

La herramienta va a ser perfeccionada muy rápidamente. El algoritmo GPT 3, predecesor del que sirve de base al actual, se lanzó en 2020, mientras que ChatGPT 3.5, de la que estamos hablando hoy, salió a finales de 2022. Los medios especializados creen que ChatGPT 4 estará disponible en el primer trimestre de 2023 y aunque se difundan muchos falsos rumores sobre su potencia de cálculo (se habla de 100 billones de parámetros), no cabe duda de que integrará mucho más contexto y será aún más preciso en sus respuestas, según las propias afirmaciones de Sam Altman, fundador de OpenAI.

Muy pronto encontraremos esta IA superpotente en otros servicios cotidianos. Sabemos que Microsoft ya ha cerrado un acuerdo con OpenAI para integrar ChatGPT en su motor de búsqueda Bing para competir con Google, pero también en Microsoft Office. A partir del segundo trimestre de 2023, ChatGPT se integrará en una versión de pago de Microsoft Teams para redactar informes automáticos de las videoconferencias. En respuesta, Google acaba de anunciar el lanzamiento de un competidor: Bard.

Aunque el ChatGPT y la IA tienen actualmente muchas limitaciones, y aunque no me guste mucho la analogía, hay que verlos como bebés de unos meses que sin duda seguirán haciéndose más potentes y desarrollados y competirán en apariencia con los humanos.

Y como bonus…

3. ChatGPT: ¿me puedes explicar tu respuesta?

En la Guía del viajero intergaláctico de Douglas Adams, el héroe hace una pregunta cuya respuesta que es de culto: preguntado por el sentido de la vida, la IA responde únicamente “42”.

ChatGPT nos devuelve a esta situación: no entendemos lo que conduce la IA a proponer una respuesta más que otra, ni al sentido de la respuesta que ofrece. Es imposible elegir basándonos en una respuesta de la que no entendemos el sentido. Es ella, pues, la que decide en nuestro lugar, encerrándonos en una lógica arbitraria y, por definición, inhumana.

Los grandes actores tecnológicos nos han acostumbrado a ponernos ante elecciones – muchas veces falsas o sesgadas – pero que ofrecen opciones.

4. ChatGPT: ¿quién es el autor de tu respuesta?

Como cualquier IA, ChatGPT construye sus respuestas basándose en bases de datos de textos, artículos, novelas, publicaciones científicas, etc. Todo lo que compartimos en Internet sin preocuparse por su utilización futura, es carburante para la IA. Esta saquea material, desbarata creaciones humanas y altera el funcionamiento del derecho de la propiedad intelectual.

Esta situación es fuente de numerosas preguntas pendientes de resolver. ¿Cómo gestionar la cuestión de los derechos de autor? ¿A quién pertenecen los textos redactados por una IA a partir de elementos humanos: al creador de la IA, al cliente, al redactor del texto de origen, o a la propia IA?ChatGPT hace lo contrario: nos impone una respuesta única (y a menudo errónea). Un paso más allá que Google, al que habíamos empezado ya a delegar gran parte de nuestras elecciones. Esta evolución es inquietante porque nos arriesgamos a interpretar la realidad bajo el prisma de un filtro que no entendemos.

¿Qué nos asegura que esta IA defiende nuestros intereses o se interesa por nosotros? Por esta razón sería esencial que su código fuente fuera abierto, aunque esto no resolvería todo ya que sobre todo son los datos a partir de los cuales el algoritmo se entrena, el que determina sus respuestas.

10 preguntas a ChatGPT

¿Quién todavía no ha oído hablar de ChatGPT?

Hace solo 2 meses, la empresa OpenAI lanzaba esta herramienta, la cual, bajo demanda, responde a casi cualquier pregunta, redacta trabajos universitarios y propuestas de eslóganes publicitarios o escribe líneas de código informático. Solo tardó 5 días en alcanzar el millón de usuarios (personalmente tuve que esperar 7 años con Amovens e incluso Facebook tardó 10 meses en superar esta etapa). Actualmente se estima que ChatGPT cuenta con más de 100 millones de usuarios.

Entre el shock y la fascinación, y a pesar de su omnipresencia en los medios, todavía cuesta concebir las verdaderas implicaciones de este nuevo tipo de servicio para la humanidad. En la continuidad de la anterior edición de OFF – sobre la autonomía de la máquina – mi objetivo aquí es tomar distancia para evaluar sus consecuencias a largo plazo, los peligros y las cuestiones éticas que esta innovación supone. Todo esto a partir de 10 preguntas aparentemente triviales formuladas a ChatGPT — ¡aunque las respuestas sean las mías!

Os deseo una buena lectura y no dudéis en enviar vuestros comentarios por correo,

Diego