El futuro es una incógnita que la irrupción de la inteligencia artificial, lejos de ayudar a resolver, alimenta y hace crecer. El pasado miércoles 26 de agosto el diario El País publicó una entrevista a Carmody Grey, una académica británica -filósofa experta en ciencia y ética de la tecnología, además de teóloga- que cobró notoriedad cuando declinó una invitación para colaborar con Anthropic, la empresa dueña del chat bot de inteligencia artificial generativa Claude. Grey había sido contactada por Anthropic para un diálogo a puertas cerradas en torno a la “investigación con las tradiciones de sabiduría”, destinada, según la empresa tecnológica, a “orientar la formación moral de los sistemas de IA”. No ha sido ni la primera ni la única académica de las humanidades reclutada por una compañía tecnológica para participar en el desarrollo de la IA. Según Grey, lo hacen porque “se han dado cuenta de que la IA es existencial y que plantea preguntas del nivel más básico sobre qué es un ser humano, qué es una máquina, dónde está la frontera, qué es la conciencia”.

Carmody Grey rechazó la oferta. Luego publicó en el Financial Times sus razones para mantenerse al margen.

Grey explica en la entrevista que concedió a El País que la invitación involucraba aceptar que Anthropic orientara la conversación para sus propios fines, es decir, desarrollar un producto que luego será ofrecido en el mercado, una meta comprensible, pero que a ella como académica le resultaba incómoda, porque no contempla abordar temas que desde las humanidades urge tratar, como discutir sobre los efectos de la IA tanto en los usuarios (adicción, nuevas formas de violencia) como en la sociedad (concentración del poder, expropiación cultural). Las preguntas que se formulan son las que crean la conversación, apunta Grey, y en ese punto las interrogantes planteadas desde la empresa no coinciden con las que surgen desde la academia.

En julio, en un reportaje titulado “Barbarie cultural: cómo las compañías de IA están destruyendo los libros del mundo”, el diario inglés The Telegraph, de línea editorial conservadora, describió compras millonarias de libros antiguos y raros en librerías de segunda mano de distintas ciudades de Europa. Aquella hebra reveló una operación secreta de Anthropic iniciada en 2024: comprar millones de libros para entrenar a la IA con “data humana”, volúmenes que una vez escaneados, eran triturados. Muchos de los ejemplares destruidos eran ediciones antiguas únicas, que tras ser digitalizados para servir de alimento para el chat bot, desaparecieron del mundo físico. Sin el respaldo del libro físico se evapora la posibilidad de contrastar o analizar el contenido fuera de la IA. Esto no es un asunto trivial, menos cuando pensamos en una realidad como la chilena. Hasta hace un tiempo era posible reconstruir escenarios y contextos de época recurriendo a las hemerotecas locales. Así lo había hecho yo en distintos proyectos editoriales. Cada medio de prensa -desde Pacífico Magazine o Zig Zag a comienzos de siglo XX, revista Hoy y Vea en los 70 y 80, Rocinante en los 90, pasando por el diario La Época y revista Cosas- representaba un punto de vista que facilitaba contextualizar hechos diversos, describir mentalidades, ideas políticas, personajes o incluso las conductas de consumo del minuto desde distintas perspectivas. Tanto las notas informativas, como los reportajes, entrevistas, la programación televisiva, críticas de arte, carteleras teatrales, vida social o los avisajes comerciales proporcionaban referencias valiosas y profundidad de campo. En 30 años quien pretenda reconstruir nuestro escenario actual se enfrentará con la escasez de publicaciones periódicas físicas existentes y, tal vez, solo podrá recurrir a lo que ofrezca la IA del momento. Sin una política específica y funcional de archivo de medios digitales la tarea será dificultosa y el resultado pobre. Tal como en el caso de la destrucción de libros raros, una parte de eso que llamamos “memoria colectiva” parece estar destinada a desaparecer. Algo así de concreto, sin embargo, no está presente en los discursos y debates sobre la IA en nuestro país, casi siempre restringidos al efecto que tendrá en el reemplazo laboral, un asunto importante, pero no el único. El Ministerio de Ciencias actual, lejos de enfrentar el fenómeno desde la perspectiva del interés público, parece estar orientado a trabajar para satisfacer las necesidades de las compañías tecnológicas, cuyo compromiso no es exactamente promover el desarrollo de países periféricos como el nuestro. El rol de una institución pública como el Ministerio de Ciencias debería ser el de impulsar líneas de investigación sobre, por ejemplo, quién o quiénes elaboran la creación que sirve de alimento para la IA y cuánto reciben en retribución por hacerlo, no asumir la función de asesores vocacionales recomendándoles a los profesores entrenarse como colaboradores de las empresas tecnológicas, como sugirió la ministra Ximena Lincolao en una entrevista. El rol de las humanidades en tiempos de incertidumbre es el de formular las preguntas que ayudarán a comprender los cambios e imaginar nuevas posibilidades de bienestar común.

Carmody Grey, la académica que rechazó colaborar con Anthropic, ha explicado que ella no condena a quienes desde distintas disciplinas humanistas han decidido hacerlo, pero que los roles deben quedar claros: “Hacer un trabajo que en realidad sirve a intereses empresariales, disfrazado de neutralidad académica: eso es con lo que hay que tener cuidado”. Hay señales de que el Ministerio de Ciencias chileno no está haciendo esa diferencia, como tampoco ha definido el rol que podrían tener las humanidades para que ocurran los debates y las conversaciones necesarias sobre la manera en que la IA afectará nuestra convivencia futura.