La IA y el futuro del conocimiento de la humanidad
A lo largo de la historia, la humanidad solo ha tenido un sistema para hacerse preguntas y responderlas: los otros humanos. Cuando queríamos saber algo, preguntábamos al médico, al maestro o al vecino que sabía; leíamos el periódico, que pagaba a periodistas para investigar; consultábamos libros, revistas o webs escritas por expertos. Este sistema humano de preguntas y respuestas funcionaba como funcionaba: era lento, imperfecto y desigual. Pero tenía una arquitectura de incentivos que, mejor o peor, sostenía la producción de conocimiento. Los productores de información (diarios, revistas, investigadores, creadores) invertían tiempo y recursos en generar contenido de calidad.
Con la inteligencia artificial, por primera vez tenemos un segundo sistema. Ante cualquier pregunta, ahora podemos elegir: preguntar a los humanos o preguntar a la máquina. Y la máquina es rápida, cómoda y barata. Además, la IA no solo nos da una segunda manera de buscar información. También ayuda a los humanos a producirla: traducir textos, resumir documentos, preparar borradores, ordenar ideas. Más opciones para preguntar y más facilidad para producir. La conclusión parece evidente: deberíamos acabar siendo una sociedad mejor informada.
Pero no está tan claro. La pregunta decisiva no es qué puede hacer cada sistema por separado, sino cómo interactúan. Y la clave es que no son independientes: el sistema artificial se alimenta del sistema humano. Las respuestas de la IA se construyen a partir de la información que han producido periodistas, científicos y creadores. Si el sistema humano se debilita, el sistema artificial también.
Esta es una de las ideas centrales de nuestra investigación conjunta, formalizada en un modelo teórico publicado en The Economics of Transformative AI (NBER Handbook) y desarrollada en los Digitalist Papers de Stanford University. El mecanismo es un cambio de incentivos en dos dimensiones.
La primera es el modelo de negocio. Ahora, entre productor y consumidor aparece un intermediario muy potente que sirve la respuesta directamente. Si la respuesta llega sin pasar por la fuente original, el productor pierde visitas y, en última instancia, los ingresos que sostenían su actividad.
La segunda dimensión es la calidad. La IA no abarata igual toda la producción: donde hace bajar los costes de manera más drástica es en el contenido de baja calidad. La información rigurosa continúa exigiendo investigación original, verificación y responsabilidad; el contenido superficial o directamente desinformativo se puede multiplicar a coste casi cero. La IA cambia los costes relativos: ayuda a todo el mundo a producir más, pero ayuda especialmente a producir información de baja calidad y desinformación.
Y aquí es donde los dos sistemas se encuentran. Los productores humanos, con menos incentivos y compitiendo con desinformación barata, producen menos información de alta calidad y más desinformación. Pero esta información degradada es precisamente la materia prima del sistema artificial. Una expresión relevante aquí es "garbage in, garbage out": si la entrada es de mala calidad, la salida también lo será. El riesgo, pues, no es que un sistema sustituya al otro, sino que caigan ambos a la vez. Y esto no requiere una IA superinteligente: basta con que sea lo suficientemente buena para destruir los incentivos del sistema humano, sin serlo todavía para sustituir su capacidad de generar información original y fiable. Este es precisamente el caso en el que nos encontramos: de momento, las personas continúan siendo mejores haciendo investigación original y entendiendo el contexto de las situaciones, aunque esta ventaja se puede ir reduciendo con el tiempo.
Las soluciones deben ir en las dos direcciones de los incentivos. Por un lado, reforzar la producción de información de calidad: que los sistemas de IA remuneren a los productores del contenido que utilizan, y apoyo público a los medios de calidad a través de instituciones independientes y creíbles financiadas con impuestos digitales. Por otro lado, hacer más costosa la desinformación: responsabilidad para quien la crea y la difunde, retirada obligatoria de contenidos fraudulentos y transparencia algorítmica. Si la tecnología cambia los incentivos en la dirección equivocada, la política pública debe ayudar a enderezarlos.
Queremos terminar con una reflexión que va más allá de visitar una web o pedir una respuesta a la máquina: hay más cosas en juego que la respuesta inmediata. Preguntar a una persona es una transacción agrupada: la misma conversación resuelve la duda, mantiene una amistad, transmite contexto tácito más allá de lo preguntado y abre la posibilidad de conectar partes de la red social que antes estaban separadas. La IA desagrupa esta transacción: da la respuesta, a menudo más rápida y mejor, sin crear ningún vínculo. Y transmite casi demasiado bien: puede dar a cada uno exactamente la información que quiere escuchar. La transmisión humana, imperfecta como es, nos expone a puntos de vista más allá de los nuestros y ayuda a mantener la sociedad cohesionada en lugar de polarizada. Cada pregunta que hacemos a la máquina es una conversación que no tiene lugar, y el capital social que hace valiosas las consultas humanas se construye precisamente con estas conversaciones.
Por primera vez tenemos dos sistemas para responder a nuestras preguntas, y el futuro del conocimiento de la humanidad dependerá de cómo los hagamos convivir.