Marta Serra-Garcia: "El uso de ChatGPT no está correlacionado con la confianza en ChatGPT"

BarcelonaLa conversación sobre la inteligencia artificial se ha centrado mayoritariamente en el producto. ChatGPT (OpenAI) o Claude (Anthropic) se han vuelto omnipresentes en los dispositivos de los usuarios; y, con ellos, en la conversación social. Como todas las disrupciones tecnológicas de la escala que se le presupone a la IA, sin embargo, la adopción generalizada es la clave para cualquier avance significativo. Esta adopción consta entre los campos de estudio de Marta Serra-Garcia, economista catalana y catedrática de economía y estrategia en la Rady School of Management de la Universidad de California - San Diego especializada en economía del comportamiento, que ha estudiado la confianza de la ciudadanía en la IA. Serra-Garcia recibe al ARA en el campus Ciutadella de la Universidad Pompeu Fabra, donde estudió y donde ha vuelto para participar en el European Meeting of the Economic Science Association, organizado por el departamento de economía del centro.

Hace años que estudia la adopción de la IA, pero la tecnología ha hecho cambios copernicanos año tras año. ¿Cómo se analiza un campo que cambia tan rápidamente?

— Todavía lo estamos aprendiendo. Está cambiando muy rápidamente, y es un cambio fundamental en la economía. Necesitamos evidencia científica de lo que está pasando ahora mismo, pero sabemos que irá cambiando. La cuestión es: ¿qué cosas son fundamentales, generalizables? ¿Y qué otras cambiarán a medida que avancen los modelos? Hay según qué patrones de adopción de la tecnología que ya se estudian desde los 80, con los primeros ordenadores, y que vemos reflejados también en la interacción con la IA.

¿Se están encontrando las mismas tendencias de adopción que en otros movimientos tecnológicos, como internet o los ordenadores?

— Se observa una adopción más rápida. Sobre los efectos económicos, no hay un consenso. La IA es muy accesible para todo el mundo, pero utilizarla a escala es caro. Si quieres automatizar proyectos, tienes que pensar en el acceso a tokens. Por lo que se sabe de empresas como OpenAI o Anthropic, que son estimaciones, el uso de tokens está un poco subvencionado. Cuando cambie el coste, ¿qué pasará? Ya se empieza a ver que en según qué tareas, para las cuales se esperaban unas ganancias de productividad muy altas, estas ganancias no son tan grandes si se comparan con los costes. El trabajo humano tiene un coste marginal y una productividad marginal; y ambas se van compensando. La IA es tan volátil que, en el mundo empresarial, ya veremos cómo se aplica.

¿Y a escala de usuario?

— Hay aplicaciones que son muy accesibles. Todo el mundo puede abrir ChatGPT y preguntarle cosas. Da información muy personalizada y puede ser muy útil como consumidor, porque agrega y resume de una manera que Google, hasta hace poco, no hacía. También habrá crecimiento cuando empiecen a integrar herramientas automatizadas: que nos busquen los vuelos, nos hagan las reservas, las compras... Pero todo esto tiene un coste. A medida que el mercado de la IA vaya cambiando y el coste de los tokens vaya subiendo, iremos viendo si se adopta más o menos.

A menudo la evolución de la IA se compara con la burbuja de las puntocomde principios de los 2000.

— Una cosa es la experiencia pasada, y lo informativa que es respecto al futuro, y otra cosa es la adopción. La burbuja de las puntocom es una experiencia a tener en cuenta; y sabemos que los mercados financieros a menudo generan burbujas. Pero esto es muy difícil de decir antes de que ocurra. Hay expertos que señalan que las ganancias de productividad de la IA son buenas, pero que no justifican las valoraciones de Anthropic u OpenAI. Pero también hay quien dice que la promesa es un cambio de paradigma. Ahora hay unas pocas grandes empresas con mucho poder; pero es posible que todo ello cambie con la entrada al mercado de otros modelos. Hay quien defiende que habrá una diferenciación: que llegarán modelos básicos, accesibles para todo el mundo; y otros más complejos para quien quiere hacer cosas más avanzadas. Pero esto no es ninguna certeza.

La burbuja de las puntocomtambién demostró que los usos que se preveían inicialmente para la tecnología no son los finales. ¿Estamos en una fase similar con la IA?

— Es difícil decirlo. Tiene sentido pensar que todavía estamos en los primeros días. Ahora mismo, una de las funciones más demandadas para la IA es la búsqueda de información: hay menos Google y más búsqueda personalizada. ¿Esto se adoptará de manera generalizada? Dependerá de cómo cambien los mercados de la información. Hay una correlación clara entre la confianza en los medios de comunicación y la confianza en la IA. Pero es solo uno de los usos que tendrá la IA, y lo que se haga con ella dependerá mucho de cada mercado, cada cultura, cada sociedad. Todavía nos faltan datos para saber si sus efectos son los mismos sobre la población de EE. UU. que sobre la europea. Hay regulaciones diferentes, por ejemplo.

¿Cómo se diferencian los entornos regulatorios de los EE. UU. y la UE?

— Los EE. UU. son uno de los países que aparecen como más escépticos en lo que respecta a la IA. Y hay escepticismo respecto a aquello que dice la inteligencia artificial; pero también lo hay respecto a la regulación. Los responsables de regular —congresistas— son mayoritariamente mayores, no están al día de la tecnología, y cuesta mucho atraer al talento joven que se encuentra en la frontera tecnológica para que identifique los riesgos y les ponga límites.

Menos confianza en las instituciones, en línea con las conclusiones de su estudio.

— Sí, esto también. Todo está relacionado. En Europa, de hecho, se confía un poco más en la IA que en los EE. UU., aunque son niveles similares. Hay más tradición de pensar en la protección de los ciudadanos. La sociedad debe escoger y diseñar la regulación para hacer balance entre proteger más y dar espacio a la innovación. En Europa, el equilibrio todavía favorece la protección; en los Estados Unidos, un poco menos.

Parte del mundo tecnológico europeo considera que la regulación de la IA es económicamente positiva, porque genera productos más seguros de cara a los potenciales clientes. ¿Existe esta idea en los EE. UU.?

— Si el usuario es sofisticado, y entiende que la IA tiene problemas —de privacidad, de regulación, de protección—, entonces las empresas tendrán incentivos intrínsecos para generar confianza. Pero no todos somos perfectamente sofisticados. Desde esta perspectiva, ¿las empresas tienen estos incentivos para hacer que la IA sea segura, si el usuario no lo pide? Eso aún no está ahí. A medida que vayan avanzando las habilidades con la tecnología, o bien vendrán los reguladores a decidir qué cosas no se podrán hacer, o bien los usuarios pedirán a las plataformas que ofrezcan más garantías.

¿Han llegado al mercado demasiado pronto, las soluciones de IA, teniendo en cuenta sus avances en seguridad?

— Una empresa puede considerar que si tiene un modelo que funciona, puede hacerlo público, porque los usuarios también aportan datos para que el modelo pueda mejorar. Hace un año y medio había capacidades prometedoras, pero no se sabía hasta dónde llegarían. Es el huevo y la gallina: sin la masa crítica de usuarios no se puede entrenar el modelo; sin entrenar el modelo, este no mejora; y, si no está perfeccionado, no llega a una masa crítica. La tecnología misma necesita el uso para aprender.

A medida que los usuarios se han acostumbrado a utilizar tecnologías, ¿se ha hecho más fácil confiar en ellas?

— No he visto datos al respecto, pero es plausible. Pero a menudo el uso de la tecnología y la confianza en la tecnología no son lo mismo. Hay quien la usa, pero no confía en ella; y viceversa. Nosotros hemos visto que el uso de ChatGPT no está correlacionado con la confianza en ChatGPT. Por ejemplo, si un usuario usa mucho la IA, también podrá conocer más sus límites. Si no la usa tanto, quizás se guía por lo que dice su entorno.

Desde el retorno de Trump, se habló mucho de los enfrentamientos con la academia, con recortes, por ejemplo, en según qué departamentos. ¿Cómo ha ido evolucionando este conflicto?

— Es un hecho que la Fundación Nacional de la Ciencia (NSF, por sus siglas en inglés) prácticamente ya no da financiación a proyectos de investigación internos en ciencias sociales. Y dicen que recortarán más cosas. California, por ejemplo, ha incrementado sus fondos para compensarlo. Hay gente muy buena que se marcha a Canadá, a Suiza...

¿Considera peligroso que la academia esté perdiendo recursos en una expansión tecnológica tan grande como la de la IA?

— Podría ser peligroso, pero creo que todavía tenemos herramientas. Quiero ser optimista: en Europa hay investigadores muy buenos; y en los EE. UU., a pesar de los recortes, también. Que los investigadores más punteros se vayan al mundo de la empresa puede ser un riesgo. Pero queda gente con capacidad que puede colaborar tanto con las empresas como con los reguladores. De hecho, las mismas empresas son las que quieren estudios independientes para garantizarse la confianza del público. Un investigador de una compañía solo estudiará el modelo de esta compañía; pero la academia no está ligada a ningún modelo. Habrá cambios, pero todavía hay mucho talento para salir adelante.