El peligro de la publicidad en el ChatGPT
Esta primavera Sam Altman, director ejecutivo de OpenAI, pronunció, desde el presbiterio de la Memorial Church de Harvard, un sermón contra la publicidad: "Os revelaré un prejuicio mío: detesto los anuncios". Dijo que los anuncios "hacen sobre todo que la empresa que presta el servicio no se alinee con los incentivos de los usuarios", y añadió que la idea de mezclar publicidad con inteligencia artificial le parece "especialmente inquietante".
Este comentario me recordó enseguida algo que ya había oído anteriormente. Salió en un artículo muy influyente escrito por Sergey Brin y Larry Page en 1998, cuando estaban en Stanford desarrollando Google. Afirmaban que la publicidad solía restar utilidad a los buscadores y que las empresas que le pusieran "tenderían por definición a priorizar a los anunciantes en detrimento de las necesidades de los consumidores".
Llegué a Stanford como alumna de primer curso en el 2000, poco después de que Brin y Page aceptaran unos 25 millones de dólares de capital riesgo para convertir su proyecto académico en una empresa. Mi mejor amigo de la universidad me convenció de que probara Google, que consideraba más ético que los buscadores anteriores. Pero lo que no sabíamos es que, en plena crisis de las puntcom, los inversores de Google presionaban a los cofundadores para que contrataran a un director ejecutivo con más experiencia.
Brin y Page contrataron a Eric Schmidt, que a su vez contrató a Sheryl Sandberg para diseñar un programa de publicidad. Un par de años más tarde, cuando tramitaban la salida a bolsa de Google, Brin y Page justificaron el cambio de posición hasta entonces contrario a la publicidad diciendo a los accionistas que, gracias a los anuncios, Google era más útil porque ofrecía lo que los fundadores llamaban "una información comercial excelente".
Cuando hacía el último curso, se filtró la noticia de que Facebook –del que algunos de nosotros habíamos oído hablar por amigos de Harvard, donde empezó– estaba a punto de llegar a nuestro campus. Como dijo Mark Zuckerberg, cofundador de esta plataforma: "Sé que parece cursi, pero me encantaría mejorar la vida de la gente, sobre todo en las relaciones sociales. En el futuro quizás pondremos anuncios para recuperar el dinero, pero como ofrecer este servicio es tan barato, seguramente optaremos por esperar un tiempo".
En 2007, cuando cubría la información sobre Facebook para The Wall Street Journal, obtuve la primicia de que esta red social –que ya incorporaba anuncios– empezaría a utilizar los datos de los usuarios y sus "amigos" para mejorar la precisión con la que los anuncios llegaban al público objetivo. Como Google antes, Facebook lo calificó de bueno para los usuarios. Zuckerberg incluso hizo venir a Sheryl Sandberg de Google para que le ayudara. Más tarde, bajo la presión de la recesión económica, seguida de una salida a bolsa, Facebook siguió el ejemplo de Google: doblar la publicidad. En este caso, lo hizo recopilando y monetizando aún más la información personal sobre los usuarios.
Y esto me hace volver a Altman y OpenAI, la empresa matriz de ChatGPT. Comenzó como una organización sin ánimo de lucro con la misión declarada de construir una IA que beneficiara a la humanidad. Tras varias reestructuraciones provisionales, OpenAI ha anunciado que creará una empresa de beneficio e interés público (aunque controlada todavía por la organización sin ánimo de lucro), que estará al servicio del bien público y también de las necesidades de los accionistas; al mismo tiempo eliminará el límite de los rendimientos para los inversores, un cambio que según la directora financiera, Sarah Friar, "nos lleva a una posible salida a bolsa... si queremos y cuándo queramos". Una salida a bolsa en perspectiva y rumores de recesión económica: he aquí las mismas condiciones que precedieron al giro de Google y Facebook en materia de publicidad.
El terreno está preparado, pues, para la siguiente fase de la explotación por parte de las grandes tecnológicas del deseo de información, conexión y bienestar propio de los humanos, una explotación cada vez más desmedida. En este contexto, no es sorprendente que Altman y otros ejecutivos de OpenAI suelten con discreción globo sonda sobre la posibilidad de acabar recurriendo a la publicidad. En diciembre, Sarah Friar dijo a The Financial Times que OpenAI se lo está planteando, aunque aclaró que la empresa "no tiene planes en activo" en este sentido. Más tarde, Altman consideró la posibilidad de un modelo de ingresos por afiliación, mediante el cual su empresa recaudaría un porcentaje de las ventas cuando los usuarios compraran un producto descubierto a través de una función de OpenAI.
Altman recalcó que OpenAI no aceptaría dinero para cambiar la posición de las menciones de los productos. Sin embargo, no resulta difícil imaginar cómo funcionaría una nueva OpenAI: combinaría toda la información personal que ya compartimos con ChatGPT –problemas matrimoniales, conflictos en el trabajo– con los miles de millones de palabras consumidas por OpenAI al crear sus productos, con el objetivo de hacernos unas recomendaciones cada vez más acertadas sobre qué podemos hacer con nuestro tiempo, dinero y atención.
No creo que tuviésemos que esperar mucho para que Altman nos indicara que sería en nuestro beneficio. Y una vez ChatGPT diera el paso, es evidente que todo el mundo iría detrás. Mientras tanto, Google ya inserta anuncios junto a los resultados de búsqueda generados por IA.
El problema no es sólo que esta estrategia convertiría unas herramientas digitales diseñadas en principio para ayudar a los usuarios en unas herramientas digitales destinadas a ayudar a los anunciantes, dos grupos cuyos intereses no son precisamente idénticos. El problema es, además, que estas herramientas potenciarían espectacularmente lo que la escritora y psicóloga Shoshana Zuboff llama "capitalismo de vigilancia": un gran sistema en el que las empresas tratan nuestras experiencias e identidades como mercancías que pueden utilizar para manipularnos a través de la publicidad. El efecto, afirma, es "una vez epistémico fundamentalmente antidemocrático".
Roger McNamee, antiguo mentor de Sheryl Sandberg y también de Zuckerberg, además de ser uno de los primeros inversores de Facebook, tuvo, a su juicio, "un asiento en primera fila" durante los primeros años de Google y Facebook. Más tarde ha criticado a estas empresas por el control que ejercen sobre los usuarios, y los políticos por lo que él considera su fracaso a la hora de exigir las necesarias garantías. McNamee me dijo recientemente que no tiene unas relaciones tan estrechas con OpenAI como con estas otras empresas, "pero ahora mis habilidades para reconocer a los patrones empresariales son mucho mejores". Cree que esta vez el peligro es mayor, agravado por todos los datos explotados por las empresas de IA, por no hablar del enorme consumo de recursos naturales y la potencial amenaza que representan para los medios de subsistencia de millones de trabajadores, y todo ello por unos productos que considera de un valor mínimo. Cree que, si OpenAI acepta la publicidad y opta por ese capitalismo de vigilancia, la catástrofe será terrible.
Copyright The New York Times