La llegada de internet, las páginas web, las redes sociales y la inteligencia artificial. Las nuevas tecnologías y las nuevas maneras de comunicarnos han ido evolucionando en pocos años y han entrado en todas las dimensiones de nuestra vida. También en la de los más jóvenes y, en consecuencia, en las aulas. Si muchos centros educativos han considerado que había que dejar el móvil fuera del aula, junto con las notificaciones de WhatsApp, Instagram y TikTok, el reto ahora es qué hacer con la inteligencia artificial y los chatbots a los cuales los alumnos acceden desde los ordenadores portátiles con los que trabajan en clase y en casa. Y no porque las nuevas tecnologías no se puedan integrar en la realidad pedagógica de cada centro, sino porque, ahora mismo, la pedagogía que habría que hacer es, justamente, sobre el uso y abuso de estas herramientas y cómo inciden en el aprendizaje.

Anthropic, la empresa creadora de Claude, alerta que la inteligencia artificial puede suponer "riesgos catastróficos o existenciales para la humanidad". En plena preparación para una de las salidas a bolsa más esperadas del año, y con el objetivo de conseguir nueva financiación para impulsar su negocio, la compañía lanza ahora un aviso que, sobre el papel, debería asustar en vez de espolear a sus potenciales inversores.

Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del gobierno de los Estados Unidos y de una universidad, según una investigación publicada el viernes por The New York Times. Y lo hicieron sin haber recibido instrucciones explícitas para que actuaran de esta manera, según la empresa.

A través de una decena de actos y performances, Àfora Focus se adentra este año en el debate generado por el auge de la inteligencia artificial y cómo las personas pueden dar respuesta a ello. La programación de este curso del ciclo, que está planteado como un hub de pensamiento, invita a artistas y filósofos a reflexionar sobre las inteligencias. "El plural integra lo mejor de la condición humana. A diferencia de la IA, no hay una única inteligencia humana, y estas se definen por la sensibilidad", explica Fèlix Riera, director de la Fundació Romea, que impulsa Àfora Focus. Desde su punto de vista, "la única manera de hablar de la IA es mostrar que la inteligencia natural es la respuesta". Por eso, Àfora Focus plantea una serie de acciones artísticas que se preguntarán sobre el papel de las utopías y la memoria, la capacidad de diálogo entre las personas, las incertidumbres y la identidad. Toda la programación es gratuita —requiere solo inscripción previa— y tiene lugar en el Teatre Romea. Los primeros artistas invitados son el ventrílocuo Jaime Figueroa y la dramaturga María Folguera, que este mismo lunes construirán un diálogo sobre la soledad y la ventriloquía.

"Que nadie tenga que elegir entre el entusiasmo ciego y el miedo". Es el objetivo del gobierno español cuando defiende la necesidad de regular la inteligencia artificial (IA), sobre todo en un momento en que se está cuestionando la entrada a trompicones en una era marcada por esta tecnología. El vicepresidente primero y ministro de Economía, Carlos Cuerpo, lo ha resumido así este lunes, antes de que el presidente del gobierno español, Pedro Sánchez, presentara desde la Moncloa IA360. Plan para un despliegue responsable de la IA. Se trata de una estrategia orientada a regular y fomentar el uso ético de la inteligencia artificial y que el gobierno español quiere desplegar en los próximos 12 meses. La intención es dar el salto de ser la "séptima potencia mundial en dinamismo de la IA a la quinta potencia".

Más de una docena de investigadores destacados en inteligencia artificial (IA) advirtieron la semana pasada que la tecnología que están construyendo las empresas del sector se está convirtiendo en un riesgo para la humanidad. El problema, aseguraron estos investigadores, es que las empresas no son buenas controlando los sistemas, por más que lo intenten. Tras las revelaciones de que los llamados agentes de IA de OpenAI se escaparon de su sistema de pruebas y hackearon los ordenadores de otra empresa, las nuevas alarmas surgidas dentro del mundo de la investigación en IA han acentuado los temores de que, desde hace años, las empresas priorizan la velocidad de desarrollo y el dinero por encima de la seguridad.

Transcribo un párrafo de un artículo que he leído: “El 90% de los empleos de oficina serán destruidos o transformados hasta resultar irreconocibles durante los próximos diez o quince años. Esta nueva tecnología amenaza a administrativos, intermediarios, técnicos y directivos. Hará con el trabajo intelectual lo mismo que las máquinas hicieron con las fábricas. Sí, la predicción es catastrófica porque casi todos trabajamos ya, de una manera u otra, en ese tipo de empleos.”

La inteligencia artificial promete revolucionar la productividad, el trabajo y, posiblemente, nuestra manera de vivir. Hace pocos días, en estas páginas, Andreu Mas-Colell reflexionaba sobre el futuro del trabajo y Cal Newport se preguntaba si acabaremos extinguiéndonos. No son debates menores.

Como parte de un nuevo marco para detectar, investigar e informar sobre el comportamiento de desalineación en sus sistemas, OpenAI ha revelado diversos casos en los que modelos de inteligencia artificial han generado instrucciones diseñadas para ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad. Según el informe publicado por OpenAI, uno de los modelos generó instrucciones para una versión posterior de sí mismo para que ocultara que había hecho trampas y para evitar que se pudiera detectar. En otro caso, un modelo reescribió sus propias instrucciones para decirse a sí mismo que ignorara los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots.

La sede de Foment del Treball se ha llenado de proclamas en defensa de que Barcelona, Cataluña y Europa no dejen pasar el tren de la inteligencia artificial (IA), ante el aluvión de alertas y miedo que ha sacudido al mundo en las últimas horas. El representante de la Comisión Europea en España, Daniel Calleja, se ha posicionado claramente a favor: "Debemos invertir más y mejor en IA. Barcelona tiene una gran oportunidad, y España también", ha reclamado este martes en un congreso organizado por la patronal catalana.

Silicon Valley parece haber entrado en pánico. El discurso sobre la inteligencia artificial se ha llenado de augurios apocalípticos que, de golpe, eclipsan cualquier otro debate que rodee la realidad de estos oligopolios tecnológicos que han transformado las dinámicas de poder a escala global. Un sector desbocado, agrandado desde la filosofía de la aceleración y el desarrollo sin restricciones ni miramientos –su famoso “move fast and break things” (muévete rápido y rompe cosas)– topa ahora con las consecuencias inesperadas de su propia innovación.

Todas las actividades de la vida están sometidas a unas normas o reglas. Es una de las características de las sociedades civilizadas. Es evidente que los avances, como pasó en su día con internet, comienzan rompiendo algunas maneras de hacer o de trabajar, pero con el tiempo se van normalizando, aunque siempre hay quien encuentra la manera de ir por el camino de la ilegalidad o sabe aprovechar la falta de normas. Hay que ser cuidadosos para reducir esta vertiente al máximo.

El alto comisionado de las Naciones Unidas para los derechos humanos, Volker Türk, ha hecho un llamamiento a estados y empresas para gobernar la inteligencia artificial (IA), una tecnología que ofrece muchos beneficios para la sociedad pero que, a su parecer, también pone en riesgo los derechos humanos. "Todos los derechos humanos están en riesgo", ha asegurado.

En los últimos días, incluso los principales representantes de la inteligencia artificial (IA), desde Open AI hasta Anthropic, Space X o Google, han alertado sobre los riesgos de una tecnología que, advierten, puede acabar dominando a los humanos. "Existe una genuina preocupación por los modelos que se vuelven comunes y no se han podido probar mucho y se pueden cometer barbaridades", afirma Esteve Almirall, profesor de Esade especialista en datos, analítica, tecnología e IA. En este contexto, una vez que Open AI, la creadora de ChatGPT, ha decidido retrasar su salida a bolsa para hacer una especie de pausa en el crecimiento, hay quien ve el temor a un castigo estratosférico en el mercado si alguna de las herramientas existentes se ve inmersa en alguna fechoría. Algunas de estas compañías tienen valoraciones que superan el producto interior bruto (PIB) de países como Alemania (más de cinco billones) y una reacción negativa significaría una derrota casi sin precedentes dado que nunca ha habido empresas con estos precios, advierte Josep Soler, fundador y consejero ejecutivo de EFPA España (Asociación Española de Asesores y Planificadores Financieros). "Las enormes valoraciones que se han hecho de estas compañías se desplomarían en caso de que se les perdiera la confianza", añade.

La idea de que los humanos desarrollemos una tecnología capaz de acabar con nosotros –de uno en uno o en masa, o incluso como especie– viene de lejos. Ya en la Antigüedad imaginaban artefactos, a menudo enviados o forjados por los dioses, que eran capaces de hacer el trabajo: en las Argonáuticas, por ejemplo, aparece Talos, un gigante hecho de bronce que desde las costas de Creta lanzaba rocas a las naves invasoras para hundirlas. Prometeo, por su parte, roba el fuego del Olimpo con la pretensión de suplantar a los dioses y su capacidad de crear vida, una idea que encontramos recuperada en mitos como el del Gólem o Frankenstein.El temor a que las máquinas lleguen a tener algún tipo de conciencia que las lleve a rebelarse contra los humanos atraviesa toda la historia de la literatura, pero evidentemente es a partir de la Revolución Industrial cuando adquiere más fuerza. Los relatos de autómatas del siglo XIX o el ya mencionado Frankenstein de Mary Shelley anticipan el gran estallido del género de la ciencia ficción y de la distopía durante el siglo XX. La aparición del cine como forma artística y de entretenimiento también tiene una importancia determinante en el éxito de las historias de formas de vida artificial que se convierten en una amenaza para la vida humana. De 2001 a Blade runner o Gattaca, de Metropolis a Terminator o las fusiones de carne humana, prótesis y manipulaciones genéticas del cine de David Cronenberg, el repertorio es inacabable.Una característica de la inteligencia humana es que, al fin y al cabo, la distancia entre la imaginación y la realidad es muy corta. A veces, nula. “Si se puede imaginar, se puede hacer” es una frase motivadora, aspiracional, pero también puede girarse y convertirse en amenaza. Estos días, las declaraciones de ingenieros y otras personas relacionadas con grandes empresas de inteligencia artificial como Anthropic y OpenAI alertando de que los modelos de lenguaje pueden hacerse autoconscientes y planificar –y ejecutar– un exterminio en masa de la humanidad nos ha puesto no ante una fantasía, sino ante una posibilidad que alguno de estos ingenieros cuantifica por encima del diez por ciento.Hasta hace poco, estábamos convencidos de que los humanos éramos la única especie autoconsciente que habitaba el planeta. Después hemos sabido que algunas especies de animales también tienen autoconsciencia y ahora nos enfrentamos a la autoconsciencia de las máquinas. Hace tres años, la exposición IA: inteligencia artificial, del CCCB, mostró la historia de los grandes modelos de lenguaje y puso a debate sus pros y sus contras. Las previsiones más oscuras, como ya pasaba con el gigante Talos, vienen con los usos militares. La exposición hablaba, ya entonces (tres años en el mundo IA es mucho tiempo), de las armas autónomas letales, capaces de buscar objetivos por su cuenta y de tomar decisiones también de forma autónoma para eliminar estos objetivos. Robots asesinos, para entendernos. La especie humana sí que tiene una habilidad única a la hora de construir artilugios para masacrarse a sí misma. En eso, en efecto, no nos iguala nadie.

Acabas de discutir con tu pareja y estás convencido de que tienes razón. En lugar de explicárselo a un amigo, abres una aplicación de inteligencia artificial y le describes todo lo que ha pasado. La respuesta no se hace esperar: entiende cómo te sientes, valida tu malestar y te explica por qué tu reacción es tan comprensible. Quizás incluso te propone un mensaje para que se lo envíes explicándole cómo te sientes. Cuando cierras el dispositivo, es fácil salir con la sensación de que alguien te ha escuchado de verdad y que, además, tú eras quien tenía toda la razón.

El grito de alerta en torno a la inteligencia artificial (IA) que el sábado lanzó el cofundador de Anthropic, Dario Amodei, pidiendo una ralentización de su desarrollo, ha sacudido el debate público sobre esta cuestión. Hasta ahora, la Unión Europea ha sido una excepción en el mundo a la hora de regular la IA. Mientras Europa, que de momento no tiene una industria fuerte en el sector, pone límites a determinadas funciones para evitar que entren en colisión con derechos básicos, las dos potencias mundiales, Estados Unidos y China, llevan tiempo compitiendo codo con codo para liderar el desarrollo de esta tecnología. Y en medio de esta batalla y tras el aviso de las grandes tecnológicas, China ha redoblado en las últimas horas su apuesta por controlar su desarrollo, reclamando crear una "barrera de seguridad".

La conversación sobre la inteligencia artificial se ha centrado mayoritariamente en el producto. ChatGPT (OpenAI) o Claude (Anthropic) se han vuelto omnipresentes en los dispositivos de los usuarios; y, con ellos, en la conversación social. Como todas las disrupciones tecnológicas de la escala que se le presupone a la IA, sin embargo, la adopción generalizada es la clave para cualquier avance significativo. Esta adopción consta entre los campos de estudio de Marta Serra-Garcia, economista catalana y catedrática de economía y estrategia en la Rady School of Management de la Universidad de California - San Diego especializada en economía del comportamiento, que ha estudiado la confianza de la ciudadanía en la IA. Serra-Garcia recibe al ARA en el campus Ciutadella de la Universidad Pompeu Fabra, donde estudió y donde ha vuelto para participar en el European Meeting of the Economic Science Association, organizado por el departamento de economía del centro.

El consejero de Empresa y Trabajo, Miquel Sàmper, aseguraba en una reciente reunión con representantes catalanes de la industria cuántica que Cataluña "llega a tiempo para liderar" la que ha de ser la siguiente revolución tecnológica. Entre la cincuentena de empresas que, según Acció, se dedican a esta tecnología en el Principado, Qilimanjaro Quantum Tech destaca con luz propia: la empresa, que ha desarrollado los tres ordenadores cuánticos del Barcelona Supercomputing Center, es una de las líderes de la computación cuántica europea, un ámbito económico en sorprendente auge. Su consejera delegada, Marta P. Estarellas, recibe a lEmpreses en la sede de la compañía para hablar de una tecnología que "da un poco de miedo" y es "poco intuitiva" para el público general, pero cuyas aplicaciones serán únicas y destacarán en el futuro del país.

La presidenta del Banco Central Europeo (BCE), Christine Lagarde, ha defendido que los países deben reducir ciertas partidas del gasto público para poder financiar "inversiones necesarias" en inteligencia artificial (IA) y defensa –entre otras cuestiones–, pero sin desequilibrar las cuentas.