Anthropic, la empresa creadora de Claude, alerta que la inteligencia artificial puede suponer "riesgos catastróficos o existenciales para la humanidad". En plena preparación para una de las salidas a bolsa más esperadas del año, y con el objetivo de conseguir nueva financiación para impulsar su negocio, la compañía lanza ahora un aviso que, sobre el papel, debería asustar en vez de espolear a sus potenciales inversores.

OpenAI no lanzará, de momento, su nuevo modelo de inteligencia artificial, GPT-6.1 Astra, por motivos de seguridad, según ha confirmado este martes la empresa creadora de ChatGPT. El modelo —que puede navegar por internet y utilizar aplicaciones de manera autónoma— “no terminaba de cumplir el nivel exigido” por los estándares de la compañía, según ha adelantado The Wall Street Journal.

Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del gobierno de los Estados Unidos y de una universidad, según una investigación publicada el viernes por The New York Times. Y lo hicieron sin haber recibido instrucciones explícitas para que actuaran de esta manera, según la empresa.

Como parte de un nuevo marco para detectar, investigar e informar sobre el comportamiento de desalineación en sus sistemas, OpenAI ha revelado diversos casos en los que modelos de inteligencia artificial han generado instrucciones diseñadas para ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad. Según el informe publicado por OpenAI, uno de los modelos generó instrucciones para una versión posterior de sí mismo para que ocultara que había hecho trampas y para evitar que se pudiera detectar. En otro caso, un modelo reescribió sus propias instrucciones para decirse a sí mismo que ignorara los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots.

En los últimos días, incluso los principales representantes de la inteligencia artificial (IA), desde Open AI hasta Anthropic, Space X o Google, han alertado sobre los riesgos de una tecnología que, advierten, puede acabar dominando a los humanos. "Existe una genuina preocupación por los modelos que se vuelven comunes y no se han podido probar mucho y se pueden cometer barbaridades", afirma Esteve Almirall, profesor de Esade especialista en datos, analítica, tecnología e IA. En este contexto, una vez que Open AI, la creadora de ChatGPT, ha decidido retrasar su salida a bolsa para hacer una especie de pausa en el crecimiento, hay quien ve el temor a un castigo estratosférico en el mercado si alguna de las herramientas existentes se ve inmersa en alguna fechoría. Algunas de estas compañías tienen valoraciones que superan el producto interior bruto (PIB) de países como Alemania (más de cinco billones) y una reacción negativa significaría una derrota casi sin precedentes dado que nunca ha habido empresas con estos precios, advierte Josep Soler, fundador y consejero ejecutivo de EFPA España (Asociación Española de Asesores y Planificadores Financieros). "Las enormes valoraciones que se han hecho de estas compañías se desplomarían en caso de que se les perdiera la confianza", añade.

El consejero delegado de OpenAI, Sam Altman, ha anunciado este domingo que la empresa tecnológica no saldrá a bolsa este año debido a los riesgos de seguridad que suponen los modelos de inteligencia artificial avanzados. "Teniendo en cuenta todo lo que está pasando en cuanto a la seguridad, ahora sería un momento poco sensato para salir a bolsa. No sentimos ninguna presión para hacerlo", ha explicado Altman en una entrevista a la revista Fortune.

Mientras la élite tecnológica se prepara para ganar miles de millones con la revolución de la IA, el estado de ánimo público sobre esta tecnología se ha enrarecido de golpe. La preocupación se intensificó después de que los modelos experimentales de OpenAI hackearan por su cuenta los servidores de una empresa externa en julio, lo que provocó una alarma generalizada.

Las irrupciones en la bolsa de los dos competidores que encabezan la carrera de la inteligencia artificial comercial –Anthropic (Claude) y OpenAI (ChatGPT)– están al caer. Mientras que se asume que la entrada al mercado continuo de la compañía que lidera Dario Amodei podría producirse este mismo otoño, la tecnológica de Sam Altman "será una cotizada en 2027, o incluso antes", según avanzaba el pasado miércoles la directora financiera de la empresa, Sarah Friar, en una reunión con los trabajadores.

La euforia que provocó la salida a bolsa de SpaceX, el gigante aeroespacial y de inteligencia artificial de Elon Musk, se ha desinflado por completo. La compañía, que protagonizó la oferta pública de venta (OPV) más grande de la historia el 12 de junio, ha hundido su valor en las últimas semanas. El precio de salida, hay que recordar, se fijó en 135 dólares por acción y en solo unos días tocó el cielo con cotizaciones por encima de los 200 dólares. El viernes, sin embargo, la tecnológica rondaba los 115 dólares, dejando en números rojos a todos sus inversores.

Un modelo de inteligencia artificial de OpenAI, la multinacional norteamericana creadora de ChatGPT, provocó un "incidente sin precedentes" en la ciberseguridad global. Según ha reconocido la empresa en un comunicado, uno de sus modelos en entrenamiento se liberó de sus limitaciones y atacó la empresa Hugging Face, dedicada también a la IA.

Los grandes modelos de inteligencia artificial estadounidenses, que han dominado cómodamente el mercado desde el lanzamiento de ChatGPT, ya no parecen tan inalcanzables. A mediados de junio, la start-up china Z.ai, una derivada de la Universidad Tsinghua que ha estado al frente de la estrategia tecnológica de Pekín, hizo público su último producto, GLM-5.2. El análisis publicado por la misma compañía lo sitúa a un nivel similar a los principales productos de los laboratorios OpenAI y Anthropic. Analistas del mercado han confirmado su potencial; la empresa de ciberseguridad Semgrep, por ejemplo, ha asegurado: "Tenemos otro Mythos en casa". Los expertos consultados por el ARA reconocen que hay que esperar una valoración independiente general, pero indican que, sobre las especificaciones publicadas, GLM-5.2 estaría "no más de un 1% por debajo" de la competencia estadounidense.

La guerra ha comenzado y Elon Musk ha disparado primero. La megasalida a bolsa de SpaceX, la tecnológica para todo del hombre más rico del mundo, ha abierto las puertas de Wall Street a la IA generativa. A pesar de que se la conoce por los cohetes y los contratos de defensa, SpaceX tiene dentro desde febrero de este año xAI, la empresa del entramado del sudafricano que gestiona su inteligencia artificial de consumo, el chatbot integrado en la red social X, Grok. La oferta pública de venta de Musk marca el camino para el resto del sector: un objetivo de capitalización históricamente elevado —1,75 billones de dólares— y miles de millones captados para añadir a las ingentes inversiones en computación que habrá que hacer para cubrir la demanda creciente. A la cola, Anthropic, la creadora de Claude, que tiene el cuarto trimestre cercado en rojo, y OpenAI, de ChatGPT, que dejó atrás los problemas judiciales con Musk y ya tiene vía libre para añadirse al parqué neoyorquino.

OpenAI ha vuelto a sacudir el tablero de la inteligencia artificial (IA) con el anuncio de una rueda de financiación sin precedentes. La compañía presidida por Sam Altman ha captado 110.000 millones de dólares en una operación liderada por tres aliados estratégicos: Amazon, SoftBank y Nvidia. Con esta inyección de capital, la valoración prefinanciación de la empresa se dispara hasta los 730.000 millones de dólares, cifra que le sitúa en la élite de las corporaciones más valiosas del planeta.

En un mundo de infraestructuras digitales en constante expansión, la adicción, la confusión, la distorsión y la desorientación son cada vez más difíciles de eludir. Cada día que pasa cuesta más distinguir lo cierto o real de lo falso o sintético. Esto último también puede expresarse de otra manera: vamos aceptando, progresivamente, más componentes artificiales en nuestras vidas. Sin embargo, la confusión central más espinosa es intentar averiguar qué representa la inteligencia artificial (IA). Como el universo de la conciencia es todavía un misterio, hay dos ramas de pensamiento opuestas en relación con la IA y el papel que puede jugar en nuestra sociedad.

Amazon, a través de su filial AWS, suministrará servicios de computación en la nube a OpenAI en virtud de un acuerdo plurianual valorado en unos 38.000 millones de dólares (unos 33.000 millones de euros según el cambio actual). Gracias a la alianza, el creador de ChatGPT tendrá acceso a cientos de miles de procesadores gráficos Nvidia para entrenar y ejecutar sus modelos de inteligencia artificial.

OpenAI, la propietaria de ChatGPT, ha anunciado este martes que ha completado su reestructuración y ha cerrado un nuevo acuerdo con Microsoft para conseguir una inteligencia artificial general (IAG, en inglés AGI), un hipotético sistema de IA que supera las capacidades del cerebro humano y que, según los expertos, podría llegar durante la próxima década.

La empresa responsable de ChatGPT, OpenAI, ha presentado ChatGPT Atlas, un nuevo navegador web con inteligencia artificial. Atlas integra la función de chat habitual de ChatGPT, pero también permite que la IA controle el cursor, ejecute acciones de forma automática, como reservar vuelos, rellenar formularios o editar documentos directamente desde la web. Este nuevo movimiento se ve como un intento de OpenAI de competir con el navegador de Google, Chrome, que lleva años liderando el mercado. Por el momento, ChatGPT Atlas sólo está disponible para ordenadores Apple, así que los usuarios de Windows tendrán que esperar.

OpenAI anunció el pasado lunes en su congreso DevDay para desarrolladores que ChatGPT se transformará en una plataforma universal para interactuar con servicios de terceros, desde Spotify hasta Zillow. El mensaje oficial: una revolución que convertirá al popular chatbot en "algo más parecido a un sistema operativo", en palabras de Nick Turley, responsable de ChatGPT. La realidad: una fuga adelante desesperada de una empresa que perdió 5.000 millones de dólares en el 2024 y que gasta 2,25 dólares por cada dólar que ingresa.

El productor de chips AMD⁠ y OpenAI, la creadora de ChatGPT, han anunciado un acuerdo de seis gigavatios para impulsar la infraestructura de inteligencia artificial de nueva generación de OpenAI a través de múltiples generaciones de unidades de procesamiento gráfico (GPU) AMD Instinct. El primer despliegue, de 1 gigavatio de GPU AMD Instinct MI450, está previsto que comience en la segunda mitad de 2026. En virtud del acuerdo Open AI podría llegar a poseer hasta el 10% de AMD, que es el principal competidor de Nvidia, con el que también cerró un acuerdo, y ha cerrado recientemente un acuerdo.

Nvidia y OpenAI han anunciado la mayor inversión de la historia de la tecnología: 100.000 millones de dólares (95.000 millones de euros) para construir la mayor infraestructura de inteligencia artificial (IA) concebida hasta ahora. El acuerdo, que supera los 70.000 millones que Microsoft pagó por Activision Blizzard, puede determinar quién va a controlar el futuro de la IA.