OpenAI aplaza su salida a bolsa por los peligros de la IA
Sam Altman considera que las dudas sobre la seguridad de la tecnología hacen que no sea el momento oportuno
BarcelonaEl consejero delegado de OpenAI, Sam Altman, ha anunciado este domingo que la empresa tecnológica no saldrá a bolsa este año debido a los riesgos de seguridad que suponen los modelos de inteligencia artificial avanzados. "Teniendo en cuenta todo lo que está pasando en cuanto a la seguridad, ahora sería un momento poco sensato para salir a bolsa. No sentimos ninguna presión para hacerlo", ha explicado Altman en una entrevista a la revista Fortune.
Altman ha enfatizado que la empresa tecnológica todavía tiene "mucho trabajo por hacer en seguridad y alineación" y ha insistido en que está preparada para tomar decisiones "contrarias a la ganancia financiera inmediata" de sus inversores para "garantizar" el control humano sobre la tecnología.
El consejero delegado de OpenAI también ha reconocido que la empresa ha estado ralentizando algunos procesos de entrenamiento y ha descrito como "inaceptable" cualquier escenario en el que haya un 10% de probabilidad de una catástrofe debido a la falta de control sobre el software de inteligencia artificial. "Todos tenemos una gran responsabilidad y no podemos permitir que los egos, los incentivos financieros u otros factores se interpongan", ha señalado Altman.
"La industria mintió"
Además, en otra entrevista, el fundador y consejero delegado de Anthropic, Dario Amodei, ha afirmado que la industria mintió sobre el peligro de la IA. "No les mentiré: hay peligros reales. Y creo que durante demasiado tiempo la industria ha mentido a la gente. Nosotros [en Anthropic] no lo hemos hecho nunca, pero gran parte de la industria sí", declaró Amodei a la CBS. El líder de Anthropic también ha reconocido que se siente "incómodo" con el hecho de que sea una empresa privada y no un gobierno elegido democráticamente quien esté a cargo de una herramienta tan poderosa, y ha pedido que haya una "combinación de gobiernos democráticos" que ejerzan una "gobernanza conjunta" y un seguimiento de las compañías de IA.
"Si construimos la IA de la manera correcta, creo que la probabilidad de que pase algo malo es muy baja. Si la construimos de la manera incorrecta, la probabilidad de que pase algo malo es muy alta", ha apuntado. Ahora bien, a pesar de las palabras de Altman y Amodei, el presidente estadounidense, Donald Trump, y el líder de la Cámara de Representantes, Mike Johnson, han considerado este domingo que el desarrollo de la IA debe continuar para evitar que China tenga el liderazgo.