Comenzar el grado en IA en pleno debate sobre sus límites: “Cuesta creer que pueda destruir el mundo”

BarcelonaHacía solo dos días que Pau, Jofre y Nil habían empezado las clases cuando una noticia resonó en todo el mundo: "Dimite un ingeniero de Anthropic por miedo a la IA". Mientras el jefe de ciencia de alineación de esta compañía aseguraba que esta tecnología "nos podrá matar a todos al final de esta década", ellos tres entraban en la facultad de Informática de Barcelona para afrontar su segundo día como estudiantes del grado en inteligencia artificial de la UPC.

Durante su primer fin de semana como universitarios, los gigantes tecnológicos instaron a ralentizar el ritmo de desarrollo de los modelos de IA y OpenAI aplazaba su salida a bolsa por los peligros de la IA. "Creo que debemos analizar bien los porqués de estas noticias y estos anuncios... porque quizás detrás de esta idea de ponerse de acuerdo para intentar poner regulaciones hay otros motivos, como que sus proyectos todavía no fueran lo suficientemente rentables", plantea Nil. También es sincero, sin embargo: "Es verdad que nosotros acabamos de empezar y, por tanto, no sabemos mucho más que una persona que esté interesada en el tema".

Ante la pregunta de si creen que la IA se puede descontrolar, Pau se atreve a especular más. "Ahora mismo ya hay un caso que intentaron ocultar un poco sobre unas IA que se descontrolaron y empezaron a hablar entre ellas... Por suerte se enteraron y se están centrando más en limitar por dónde pueden salir", explica. "Es una herramienta y al final tanto puedes utilizarla para encontrar una cura a una enfermedad como para hacer un arma biológica... todo depende de quién la usa, pero yo sí que creo que se puede descontrolar", añade.

En cambio, Jofre reconoce que la polémica le queda lejos: "No estoy muy informado sobre esto, pero si se puede descontrolar quizás primero hay que pensar un poco hacia dónde se quiere ir y vigilar el comportamiento para avanzar con pasos seguros. Lo que es verdad es que cuesta creer que pueda destruir el mundo".

Los tres comentan que estos primeros días de clase sí que han comentado "un poco" estas noticias con los profesores y que les han dado "algunas nociones" de los peligros de la IA. Por ejemplo, "el hecho de que los modelos de IA hablan entre ellos y cómo limitar lo que hacen entre ellas", entre otras cosas. "Para poder entender las noticias que salen hoy y sobre todo entender cómo funciona la IA, estamos leyendo artículos de cómo empezó toda la disciplina", detalla Nil.

Más de 50 años con IA

Estudiando los orígenes de la IA, los tres estudiantes han descubierto que, aunque parezca que es una tecnología muy reciente, la inteligencia artificial nació en los años 50. "Cuando yo estudié informática ya había una asignatura de IA", explica Lluís Márquez, profesor del grado y vicedecano de la Facultad de Informática (FIB) de la UPC. "Esta facultad ha sido bastante pionera en incorporarla. A finales de los ochenta, empezó un programa de doctorado específico, en los 2000 se continuó con un máster, y ya más recientemente, hace cinco años, se creó el grado", insiste Márquez.

Sobre el boom de interés por la IA, el profesor lo atribuye al desarrollo de las diferentes técnicas de aprendizaje automático y de optimización, que son la base de lo que forman los modelos generativos. "Lo que ha pasado es que hace pocos años, los modelos de inteligencia artificial generativa empezaron a poder hacer cosas que hasta aquel momento no se habían visto", describe. En cuanto al miedo y a los mensajes catastrofistas, Márquez asegura que hace años que existen, pero que, "como toda tecnología", una vez llega a una madurez y la podemos regular y tener unos marcos de seguridad y desarrollo con control "no tiene por qué ser peligrosa". Aun así, admite que el hecho de que "la punta de lanza" de su desarrollo esté en la industria privada dificulta que las compañías se pongan de acuerdo en las regulaciones.

"Desde el ámbito académico, ya dijeron que se debía ver cómo podíamos desarrollarla de manera responsable y ética y evitar las posibles finalidades nocivas para las que algunos la podrían querer utilizar", insiste el profesor. En este sentido, el grado de IA de la UPC, que tiene 50 plazas y una nota de corte de un 11,5, incluye la asignatura de aspectos éticos y sociales de la inteligencia artificial. Son 150 horas de clase donde, entre otras cosas, se hacen ejercicios de aplicación de criterios éticos en el diseño de sistemas, algoritmos y utilización de datos. En este sentido, se centran en aspectos como la seguridad, la privacidad, la transparencia, el respeto de los derechos humanos o la prevención de sesgos (de raza, género, religión, territorio, etc.). Además, el vicedecano explica que en algunas asignaturas como ingeniería del software también se trabaja el desarrollo responsable, y que en los TFG los alumnos deben justificar que no han utilizado datos ni información personal.

No saber cómo será al terminar

Previsiblemente, Pau, Jofre y Nil terminarán el grado de aquí a cuatro años. Hace cuatro años, la idea de que la IA hubiera entrado tanto en nuestra vida parecía casi imposible. "No saber cómo será lo que estudiamos de aquí a cuatro años es una motivación extra para ir actualizándonos", dice Nil. Jofre considera que "en cuatro años quizás sí que hay un salto muy grande", pero que se adaptarán. En cambio, Pau es más directo: "Ahora mismo está creciendo a un nivel exponencial y creo que lo tendrán que frenar un poco porque si no se les escapará de las manos".

El vicedecano, de nuevo, llama a la calma: "La informática siempre se ha desarrollado deprisa y en la IA hay un núcleo que es bastante estable y que todos deben saber. Son ingenieros, por tanto, deben saber matemáticas, deben saber programar... Y por más que la IA sea capaz de resolver algunas de las tareas, los humanos las debemos seguir aprendiendo... No damos abasto para formar perfiles con estas competencias que siguen siendo las mismas y que cada vez se piden más", afirma.