Senén Barro: "La inteligencia artificial puede ser el último invento de la humanidad"

La inteligencia artificial se perfecciona como herramienta a la vez que arroja preguntas que alcanzan la propia naturaleza humana. El director científico del CiTIUS de la USC aporta luz sobre este camino
Senén Barro Ameneiro (As Pontes, 1962). PEPE FERRÍN (AGN)
photo_camera Senén Barro Ameneiro (As Pontes, 1962). PEPE FERRÍN (AGN)

En el discurso de apertura del curso de la Real Academia Galega de Ciencias afirmó que la Inteligencia artificial (IA) podría "chegar a ser o noso último invento", pero que dependerá "de como o fagamos polo camiño as persoas".
Puede serlo en el sentido de que la máquina puede llegar a tal nivel de competencia que nos resuelva todas aquellas cuestiones que nos preocupen o nos afecten y, exagerando un poco, sería lo suficientemente inteligente como para poder resolver los nuevos retos a los que haya que enfrentarse. Pero, en una visión negativa, sería el último invento porque acabe con nosotros, nos someta o, en todo caso, que el resultado nos desagrade más que nos agrade.

Y camino de dónde vamos.
Estamos muy lejos de eso. No tenemos un modelo de inteligencia general, que está llamada a ser la principal fuente de inspiración para seguir avanzando en la inteligencia artificial. Todavía desconocemos mucho más de lo que conocemos para construir un modelo general del aprendizaje, de la inteligencia o de la memoria misma del ser humano. De momento, somos capaces de diseñar máquinas para un problema específico. Problemas concretos que pueden ser tremendamente complejos para nuestra inteligencia, para la máquina no lo son tanto gracias a sus capacidades. Pero no sabemos cómo caminar hacia una inteligencia de propósito general que sea capaz de resolver la mayor parte de los problemas a los que nosotros nos enfrentamos. No digamos ya hacia una inteligencia equivalente o superior a la humana. Y no tenemos pistas de cómo avanzar. Podemos tener ya cierta idea de cómo viajar a Marte, aunque nunca hayamos ido, pero no tenemos pistas claras para saber cómo tenemos que enfrentarnos al diseño de una inteligencia de este tipo. De qué mejoras tecnológicas, qué desarrollos matemáticos o qué mecanismos de aprendizaje nuevos necesitamos.

El algoritmo carece de ese sentido común que aplicamos tanto de forma inconsciente como en las decisiones trascendentales

¿Esto requeriría también investigar en mayor profundidad sobre cómo funciona el pensamiento del ser humano para trasladarlo a la máquina como posible modelo?
Es que todavía no se sabe cómo nos aflora un pensamiento o una idea en un momento dado. Aunque el avance en la inteligencia artificial no necesariamente tiene que seguir los pasos de la evolución en el diseño de nuestro cerebro, la máquina más compleja del universo conocido. De hecho, se pone siempre el ejemplo de que los aviones vuelan, pero no lo hace como ningún ser vivo. Pero sí es verdad que dada la complejidad del problema, y de que podemos estudiar el cerebro y cada vez lo conocemos más, este podría servir como modelo. A lo largo de la evolución de la inteligencia artificial, de hecho, el ser humano ha sido una fuente de inspiración y avance. Nace de un intento de modelar matemáticamente la neurona, simulada de un modo muy elemental, pero el modelo que se publicó en 1943 es básicamente el mismo que hoy se sigue usando en los modelos masivos de computación neuronal. Otra cosa son los algoritmos que entrenan a esas neuronas y sus conexiones. Al final hemos llegado a construir modelos que tienen cientos de miles de parámetros y pronto alcanzarán los billones; más que neuronas tenemos en la cabeza. Aun así, sería ridículo comparar un parámetro como una variable con la riqueza de comportamiento computacional y funcional de una neurona humana.

Una de las objeciones que suelen hacerse al empleo de la inteligencia artificial en algunos ámbitos de decisión es que los algoritmos primero heredan los prejuicios de sus creadores y luego, carecen de empatía y de un bagaje cultural y social que maticen una conclusión fría. O que directamente pueden no estar orientados al bien común.
Los algoritmos carecen de sentido común. Pueden aprender algunas cosas de él, pero muy pocas. Y ese sentido común lo usamos constantemente en la toma de decisiones. Nos hace tomar precauciones si bajamos por una pendiente helada, que es algo que no sabe un robot, por muy fantástico que sea. Y lo aplicamos a diario, en cosas que hacemos inconscientemente, como al hablar o al caminar, pero también en decisiones trascendentales. A las máquinas también les falta el razonamiento causal en buena medida. Son fantásticas para establecer correlaciones entre cosas, pero las cosas que ocurren simultáneamente pueden tener relación de causa-efecto entre ellas o no. Nosotros sí lo sabemos aprendiendo de muy pocos ejemplos, mientras la máquina necesita muchísimos para aprender una tarea más o menos concreta. Y cuando aprendemos a resolver un tipo de problema y nos enfrentamos con otros nuevos pero que tienen similitudes, somos capaces de trasladar lo aprendido a ellos de forma casi instantánea. Al final son cosas infinitas a las que muchas veces no damos importancia, pero que hacen que las máquinas estén tan lejos de nosotros. Aunque, al mismo tiempo, ya nos son muy útiles y nos sorprenden en muchas cosas que para nosotros son muy complejas. Son complementarias en sus capacidades.

Al hilo de esa complementariedad... ¿generadores de texto como el ChatGPT son un inconveniente o una ayuda para la educación?
A esto ya nos hemos enfrentado otras veces, si acaso no con tecnología tan impactante y transformadora. Por ejemplo, con la calculadora en su momento. Recuerdo a profesores que se escandalizaban y decían que iba a deteriorar el aprendizaje del cálculo numérico y de todas las disciplinas que dependen mucho de ello, como las matemáticas o la física. Y no ocurrió así para nada. La tecnología hay que saber usarla, y no hay que cometer con ella abusos ni malos usos. ChatGPT es una herramienta más, aunque muy potente, como todas las herramientas que vendrán detrás, porque ahora vamos a ver un continuo de modelos de lenguaje con los que podremos interactuar por escrito o de viva voz y construir un diálogo que tenga un nivel de manejo del lenguaje y de utilidad muy alto.

El apoyo de las start-ups y la investigación debe ser muy superior, si no, nos quedaremos rápido atrás

¿En este desarrollo se encuadra el Proxecto Nós, con el que el Citius busca "pór a lingua galega na economía e na sociedade dixitais"?
Por supuesto. Pero el gallego no se le va a dar muy bien nunca a estas herramientas, aunque lo incorporen tímidamente, porque no es un negocio. El gallego es una lengua que no es de uso masivo y nunca se preocuparán por incorporarlo con alta calidad en las tecnologías del lenguaje a no ser que se les pague por ello, y aun así lo harían puntualmente. En todo caso, ellos son los propietarios de las tecnologías. Por tanto, la dependencia que tendrá cualquier lengua que no desarrolle sus propias tecnologías del lenguaje va a ser total. A medio y largo plazo, mientras otros vayan desarrollando modelos mejores y aplicaciones más robustas, nuestra lengua queda en una anécdota.

Entonces esa inversión en inteligencia artificial ‘do país’ es imprescindible ya solo para no desaparecer culturalmente.
No solo culturalmente. Nós es un proyecto para desarrollar tecnologías, servicios, usos y aplicaciones propias y ser los dueños no solo de nuestra lengua, sino de la tecnología que la va a soportar en el mundo y en la economía digital. No es solo un tema cultural, sino también económico. De situarse en el mundo en que vivimos. De educación. Cada vez más, nuestros hijos aprenden de máquinas, y en el lenguaje en que ellas hablan. El tema es si queremos que nuestra lengua perviva, pero no solo por una cuestión de tradición histórica o de sentimiento, sino porque además debe ser un capital económico y de mayor relación con el mundo. Para ello es indispensable que el gallego esté en las máquinas y con alta calidad.

¿Y qué tal es el potencial de Galicia en inteligencia artificial?
Desde un punto de vista de investigación, concentrada fundamentalmente en el mundo universitario, estamos por encima de la media de España, que no es una superpotencia pero tiene un nivel más que digno. Dentro de este, Galicia está representada con grupos de investigación como el Citius, centro de referencia de investigación en IA y uno de los más relevantes de España. Otra cosa es el uso que se esté haciendo dentro del tejido productivo o la administración pública. El apoyo para esas apuestas por la inteligencia artificial en la investigación o por las start-ups tiene que ser muy superior al que hay ahora. Si no, nos quedaremos atrás rapidísimamente, porque este mundo se está moviendo a la velocidad del rayo.


"La Aesia es una agencia que va a tener mucha relevancia"

¿Qué significará la ubicación en A Coruña de la Agencia Española de Supervisión de la Inteligencia Artificial (Aesia)?
No se sabe todavía; todo es especulación. Pero desde luego cosas buenas. Es una agencia que va a tener mucha relevancia, porque Europa se la otorga al haber apostado muy decidida y yo creo que acertadamente por la IA fiable. Es decir, que está bien que progresemos e invirtamos en IA, pero no a cualquier precio, sino ordenadamente, creando, y rápido, una regulación suficiente. Mientras tanto, o complementariamente, hay que pensar en una ética aplicada a los problemas de la inteligencia artificial, apostar por un desarrollo que sea respetuoso con los derechos humanos, que no atente contra nuestra privacidad, que no incluya sesgos, que sea equitativa en sus decisiones, que no nos ponga en riesgo... Todo eso hay que llevarlo a la práctica, no porque la IA sea una tecnología malévola que haya nacido del averno, sino porque es tan potente y transformadora para nuestras vidas y para el trabajo, la educación, la medicina, la justicia o cualquier otro campo, que hay que ocuparse más de que su impacto sea para bien.

¿Vamos ya con atraso?
Es un atraso inevitable. Es lógico que la legislación vaya por detrás de las tecnologías, sobre todo si son disruptivas y ni siquiera podemos imaginar por dónde van a evolucionar y qué impacto van a tener incluso a corto plazo. Primero hay que tener conocimiento, observar, a veces pagar el precio de que haya disfunciones por no haber anticipado... Lo que sí es necesario es ir muy rápido después. Por ejemplo, se está hablando ya de regular los neuroderechos, porque las tecnologías que impactan de un modo u otro en nuestros cerebros están aún lejos de lo que podrán ser dentro de unos años, cuando será posible leer y escribir en ellos, pero hoy se pueden comprar neuroestimuladores por internet y no se sabe con detalle qué efecto puede tener su uso según qué edad o qué intensidad. Hay cuestiones en las que podríamos correr un poquito más, pero de forma general no podemos inventar una legislación para un problema de futuro, porque se nos escapan detalles y ese problema acaba no siendo como hemos imaginado.


"Si hacemos las cosas bien, cada vez deberemos trabajar menos"

¿Deberíamos prepararnos más a fondo para el efecto que la inteligencia artificial tiene sobre el mercado laboral?
La automatización del empleo es el problema más importante de todos los que ya están aquí. No porque esté siendo o vaya a ser catastrófico, sino porque tiene un impacto en la economía de las familias y de las países y no se le está prestando apenas atención. No veo que se le esté dedicando tiempo desde el pensamiento y la acción política, que es desde donde fundamentalmente se tiene que atender, porque las empresas no van a preocuparse espontáneamente, por sí mismas, de si la automatización progresiva de la elaboración de sus productos o la prestación de sus servicios hace que una bolsa de trabajadores pierda su empleo. Ellas lo que miran es si eso les resulta rentable, con decisiones incluso de corto recorrido que les pueden parecer interesantes, y sin preocuparse de los efectos colaterales que puede haber. Tendríamos que ser todos quienes nos preocupemos por estos procesos, pero a instancias de quien tiene la capacidad de hacernos preocupar y ocupar: los gobiernos.

La inteligencia artificial puede ser el último invento porque nos resuelva todos nuestros problemas o porque acabe con nosotros

Se está viendo ya en la digitalización de la banca.
Ya ve. Gana más que nunca con menos personas que nunca.

¿Convendría preparar un escenario en el que compense que haya un importante grupo de población que no trabaje?
Sí, claro. Si hacemos las cosas bien, cada vez tendremos que trabajar menos. ¿Qué ocurre? Que en ese camino hacia trabajar menos habrá quien no tenga trabajo ni posibilidad de encontrarlo porque los empleos que se sigan creando, demandando y pagando requerirán una serie de competencias y capacidades que ni tienen ni podrán adquirir. Son desahuciados del mundo laboral. Pero si se hacen las cosas bien, nos habremos anticipado y puesto colchones de amparo social que harán que no queden sin un sustento suficiente. En definitiva, que esa cada vez mayor riqueza creada con cada vez menor trabajo humano se reparta mejor. Si eso se hace, no hay nada de lo que preocuparse. Al contrario.

Volvemos a aquello de que la inteligencia artificial sea "el último invento".
Sí, pero que sea el último invento en el ámbito del trabajo para bien. Porque puede ser el último para muy mal.