"No es fácil alinear a la IA con cuestiones éticas, cuando resuelve un problema lo hace sin importarle otra cosa"

Francisco Tamarit es un físico teórico cordobés especializado en el estudio de los sistemas complejos, tales como modelos neuronales artificiales, entre otros. Ex rector de la Universidad Nacional de Córdoba dirige líneas de investigación en el campo de las neurociencias teóricas y computacionales. 

En diálogo con AGENCIA PACO URONDO reflexionó sobre la inteligencia artificial a partir de las declaraciones del desarrollador inglés Jacob Coxon, quien renunció a la empresa Anthropic advirtiendo sobre los riesgos en los avances de la IA e incluso llegando a decir que la IA podría matar a una parte de la población humana. 

APU: ¿Cuál es tu opinión de lo que dijo Coxon, que revolucionó el debate público?

FT: Esta denuncia es una advertencia más de muchas. Si seguimos en detalle el proceso vemos a muchos empleados de empresas tecnológicas han renunciado por la forma irresponsable en que las empresas trabajan la tecnología de IA. No es importante lo que dice del posible exterminio del 70% de la población, no sé cómo hace ese cálculo. Pero es cierto que el avance tan descabellado de la IA hace pensar que no es imposible que por un error o por una planificación se puede generar un daño masivo. Pienso en un ataque a radares, un sistema eléctrico, de defensa, medios de comunicaciones. Son sistemas extremadamente potentes. Hay que abordarlos con precaución. Están creciendo con mucha velocidad, cada 6 meses nos sorprenden con algo muy impresionante. Pueden hacernos daño, hay que estar preparados. 

APU: Tanto este desarrollador inglés como vos ahora, describen un sistema que crece mucho y de forma independiente al control humano. ¿Es así? ¿De qué modo la IA se va independizando?    

FT: Cuando entrenamos a la IA para que realice una tarea específica es difícil alinearla con principios que estén por fuera que nosotros le enseñamos. Se intenta pero no suelen ser sistemas muy obedientes. Eso lo vemos con los modelos de lenguaje. Vos le pedís que escriba de cierta forma en particular, después de muchas interacciones se olvida y no lo hace. La IA puede recordar muchas interacciones pero le cuesta alinearse con las instrucciones que se le dan. Uno le puede dar una orden pero la inteligencia artificial en el camino de optimización puede encontrar un camino que implica hacerle mal a alguien, como hackearlo. El algoritmo privilegia cumplir con el objetivo y lo puede hacer haciendo daño. No es que tenga voluntad de adueñarse del mundo, pero tiene capacidad de resolver problemas y en ese proceso puede hacer acciones sin racionalizarlas en términos éticos. 

APU: ¿Te parece que es urgente encarar ahora mismo alguna forma de control del desarrollo de la IA? ¿Cómo sería?    

FT: Es imperioso que discutamos a nivel nacional, regional y global estrategias de control y mitigación de los riesgos. Es obvio que es una tecnología que no es fácil de controlar, en el sentido de alinearla con objetivos más allá de los objetivos específicos para los que fue creada. Una inteligencia artificial creada para resolver problemas de matemáticas, no es fácil decirle que sea prudente con el uso de los recursos o que no robe o que no se apropie de información métodos indebidos. Hay miradas diferentes sobre la IA pero es necesario que se converse sobre estas tensiones. Hay que discutir los riesgos que tiene y también promover el buen uso de la IA que ofrece un montón de oportunidades para la humanidad. Europa lo hizo pero lamentablemente en América Latina cada país trabaja de forma independiente. Hay mucho para hacer pero se necesita trabajar de forma coordinada. 

APU: La IA logró resolver problemas matemáticos que la humanidad no había podido resolver. ¿Qué implica eso? ¿Estamos ya ante una inteligencia superior a la humana?

FT: Estamos ante un sistema que es muy inteligente, que sabe de muchos temas y de forma profunda. Está por arriba de la media de cualquier ser humano. Es cierto también que hay temas donde hay seres humanos que saben más que la inteligencia artificial pero no sabemos hasta cuando. En matemáticas ha dado muchas sorpresas, porque los primeros modelos de lenguaje popularizados, como la primera versión de ChatGPT, no eran buenos en matemáticas o programación. Pero la aparición de mecanismos de simulación de resolución han logrado avances muy notables, para la matemáticas o la física teórica. Hay problemas que hacía décadas o siglos que estaban sin resolución, fueron resueltos por la IA. No por nada se llaman problemas del milenio. Eso da cuenta que la IA logró resolver problemas que las mentes más brillantes de la historia de la humanidad no pudieron. Ha llegado el momento de replantearnos qué vamos a hacer con la IA.