"La inteligencia artificial no aumentó la productividad ni hace ganar plata, por eso las empresas están preocupadas"

La inteligencia artificial atraviesa una expansión acelerada, acompañada por advertencias sobre sus posibles riesgos y por enormes inversiones de las principales empresas tecnológicas. Para Gabriel Baum, licenciado en Informática por la Universidad Nacional de La Plata, docente y especialista en tecnología, buena parte del discurso sobre una eventual autonomización de la inteligencia artificial debe analizarse en el marco de una disputa económica y financiera por el control de una industria que todavía no logró demostrar el impacto que sus promotores anuncian.

En diálogo con AGENCIA PACO URONDO, Baum cuestionó las advertencias apocalípticas sobre una eventual rebelión de la inteligencia artificial y puso el foco en otro problema: el uso que los seres humanos pueden hacer de estas tecnologías, particularmente en materia militar y de ciberguerra. También habló sobre los agentes autónomos, la seguridad informática, la necesidad de establecer mecanismos de gobernanza internacional y la relación entre el desarrollo de la IA y la enorme cantidad de dinero que actualmente moviliza la industria.

APU: En los últimos tiempos aparecieron advertencias muy fuertes sobre los riesgos de la inteligencia artificial, de programadores que trabajan para las principales empresas norteamericanas. Después, los CEOs de las empresas también advirtieron sobre esos riesgos, incluso Elon Musk pidió más control. Se habla de una autonomía que podría llegar a destruir a los humanos. ¿Qué pensás de estos planteos?

GB: La humanidad puede aniquilarse, autoaniquilarse, pero no creo que vaya a pasar eso con la inteligencia artificial. Como dijo, creo, Xi Jinping en una reunión que hubo hace poco: “Si tienen tanto miedo, ¿por qué no la desenchufan?”. Y se acabó. Finalmente son computadoras que funcionan con electricidad y cada una de ellas está enchufada en algún lado.

No creo que vaya a pasar ninguna de esas cosas, pero me parece bueno pensar qué pasó con todo esto y por qué terminó planteándose de esta manera.

APU: Empecemos por ahí entonces. 

GB: El fin de semana pasado, Dario Amodei, que es el director ejecutivo de Anthropic, publicó un artículo en el que pide que se frene el ritmo de desarrollo de la tecnología que está detrás de lo que uno usa, de los chatbots. Allí plantea peligros que van desde el uso en ciberataques y bioterrorismo hasta su potencial para arruinar la economía del mundo.

Inmediatamente, los directores de otros grandes laboratorios y empresas de Estados Unidos expresaron su apoyo. Demis Hassabis, de Google DeepMind, y Elon Musk, entre otros, dijeron que Amodei tenía razón. Es bastante extraño y surrealista porque estos tipos se pasan peleando. Incluso se han enfrentado en los tribunales y se han atacado personalmente.

Amodei y Sam Altman también tuvieron una pelea más profunda porque Amodei consideraba que Altman no se tomaba en serio los riesgos de la tecnología que se estaba desarrollando. Entonces, desde ese momento, Anthropic, de Amodei, y OpenAI, de Altman, compiten por ver quién gana una carrera en la que, en teoría, el ganador se lleva todo.

Todos coinciden en que la última generación de grandes modelos de lenguaje no es segura y que hay que encontrar una solución.

APU: ¿Y qué hay detrás de este pedido de desacelerar el desarrollo de la inteligencia artificial?

GB: Es bastante fácil ser cínico. No está nada claro qué entienden por desaceleración o por “parar la mano”, ni cómo funcionaría. Hay que prestar atención a que tanto Anthropic como otras empresas están queriendo salir a la bolsa, cotizar en el Nasdaq por billones de dólares.

Entonces, por un lado, necesitan mostrar una gran sensatez: que se preocupan por el mundo. Pero, al mismo tiempo, insinúan que tienen monstruos que hay que controlar y que ellos son los únicos capaces de domarlos.

Pedir una desaceleración y decir que todos estamos de acuerdo en desacelerar consigue dos objetivos. Por un lado, tranquiliza a los inversores, demostrando que no están locos. Y, por otro, los asusta, porque les dicen que solamente ellos pueden controlar esta tecnología.

Yo creo que esa es la jugada que hay atrás. Están hablando más a los inversores porque tienen que salir a la bolsa y quieren dar una señal de que están haciendo esto con responsabilidad, que podrían ir más despacio y que no son unos locos. Pero, además, tienen una tecnología que, según ellos, seguramente va a ser un gran negocio.

APU: Más allá de esas intenciones. ¿No existe un riesgo real de que la inteligencia artificial llegue a un límite en el que ya no pueda ser controlada por los seres humanos? Algunos especialistas incluso plantean que podría llegar a impedir que la apaguen.

GB: Las máquinas están enchufadas. Si les cortás la energía eléctrica, se apagan. También dicen que, cuando se den cuenta de que las quieren desenchufar, van a atacar a quienes quieran hacerlo. Pero no sé cómo podrían mantener la energía que necesitan. Puede haber algo muy sofisticado que una computadora pueda hacer y que uno no se imagine, pero no lo sé.

Lo que hay detrás de todo esto es un enorme negocio. Hay muchos supuestos especialistas, muchas empresas de publicidad y muchos periodistas que quieren ganar más plata. Ese es el problema.

Los grandes éxitos que muestran son reales en determinados ámbitos. Por ejemplo, demostraron teoremas, hacen software. En todo lo que sea manipulación formal, manipulación de símbolos y de lenguajes, estos grandes modelos de lenguaje son muy buenos. Pueden programar muy bien.

De hecho, en Argentina hay muchos programadores que utilizan estas herramientas para generar código. Pero ninguno de ellos confía plenamente en estas herramientas. Lo primero que hacen es revisar qué hicieron porque muchas veces, como se dice en la jerga, “deliran” y hacen cualquier cosa.

Es natural que puedan manipular por fuerza bruta sistemas simbólicos, como los matemáticos, y conseguir resultados impresionantes. Yo no niego nada de eso.

APU: Desde el punto de vista económico, ¿la inteligencia artificial ya produjo el impacto que prometían sus desarrolladores?

GB: Desde el punto de vista del negocio y de la economía, todavía no pegó en ningún lado. Yo sigo desde hace bastante tiempo dos variables de la economía norteamericana: la productividad y el salario. Y la verdad es que la economía de Estados Unidos está deprimida. No ha crecido por efecto de la inteligencia artificial. No ha pegado en la productividad, en la industria, en ningún lado. Ha pegado en algunos sectores específicos y, sobre todo, en el uso individual.

Todo el mundo usa inteligencia artificial, pero todavía no hay ninguna mejora en la economía ni en la vida de la gente alrededor de esto.

Y es natural que pase porque es muy nuevo. Esto empezó hace cinco años, con esta locura de OpenAI y ChatGPT, y es muy difícil que en cinco años una tecnología pueda tener algún impacto real en la economía.

Hay que fijarse, por ejemplo, en lo que llamamos las TIC, las tecnologías de la información y las comunicaciones. Podemos decir que empezaron a comercializarse, a insertarse en el mundo real, en los años 50. La primera vez que pudo verificarse un impacto en la economía norteamericana fue en 1995. Pasaron 45 años. ¿Por qué esto iba a pegar antes?

En mi opinión, estamos en el medio de una burbuja financiera. Estos tipos quieren cotizar en bolsa y entrar con miles de millones y, por otro lado, no consiguen rentabilizar las inversiones que han hecho.

Entonces siguen pidiéndole plata a los inversores. Atrás de esto están BlackRock y todos esos inversores poniendo plata de los jubilados norteamericanos, para decirlo de algún modo, miles de millones en centros de datos y en financiar los experimentos que hacen estos muchachos.

Y no da ganancias. No tienen ni flujo de caja estas empresas. Entonces están condenados a seguir pidiendo plata, a inventar cosas para seguir pidiendo, y lo vienen haciendo desde hace rato. Como todos pusieron tanta plata ahí, tienen que seguir poniendo. Esa es la carrera y cada tanto inventan algo para que la carrera siga.

APU: Entonces, no ves a la inteligencia artificial como una amenaza de autonomización a largo plazo.

GB: El problema son los seres humanos. El problema es la ambición de estos tipos, que son unos locos de la guerra, que además son socios o dueños, no sé bien, de Milei y toda la banda.

Yo creo que en ese sentido sí son peligrosos. Han potenciado la capacidad de destrucción de las Fuerzas Armadas norteamericanas, por ejemplo. Han participado en el genocidio en Gaza.

Amodei, que ahora se preocupó tanto, se peleó con Trump porque Trump no quería asumir la responsabilidad por los niños muertos. Amodei planteaba que las armas que tenían sus algoritmos de identificación de palestinos, basados en inteligencia artificial, pudieran actuar autónomamente y dijo que de ninguna manera iba a aceptar eso.

APU: ¿No puede pasar que en algún momento la propia inteligencia artificial comienza a resolver por sí misma a quién matar y con qué criterio?

GB: ¿Qué quiere decir eso? ¿Se va a subir sola a un avión y va a tirar misiles sin que nadie la conecte a ningún lado? No es nada. Es un software. No es un Frankestein que va a salir del laboratorio caminando.

Volvamos al episodio de los agentes de OpenAI que salieron a Internet y atacaron otra empresa de inteligencia artificial. ¿Qué hicieron? Hicieron las cosas para las cuales los entrenaron.

El culpable de eso fue OpenAI, que no tomó las medidas de seguridad suficientes para aislar a un agente que podía hacer eso.

Los agentes, es decir, los módulos más o menos autónomos que tienen cierta capacidad de reacción frente a eventos, son mucho más viejos. Existen desde los años 80. No es una novedad lo de los agentes.

Lo que hicieron fue ponerles grandes modelos de lenguaje para que computen. Son agentes que tienen estadística multidimensional adentro y toman decisiones estadísticamente, no solamente reaccionan ante eventos externos.

Si vos largás una red o tenés un sistema de ciberseguridad y no tomás medidas para que no hagan cagadas, eso puede pasar. Está lleno de software haciendo cagadas en Internet todo el tiempo.

Los tipos hacen las cosas para las cuales los entrenan. No hacen otras porque no tienen imaginación. No inventan. Responden al entrenamiento que se les dio, a veces bien y a veces mal.

No creo que les hayan dicho “vayan y destrocen Facebook”, pero lo que hicieron esos agentes fue hacer las cosas para las cuales los entrenaron. Según dicen, los habían entrenado para detectar fallas de seguridad en cualquier ámbito. En particular, en OpenAI les dejaron la puerta abierta, se fueron a Internet y atacaron otra cosa.

APU: Pero si entrenás a un agente para defender la seguridad de una empresa, ¿no podría considerar que la mejor manera de defenderla es atacar a otra empresa?

GB: Podría haber hecho eso, como podría haber hecho otra cosa. Hace cosas para las cuales fue entrenado. El problema es regular para que no se entrenen estos bichos para hacer cualquier cosa.

Yo podría entrenar un agente de este tipo —yo no, pero alguien que tuviera suficiente cantidad de plata y centros de datos— para atacar infraestructura crítica de otro país: redes eléctricas, por ejemplo. Igual que lo podría hacer con software. De hecho, existen softwares que sirven para atacar infraestructuras críticas de otros países.

La ciberguerra no arrancó en 2021. Arrancó mucho antes de que existiera esto. Van a hacer lo que uno quiere y, si no hacen lo que yo quiero, lo desenchufo y no anda más. Es software. No son seres vivos malos que uno entrena y se transforman en monstruos malditos. Eso pasa en las películas.

Pero pueden hacer las maldades para las cuales fueron preparados. Efectivamente, pueden ser muy peligrosos. Pueden ser muy peligrosos si están en manos de la gente que está en manos ahora, que por plata hace cualquier cosa.

Y lo que me parece muy importante es establecer una gobernanza. Eso es lo que están proponiendo los chinos, en realidad, y muchos otros países. Todo el BRICS está preparando y pidiendo eso, los europeos también.

Es igual que como fue necesaria la gobernanza de la energía nuclear. ¿Por qué no voló todo por el aire? Porque en algún momento se llegó a un acuerdo para controlar la energía nuclear. Y todavía no volamos por el aire.

APU: Justamente, nadie diría que la energía nuclear tiene voluntad propia y que Chernóbil explotó porque la energía nuclear quiso hacerlo. Sin embargo, algunos plantean que la inteligencia artificial podría desarrollar una dinámica propia de autonomización.

GB: Chernóbil explotó por errores humanos. Japón pasó lo mismo. Y por eso nadie dice: “Mirá, la energía nuclear se vuelve autónoma y quiere matar gente”. Asignarle voluntad a la inteligencia artificial es una muy buena forma de evitar el problema.

Vos tenés gatos en tu casa. Si les abrís la puerta, se te escapan. No hay que abrir la puerta. Todo el mundo sabe cómo no abrir la puerta.

El ejemplo famoso del ataque a la empresa es eso. No es que la inteligencia artificial fue programada para atacar una empresa. Fue programada para defender una empresa y encontró errores de seguridad en otro lugar. Le dejaron la puerta abierta a Internet y encontró esos errores.

Quizás además lo hicieron a propósito. A mí no me queda claro. Están buscando aterrorizar a la gente porque necesitan plata y entonces arman el escándalo y dicen: “Yo soy el único que te puede proteger”.

Y después dicen: “Yo no voy a regular nada porque soy malísimo. Yo quiero que me sigan alimentando la industria militar con esto”. No hay que comprarse eso.

A mí lo que me preocupa es que mucha gente se asusta y, además, no conoce la tecnología. Si no conocés la tecnología, podés creer cualquier cosa.

Hay que conocer qué puede pasar. Hay que tener una idea más o menos clara de qué se trata esto. Lo que hay adentro de los sistemas de estas empresas es secreto tecnológico. Nadie lo conoce, lo conocen ellos. Los que tenemos alguna formación en el tema conocemos los fundamentos y podemos darnos una idea más o menos clara de qué puede pasar y qué no puede pasar.

Después sabemos cómo manejar la tecnología, cómo se puede utilizar bien, mal o regular. Yo me pasé años haciendo estas cosas.

Se puede usar mal, por supuesto. Pero la informática se pudo usar mal mucho antes de la inteligencia artificial y se ha usado mal mucho antes de la inteligencia artificial. Y ha causado muertes, muchísimas muertes.

Hay una publicación que habla de la cantidad de muertes que causó la informática, el software, en radiaciones hospitalarias, en las cámaras gamma y todas esas cosas que se usan en medicina. Hay una lista de alrededor de cien ejemplos de personas que murieron porque el software estaba mal hecho o tenía errores.

Acá el chiste es que te dicen que la inteligencia artificial tiene voluntad. Entonces, como tiene voluntad, se autonomiza y, como se autonomiza, la culpa ya no es del programador que hizo eso, sino de que se autonomizó y ahora es un ser independiente.

Bueno, metelo preso, matalo y chau. Es mucho más fácil apagarlo.

¿Cuántos centros de datos hay que bajar para que esto deje de funcionar? Cien. Hay que bajar doscientas palancas y no existe más. Esto no es algo que vive, capaz de alimentarse en la naturaleza. No tiene el control de las fuentes de energía. O, si lo tiene, lo desconozco.

Si es capaz de manejar las fuentes de energía, estamos jodidos, porque son unos locos. Y tenemos algunos problemas de Internet, me parece.