La inteligencia artificial vino a cambiarlo todo, o eso es lo que dicen. La educación, el trabajo, toda la sociedad se ve sacudida por esta nueva herramienta. Los medios de comunicación, viejos y nuevos, se inundan de contenidos generados por IA. Nadie parece querer quedarse afuera de la transformación social, cultural y productiva que propone. Sin embargo, existen otras perspectivas que ponen en cuestión este supuesto cambio de paradigma tecnológico.

Esteban Magnani es uno de ellos. El es  periodista, escritor y docente de la Universidad de Buenos Aires y la Universidad Nacional de Rafaela y tiene una mirada desconfiada de esta “revolución tecnológica” que los grandes CEOs de las empresas tecnológicas nos presentan con las IAs. Él sigue los últimos avances de esta herramienta sin idealizar la tecnología, ni escindirla de las relaciones de poder y la política. En diálogo con Esteban, nos propone una afirmación que invita a una perspectiva crítica de las IAs: no son ni inteligentes ni artificiales.

¿Por qué decís que no es inteligencia ni es artificial?

Esa es una idea de Evgeny Morozov. No es inteligencia en tanto es primero que todo el gran problema que tenemos es que no sabemos qué es la inteligencia. ¿Existe la inteligencia? La inteligencia es un montón de fenómenos que resumimos bajo esa etiqueta. Si ya tenés ese problema, decir que la máquina imita la inteligencia, ya tenés dos problemas, porque ni siquiera tenés la definición original. 

No es inteligencia porque la forma de procesamiento es estadística, está basado en encontrar correlaciones. En una versión más rudimentaria, que obviamente tiene más complejidad, sería la probabilidad de que una palabra siga la otra basado en miles y miles de libros que se le fueron cargando. Entonces, hay una cuestión probabilística. 

Y no es artificial, porque en realidad la fuente para que esa estadística funcione no es la inteligencia de la máquina, sino que la inteligencia humana. Son todos los datos, todas las reflexiones, todas las producciones y contenidos que desarrollaron cerebros humanos, eso es lo que nutre a esas gigantescas bases de datos. Después los algoritmos de inteligencia artificial lo procesan para encontrar patrones y poder prever cuál es la respuesta más acertada.

Pero esta estadística que mencionas ¿no está fuera de cualquier escala conocida antes?

Obviamente estamos hablando de un nivel fuera de toda escala conocida. No es una estadística aproximativa, realmente los patrones que encuentran son enormes. OpenAi es la primera que descubre que a mayor procesamiento de datos y parámetros, mejores resultados.  Así que comienza a aumentar su capacidad.

Esto implica varias cosas: necesidad de más procesadores, más consumo de energía, mayor necesidad de datos. Con esto último, ya no alcanzan los libros publicados, busca en redes sociales, portales, en cualquier lado. Lo que lleva también a una cantidad de sesgos, errores y de noticias falsas alimentandolas.

Después están los parámetros, es decir, el tipo de conexiones que va a establecer entre estos datos. Como es estadística a veces puedo ir a los márgenes, a las a las posibilidades menos probables de esto.  Por ejemplo, con la muerte del indio Solari salieron en distintos medios a citar las frases más conocidas del artista y decir a qué canción pertenece. Al final muchas de las citas no eran o no pertenecían a la canción que decía o en realidad no existían. Y estamos hablando de un corpus muy acotado, que es la discografía del indio Solari. Obviamente cuanto más datos tiene, menos errores comete, por eso sorprende tanto.

Recientemente salió un estudio de  New York Times sobre Google I.A. Overviews que dice, «frente a cada una de cada 10 preguntas que le haces, te responde un dato falso.» Por ejemplo, le preguntás, “Bob Marley se murió?” y te dice, «Sí, se murió en el 85 en Maryland.» Y eso no es cierto. Esto a su vez va creando cada vez más realidad. Porque en la medida que todos creamos las IA y estas ya no tienen inteligencia humana para entrenarse, empiezan a hacerlo con productos de otras IA. El  problema de esto es que refuerza los errores y los sesgos.

¿Qué pensas de estos discursos que circulan en los medios sobre que millones de personas van a perder puestos de trabajo? 

La tecnología no nace de un repollo, obviamente. Está inserta en un sistema político, social, económico que ahora es eminentemente capitalista en su modalidad neoliberal. Además esta tecnología está siendo liderada, al menos parcialmente, por un hegemón en decadencia. La frase de que la tecnología no es ni buena ni mala, pero tampoco es neutral, es bastante evidente.

A mí me molesta mucho cuando dicen, «la tecnología es lo que los humanos hacemos con ella.» Como si los humanos fuéramos un paquete más o menos democrático y con acceso al poder similar. En realidad es obvio que Peter Thiel tiene bastante más poder de decisión sobre el uso de la tecnología y de la inteligencia artificial que nosotros.

Él en un famoso artículo de 2009 dice “la competencia es para los tontos.” ¿Por qué? Porque si vos producís zapatos, cuando todo el mundo está produciendo zapatos, vas a ganar muy poquito. Lo que tenés que hacer es inventar algo nuevo,como fue Google. Esta empresa inventó un buscador que no tenía modelo de negocios, pero después descubrió que en la publicidad puede transformarlo y monetizarlo. Lo que tenemos es un sistema financiero desesperado por buscar dónde invertir los excedentes generados por el anterior negocio. Y en esa búsqueda permanente lo que van generando son brutales burbujas.

¿Cuáles fueron estas burbujas tecnológicas que se generaron anteriormente?

La más conocida es la burbuja de las .com  del 2001,, donde todo el mundo se subió a internet, aunque sin entender cómo se iba a hacer negocio con eso. Muy pocos lo terminan entendiendo y sobreviven, uno de ellos justamente Google, pero el tendal de empresas fue espantoso.  De eso se sostiene la infraestructura que termina siendo aprovechada por los sobrevivientes. Amazon que venía de mucho antes, Google que era del 98.  Pasó lo mismo con la burbuja inmobiliaria. Ahora en el capitalismo de plataformas, lo que buscan es reducir costos y quedarse con la parte más valiosa del negocio que es actuar como intermediaria.

El caso típico es Uber o Airbnb. No tenés ni hoteles ni autos, pero ofrecés servicios y en la medida que te transformas en el portal para conseguir autos, vas a tener un control del mercado que te va a permitir recuperar la inversión.  Es discutible lo que pasa con Uber porque perdió plata durante 13 años, en parte por el modelo, en parte porque surgieron competidores contra todo lo que esperaba y demás. 

Después aparecieron otras tecnologías que se vendieron como el futuro. No sé si recuerdan las criptomonedas, blockchain, los fan tokens, los NFTs, las shitcoins, memecoins. Todo iba a estar con el sistema blockchain. Se decía que los NFT iban a salvar a los artistas. Nadie se acuerda ya de eso. Uno se volvía loco por entender que era todo eso. Porque estaban oscureciendo detrás de una tecnología súper compleja y llena de conclusiones tecnológicas de ingenieros. Y en realidad estaban vendiendo un buzón básicamente. Bitcoin no deja de ser uno más, que sigue funcionando con altibajos brutales y seguramente hechos intencionalmente para ganar fortunas con esa diferencia. Sin embargo, cuando la gente quiere refugiarse, busca algo más sólido, como el oro.

El Metaverso también. Mark Zuckerberg prometió que iba a cambiar internet con una experiencia inmersiva. Ya se cayó. Y ahora es la IA.  Es el futuro, no se puede negar, es lo que viene inevitablemente queramos o no. No te queda otra alternativa que sumarte. Las empresas consultan cómo aplicar IAs para su empresa, pero muchas veces hay sistemas ya conocidos que les pueden ser más útiles.

¿Entonces es una innovación la inteligencia artificial o es otro buzón?

Hay una invitación a la desconfianza con la inteligencia artificial basada en la experiencia. Decir que el camino hacia la inteligencia o la creatividad está al final del recorrido que uno puede establecer en la estadística, es decir, con más datos a los algoritmos es una mentira sostenida por quienes trabajan en las empresas de tecnología. Los científicos que no están atados a estas empresas te dicen, «Eso no es posible, eso es otra cosa».

La inteligencia y la creatividad son otra cosa, podés sistematizar y automatizar, pero si no hay un ser humano que lo revise se van a filtrar errores. Nature publicó un paper hace poco diciendo que tiene un problema serio por la cantidad de citas de papers que no existen, que luego son citados por otros. Esos mismos artículos alimentan a la inteligencia artificial generando un caos donde ya nadie entiende nada

¿Esto significa que la inteligencia artificial no sirve para nada? No, si tiene supervisión humana sirve. Hay muchas empresas que las están instalando localmente con modelos libres del tipo de Lama o Deep Seek. Aunque requieren de una inversión alta de hardware, después no te van a cambiar las condiciones ni ceder datos sensibles de tu organización o tus empleados. 

¿Hasta qué punto estas empresas, sus cargos ejecutivos, sus gerentes creen que estas tecnologías lo van a cambiar todo?

Yo creo que ya no saben. Son mitómanos. Por ejemplo Sam Altman, el CEO de Open AI, antes era un tipo simpático y ahora es un mitómano. Sale a hacer lo que tenga que hacer, no tiene ningún tipo de prurito. La vez pasada dijo que en Argentina iban a construir un data center y no tenía ningún sustento. Los empresarios son máquinas de generar expectativa que permita conseguir más fondos para mantener la rueda funcionando. Por ahí la pegás y sos el nuevo Google. Y los capitales de riesgo, muchas veces no saben si esto realmente se va a concretar,  pero creen que antes de que se estalle la burbuja, ellos van a poder saltar.

Lo que está haciendo Estados Unidos es muy riesgoso, gran parte del crecimiento de la economía de su país se explica por la construcción de Data Centers y los servicios asociados. Si el negocio de las IAs entra en debacle, va a producir una crisis económica en Estados Unidos, y por lo tanto en el resto del mundo. 

* Entrevista realizada por estudiantes de la especialización en Comunicación Pública de la Ciencia y la Tecnología, de la Universidad de Buenos Aires, en el marco de la asignatura Periodismo Científico.