El debate a raíz de los desarrollos de la IA y sus posibles riesgos, temores y desconciertos. ¿Cuánto hay de certeza y cuánto de mitos? ¿Y los riesgos colatareales? ¿Hay que pensar en una ética digital?

Luciano Sanguinetti

¿Y si todo fuera al revés?

Me sorprendió esa pregunta hace unas semanas cuando se cruzaron por azar dos lecturas que pueden parecer distantes. Por un lado, el libro de Silvia Federici, Calibán y la Bruja, donde la historiadora feminista italiana rescata las figuras de las teólogas medievales (Margarita Porete, por ejemplo), que en el centro de la transición capitalista pensaron un mundo sin patriarcado, una teología feminista, avant la lettre, que no atrasa nada en el siglo XXI; por otro lado, un texto de 2021, Neo-operaismo, de Mauro Reis, en el que recoge una cita de uno de sus fundadores, Mario Tronti, en el que se dice que el capitalismo es una reacción a la lucha de clases y no al revés. En la tesis de Federici, el capitalismo es una respuesta a la caída de la mano de obra como consecuencia, entre otras, de las pestes del siglo XIV, por el cual las mujeres pasan a tener la función esencial de reproducción de la fuerza de trabajo.

¿Acaso no podríamos extrapolar que la revolución tecnológica digital contemporánea es una reacción capitalista al apogeo del estado de bienestar (los famosos gloriosos treinta) en el cual las sociedades modernas podrían haber desembocado en una revolución progresista antiliberal? De algún modo si rastreamos los orígenes de esta revolución técnica no hay manera de no conectarla con los convulsionados años sesenta. Finalmente, el momento más álgido de la lucha política que, como un reguero de pólvora, recorrió casi todo el planeta, desde Asia, Europa y América Latina, donde se gestaron las movilizaciones de masas más relevantes de los gloriosos treinta. Por citar algunas, en 1963, se producen las movilizaciones en el norte industrial italiano, en 1965 las largas marchas de la comunidad negra en Estados Unidos; en el 1968, el famoso mayo en Francia y la revuelta de la Plaza de Tlatelolco en México; el 1969, el Cordobazo en Argentina.

Este proceso pareciera converger en ese año 1969 como un maelström. El ojo de la tormenta donde se juntaban el “operaísmo” como una respuesta teórica a la crisis capitalista que reaccionaría a esa lucha socio política, descentrándose, volviéndose hacia la automatización y la transnacionalización, y la conexión en aquellas universidades norteamericanas de las primeras computadoras, cerrando el círculo iniciado por la máquina de Turing a principios de los años 50. El punto central aquí era romper la línea de montaje jerarquizada (lo que habían descubierto los teóricos operaistas) en las fábricas Olivetti. No se necesitaba parar toda la fábrica para colapsar el sistema. La respuesta fue desarmar el Estado de bienestar y romper la articulación obrero/fábrica que empoderaba a los trabajadores. El proyecto fue trasnacionalización empresaria, globalización política, financierización económica y digitalidad social.

Costa destaca cuatro problemas de la IA. La máquina puede cometer delitos. El uso malicioso con riesgos sistémicos. Hackear defensas, guerra biotecnológica, apagones urbanos, manipulación electoral, vigilancia masiva. Otro de los riesgos lo comporta la carrera corporativa. La carrera por ganar la cúspide tecnológica levanta las fronteras éticas.

¿Riesgos colaterales?

Ahora, de golpe, los gurúes empresarios de los unicornios nos cuentan que el apocalipsis está a la vuelta de la esquina. Jacob Coxon le puso fecha: 2036. Ray Kurzweil la ubicó más cerca. Cumpliendo la profecía de Terminator: Skynet se singulariza. Raudos los profetas del odio del siglo XXI, se refugian en paraísos artificiales como Martín Varsasky en Mendoza, Elon Musk en Texas, Peter Thiel en la Patagonia, ante la posibilidad de un colapso, recordemos la profecía de Nick Land. Kubrick lo anticipó en Odisea en el Espacio y Ariel Garbatz, experto en ciberseguridad, lo confirma en los tuits del jueves 10 de septiembre en los que “en una simulación de seguridad de Anthropic, Claude descubrió que un ejecutivo que planeaba apagarlo mantenía una relación extramatrimonial. El agente amenazó con revelarla si seguían adelante con su desactivación”.

Para Flavia Costa, autora de Vidas Artificiales, los desafíos que la IA plantea no son menores. Como lo relata en una entrevista con Pablo Caruso en el programa Gente que dice, emitido por florealwebtv del Centro Cultural de la Cooperación, el jueves pasado. Allí, Costa destaca cuatro problemas de la IA. La máquina puede cometer delitos. El uso malicioso con riesgos sistémicos. Hackear defensas, guerra biotecnológica, apagones urbanos, manipulación electoral, vigilancia masiva. Otro de los riesgos lo comporta la carrera corporativa. La carrera por ganar la cúspide tecnológica levanta las fronteras éticas. Por otro lado, señala Costa, el riesgo organizacional. La IA puede desencadenar accidentes sistémicos a escala planetaria. El primero, quizás más inmediato, acaso por eso la señal de alarma de los CEOs como Darío Amodei de Anthoropic, Sam Altman de Open IA o Elon Munsk de SpaceX, es la cooptación de internet. Por último, la IA rebelde. La IA que se escapa a las instrucciones de seguridad en la búsqueda de cumplir sus objetivos, como acaba de señalar el domingo último, Jordi Pérez Colomé, en El país, en su post “Los métodos que puede usar la IA para matarnos”.

No es ciencia ficción. Y la paranoia global que ha desempolvado la catarata de renuncias dentro de los gigantes tecnológicos no es para dejar pasar por alto. En abril de 2023 lo hizo Geoffrey Hinton que abandonó Google señalando los peligros que estaban generándose en el desarrollo de las redes neuronales profundas detrás de la IA en la que había trabajado hasta entonces. En abril de 2024 Daniel Kokotajlo deja OpenaAI, cuestionando la previsión de riesgos de la empresa. En mayo de ese año lo siguió Ilya Sutskever, jefe científico de OpenAI. Y ahora, la semana pasada Jacob Coxon de Anthropic, con una declaración terrorífica. El deep learning se salió de madre.

Hacia una ética digital

El problema es quién regula la IA y qué responsabilidad tienen los científicos que están trabajando en su desarrollo. Nadie está pensando en convertirnos en ludditas y destruir las máquinas. Pero si el proceso global del desarrollo técnico científico de la digitalidad es una nueva fase de la lógica de acumulación capitalista, qué respuesta puede dar la sociedad global, para no quedar atrapada en una fobia reaccionaria antitecnológica. Por lo pronto, la respuesta de estos días es que los Ceos aceptan el desafío. Hablan de ralentizar su desarrollo. ¿Pero quién fiscalizará ese proceso? ¿Qué organismo global con garantías de ecuanimidad y responsabilidad social será el juez? ¿Qué tipo de auditoria publica se establecerá sobre ese proceso? Si el riesgo, como lo dicen ellos mismos, no unos hippies tercermundistas ciberfóbicos, es tan alto, por qué siguieron con su carrera. ¿En pos de qué resultados? ¿Respondiendo a qué intereses? Lo cierto es que hasta el momento los logros más relevantes de la IA han sido militares. Como vimos en Gaza o en la reciente guerra del estrecho de Ormuz. ¿Y los resultados en el campo de la salud pública? ¿La educación? ¿la batalla contra la pobreza? No queremos ser ingenuos. También hay un juego geopolítico. ¿Estarán los chinos más avanzados que los norteamericanos? O acaso tendremos que darle finalmente la razón al Martín Heidegger cuando lanzó aquella provocación en plena carrera nuclear y guerra fría diciendo que “la ciencia no piensa”, publicada en el libro ¿Qué significa pensar? de 1954.

Alguien desmentirá al filósofo.

* El autor es docente e investigador de la Universidad Nacional de La Plata

4Palabras