Ariel Garbarz es Ingeniero en Electrónica (UTN-Argentina) e Ingeniero en Telecomunicaciones (MEC-España). Es profesor a cargo de Seguridad  Activa de las Comunicaciones (COMSEC) en la carrera en Ingeniería de Sistemas UTN-BA y  perito judicial y consultor de la Justicia Federal. En la entrevista detalla los mecanismos con los que las plataformas moldean la percepción social, profundizan la polarización electoral y saturan la capacidad ciudadana para verificar hechos. Señala también cómo los modelos de IA reproducen desigualdades históricas de clase, género y geografía, y por qué la capacidad técnica de vigilar no constituye una justificación para vulnerar libertades.

¿Cuánto pueden influir los sistemas algorítmicos sobre  las personas a la hora de recibir  información, procesarla y tomar decisiones? 

Los algoritmos influyen desde el momento en que deciden qué información vemos, qué se repite y qué queda fuera de nuestra pantalla. Esa selección condiciona nuestra percepción de la realidad: podemos terminar creyendo que lo que aparece en nuestro teléfono representa lo que piensa toda la sociedad.

¿Los deepfakes (contenidos multimedia manipulados mediante inteligencia artificial) y la generación masiva de noticias falsas erosionan la capacidad de verificar hechos?

Los deepfakes agregan una dificultad: una imagen, una voz o un video ya no alcanzan, por sí solos, para demostrar que algo ocurrió. Y la producción masiva de contenidos falsos puede saturar nuestra capacidad de verificación. Incluso cuando llega una desmentida, el impacto emocional inicial puede persistir. Por eso, la defensa ciudadana empieza con una pausa antes de compartir, la búsqueda de la fuente original y la comparación con fuentes independientes. También necesitamos transparencia sobre cómo las plataformas seleccionan y amplifican los contenidos.

¿Qué riesgos plantea la microsegmentación conductual? ¿Debilita el debate público y profundiza la polarización? 

La microsegmentación permite dirigir mensajes diferentes a personas distintas según sus intereses, temores y comportamientos. Un candidato puede presentar versiones contradictorias de sus propuestas ante públicos que nunca llegan a comparar lo que recibieron. Así se fragmenta el espacio de debate compartido. Cuando esa capacidad se utiliza para explotar emociones, reforzar prejuicios o difundir falsedades, puede profundizar la polarización. La ciudadanía necesita saber quién paga un mensaje político, a quién se dirige y con qué criterios.

¿Cuáles son los principales riesgos que la IA incorpora en los procesos electorales y cómo contrarrestarlos?

En las elecciones debemos distinguir dos planos: la manipulación de la conversación pública y la integridad del sistema que procesa los votos. Una campaña de desinformación no demuestra una adulteración del escrutinio; esta última requiere pruebas técnicas.

Las medidas incluyen transparencia de la publicidad política, límites al uso de datos personales, verificación de contenidos y auditorías independientes. En el escrutinio, necesitamos comprobar la correspondencia entre los registros originales, los datos recibidos, los datos procesados y la totalización.

¿Cómo evitar que los algoritmos perpetúen desigualdades por género, etnia, clase o geografía? 

Un modelo entrenado con datos históricos puede reproducir desigualdades que ya existían. Si determinadas personas fueron excluidas del empleo, del crédito o de ayudas sociales, el sistema puede aprender esa exclusión y presentarla como una decisión aparentemente objetiva. Por eso hay que auditar tanto los datos como los resultados: observar quiénes reciben oportunidades, quiénes quedan afuera y si existen diferencias injustificadas entre grupos. También debe haber revisión humana efectiva y un mecanismo para impugnar decisiones.

¿Qué puede hacer la ciudadanía?

Desde una perspectiva ciudadana, necesitamos exigir explicaciones y responsabilidades. Una empresa o un organismo público no puede cerrar una discusión diciendo “lo decidió el algoritmo”. Alguien eligió ese sistema, sus objetivos y sus condiciones de uso.

 ¿El reconocimiento facial puede convertirse en una herramienta de vigilancia masiva y afectar derechos y libertades?

Sí, cuando se utiliza para identificar y seguir indiscriminadamente a la población. La posibilidad de registrar quién participa en una manifestación, dónde se reúne o con quién se relaciona puede desalentar el ejercicio de derechos. Además, una identificación errónea puede tener consecuencias graves para una persona. El resultado de un sistema de reconocimiento facial necesita controles y corroboración.

Su utilización debe tener una finalidad concreta, límites claros, supervisión independiente y posibilidades de reclamo. La capacidad técnica de vigilar no constituye, por sí misma, una justificación para hacerlo.

 ¿La IA desplaza poder desde los Estados hacia las grandes corporaciones? ¿Cómo se relaciona esto con las políticas de inversión privada promovidas por Milei?

Puede producirse un desplazamiento de poder cuando los Estados dependen de empresas que controlan los datos, la infraestructura y los sistemas utilizados para tomar decisiones públicas. Promover inversiones privadas puede aportar recursos y tecnología, pero atraer capital no garantiza soberanía. La cuestión es qué capacidades quedan en el país, quién controla los datos y si las instituciones pueden auditar los sistemas o sustituir al proveedor. La soberanía tecnológica requiere capacidad científica, ingeniería propia y condiciones de contratación que permitan ejercer control público. Comprar tecnología sin comprenderla ni poder supervisarla puede generar dependencia.

¿Cuál es el principal desafío político y social que plantea la inteligencia artificial?

El desafío central es decidir quién controla la IA, para qué la utiliza y quién recibe sus beneficios. La misma tecnología puede ayudar a mejorar servicios públicos, ampliar conocimientos y resolver problemas, o utilizarse para concentrar poder, vigilar y manipular. Esos resultados dependen de decisiones humanas, económicas y políticas. Por eso, la discusión debe incluir a la ciudadanía, las universidades, los trabajadores y las instituciones públicas. Necesitamos capacidad técnica para comprender y auditar, y capacidad democrática para decidir. El futuro de la IA también se disputa en esas decisiones.

4Palabras