La máquina ante el umbral de la muerte | Por Mario Luis Fuentes

Por Mario Luis Fuentes.

El secretario general de las Naciones Unidas, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja, Mirjana Spoljaric, han hecho recientemente un llamado que, a primera vista, podría parecer una expresión del catastrofismo que suele acompañar a los debates sobre inteligencia artificial. Sin embargo, la advertencia remite a una transformación material que ya está en curso: el desarrollo de sistemas de armas que, una vez activados, pueden seleccionar y atacar objetivos sin una intervención humana posterior. Según ambos organismos, estamos peligrosamente cerca de cruzar una “línea roja moral”: permitir que una máquina determine autónomamente qué ser humano debe morir.

Es necesario subrayar que las armas con funciones autónomas no pertenecen al futuro. Desde hace décadas existen sistemas defensivos capaces de detectar e interceptar misiles u otras amenazas sin requerir una decisión humana para cada disparo. La novedad consiste en la ampliación de esa autonomía: sistemas que operan durante periodos más prolongados, recorren espacios más extensos, actúan en entornos poblados e identifican categorías cada vez más abiertas de objetivos.

La ONU reconoce en su diagnóstico que no dispone todavía de evidencia confirmada de armas utilizadas para seleccionar directamente y de manera autónoma a seres humanos. Pero también sostiene que la trayectoria tecnológica avanza inequívocamente en esa dirección y que algunos sistemas autónomos ya han causado muertes en escenarios bélicos, principalmente en el conflicto entre Rusia y Ucrania y más recientemente, en los enfrentamientos entre los EEUU e Irán. La incertidumbre, por tanto, no invalida la alarma: constituye antes bien la razón que justifica el llamado a establecer límites antes de que la tendencia se normalice.

Es importante decir también que esta transformación puede comprenderse como la radicalización de la industria bélica y su capacidad de construcción de tecnología peligrosa. En esa lógica, el problema militar pasa de ser mucho más que una decisión sobre la legitimidad de matar y se convierte -como resultado de llevar hasta sus últimas consecuencias a la racionalidad instrumental-, en una cuestión de velocidad, precisión, procesamiento de datos y reducción del riesgo para las tropas que son enviadas a combate.

Es precisamente esa promesa de eficiencia la que encubre, sin embargo, la regresión moral. La automatización no elimina la violencia ni la vuelve neutral; lo que sí hace es “diluir” la responsabilidad entre programadores, fabricantes, mandos militares, operadores, bases de datos y modelos algorítmicos.

El hecho de que ninguno de esos actores puede explicar por completo por qué el sistema seleccionó determinado blanco, la responsabilidad se diluye dentro del aparato técnico. La máquina no es susceptible de comparecer ante un tribunal, no reconoce a la víctima y no puede responder por el daño causado. Y por su parte, quienes la diseñaron o desplegaron, pueden alegar que el resultado emergió de procesos que tampoco controlaban enteramente. La autonomía técnica produce así una heteronomía política: cuanto más decide el sistema, el sujeto responsable parece menos identificable.

Puede sostenerse, pensando fenomenológicamente, que toda tecnología configura una manera de aparecer del mundo. Un sistema autónomo no contempla personas, biografías o circunstancias: registra señales térmicas, movimientos, siluetas, patrones de conducta y probabilidades de amenaza. El ser humano comparece ante el autómata exclusivamente bajo la categoría operativa de “objetivo”. No se trata sólo de que el algoritmo pueda equivocarse, sino de que su modo de interpretar la realidad excluye aquello que hace singular a una vida.

Un combatiente herido, alguien que intenta rendirse, un civil que corre por miedo o una niña o niño que recogen un objeto pueden producir señales semejantes bajo determinadas condiciones. La comprensión humana -si verdaderamente existe en el momento de decidir- puede interpretar gestos, vacilaciones, contextos y cambios imprevistos. Antitéticamente, el sistema solo procesa indicadores. Y en esto debe tenerse total claridad respecto de que, entre interpretar una situación y clasificar un patrón, existe una diferencia ontológica que ninguna mejora estadística elimina o reduce.

Aquí aparece el núcleo de la línea roja moral sobre la que alertan la ONU y la Cruz Roja. Matar no es reducible a un “mero resultado físico”. Es un acto que exige atribución, juicio y responsabilidad. Desde una ética cercana a Levinas, el rostro del otro introduce una exigencia anterior a cualquier cálculo: obliga a responder por la vida expuesta ante nosotros. Una máquina no encuentra un rostro, sino datos. No puede experimentar la interrupción ética que produce la presencia del otro ni comprender que cada persona excede las categorías mediante las cuales se intenta identificarla.

La pregunta acerca de si las empresas armamentísticas poseen ya prototipos más avanzados de lo públicamente reconocido es legítima, aunque no pueda contestarse afirmativamente sin evidencia. La opacidad propia de la industria militar, el secreto de Estado y la competencia estratégica hacen razonable suponer que las capacidades conocidas no agotan las capacidades existentes.

A pesar de lo anterior, lo verificable desde ahora es suficientemente grave: los sistemas autónomos se abaratan, se integran con mayor facilidad a las armas existentes y avanzan mucho más rápido que las negociaciones internacionales. Por ello el reclamo de nuevos instrumentos jurídicamente vinculantes que prohíban los sistemas imprevisibles y aquellos concebidos para atacar directamente a personas, y que imponga restricciones estrictas a los restantes.

Esperar la primera matanza inequívocamente atribuible a una máquina autónoma sería repetir una constante de la modernidad: regular la técnica solamente después de que sus víctimas hayan demostrado su peligrosidad y sólo después de ocurrida la tragedia.

La cuestión pues, no consiste en saber si una máquina puede reconocer objetivos con mayor exactitud que un soldado. Consiste en decidir si la humanidad está dispuesta a convertir la muerte en el resultado automático de una clasificación algorítmica.

Transformar la capacidad de matar en una operación sin encuentro, sin juicio y sin alguien que responda plenamente por ella, constituye un despropósito que nos colocaría en las antípodas de una civilización que hace de lo humano su fin mayor.