La reciente alianza entre el Pentágono y la empresa OpenAI ha encendido las alarmas sobre los límites éticos de la tecnología en el ámbito bélico. El doctor Carlos Rodríguez especialista en Inteligencia Artificial analizó esta problemática en comunicación con La Tribu 650 AM, durante la emisión de El programa ese donde se reflexionó sobre la creciente autonomía de las máquinas y el peligro de delegar decisiones de vida o muerte a agentes automatizados. La discusión se centró en la disputa entre OpenAI y Anthropic por contratos con el Departamento de Defensa de los Estados Unidos en un contexto donde las barreras entre la asistencia técnica y la ejecución autónoma de ataques parecen desdibujarse por completo.
El origen del conflicto entre OpenAI y Anthropic
Rodríguez explicó que este debate tiene raíces filosóficas profundas sobre quién aprieta el botón en un contexto nuclear. El escenario actual es complejo porque no hay respuestas claras sobre si ese alguien será un humano o un agente automatizado con alguna forma de conciencia. El núcleo del conflicto reciente involucra a Sam Altman de OpenAI y Dario Amodei de Anthropic las dos empresas que compitieron por la oportunidad de trabajar con el Departamento de Defensa. Según el especialista el desacuerdo surgió cuando el gobierno ejerció presión para que estas tecnologías se utilizaran en espionaje masivo doméstico y sistemas de armamento políticos autónomos.
Líneas rojas y el peligro del armamento autónomo
Uno de los puntos más críticos abordados son las denominadas líneas rojas. El experto detalló que Anthropic se opuso a cruzar estos límites porque sus modelos no están suficientemente maduros para ser utilizados en contextos bélicos.
El concepto de armamento autónomo es alarmante ya que se refiere a misiles o drones que toman la decisión de disparar por sí mismos sin interferencia humana. El temor radica en dar total autonomía de planificación a estos agentes para que tomen decisiones letales y masivas sin supervisión alguna.
El doctor comparó esta situación con la ingeniería de software profesional donde ni para un despliegue de código los ingenieros se animan a que la decisión sea automática. Por lo tanto extrapolar esa automatización a un entorno donde hay vidas en juego es un riesgo inaceptable.
Insistió en que debe existir una intervención humana en la última decisión del algoritmo para evitar que un dron circulando por una ciudad defina a quién disparar por su propia cuenta basándose en un cálculo frío.
El vacío legal y la falta de soberanía tecnológica
El avance de la tecnología ha superado con creces la capacidad de los gobiernos para legislar esta realidad.
Rodríguez mencionó que mientras la Unión Europea lideró con leyes sobre el uso responsable de la IA en Estados Unidos la situación se volvió incierta tras los cambios en las órdenes ejecutivas gubernamentales dejando a la opinión pública desprotegida ante el uso de estas herramientas de inteligencia masiva.
En el ámbito regional el experto destacó que Brasil y Chile se encuentran avanzados con borradores legales. Sin embargo para Paraguay, el desafío es doble ya que la velocidad de la IA choca con una estructura gubernamental que apenas implementó a medias el e Government.
Rodríguez subrayó que el país debe empezar a pensar en legislaciones que pongan límites claros porque entregar armas de destrucción masiva a sistemas autónomos no es una buena combinación para la seguridad nacional.
La conciencia y la decisión
La entrevista cerró vinculando la cultura popular con la realidad técnica. El experto recordó que aunque estemos acostumbrados a interactuar con máquinas que no son conscientes les permitimos tomar decisiones que nosotros seguimos. La gran incógnita sigue siendo la madurez de estos modelos.
El Dr. Carlos Rodríguez reafirmó su postura de rehusarse a dar libertad total a la IA en casos de defensa nacional. La seguridad global no puede depender de un algoritmo que carece del filtro ético necesario para comprender las consecuencias humanas de un ataque.