Los reportes sobre el futuro de la inteligencia artificial abarcan todo el espectro, desde proyecciones de alto riesgo sistémico hasta posturas que anticipan una estabilización sin impactos disruptivos. En paralelo, la adopción de modelos y plataformas como ChatGPT o Claude, tanto en entornos individuales como corporativos, se produjo con una aceleración marcada y sin la implementación adecuada de controles fundamentales, especialmente en lo referente a la anonimización y protección de datos.
Primero, anonimizar antes de escribir. El consejo es correcto en el papel, pero exige competencias que rara vez tiene el empleado promedio, reconocer descriptores, evitar la reidentificación por cruce de datos, y resistir la tentación de “un poquito más de contexto” cuando el chatbot lo pide. Un protocolo sin auditoría periódica es, en el mejor de los casos, un placebo corporativo.
Segundo, pagar el modelo no compra la inmunidad que promete. La retención cero no es un interruptor; según el mapeo reciente de proveedores, es un beneficio gestionado por ventas y aprobado organización por organización, y ni OpenAI ni Anthropic lo ofrecen por defecto. Incluso con acuerdo de retención cero, ambas conservan los resultados de sus clasificadores de seguridad, “no entrenar con tus datos” no equivale a “no guardar tus datos”. Pagar reduce el riesgo; no lo elimina.
En el frente de la “guerra de chips”, la idea de que “la bandera cambia, el apetito no” resulta elegante, pero simplifica una asimetría jurídica concreta: un modelo alojado en infraestructura china opera bajo un régimen de acceso estatal sustancialmente distinto al de uno desplegado en Estados Unidos o la Unión Europea. Ese riesgo no se evalúa por afinidad con la marca, sino por el marco legal que habilita, o exige, la intervención gubernamental. A esto se suma la volatilidad del ecosistema.
Y el argumento estelar, “Human in the Loop”. El Artículo 14 del Reglamento europeo de IA, cuya obligación de supervisión humana recién entró en vigencia el 2 de agosto, no aplica al chatbot público que usa tu empleado, rige solo para sistemas de “alto riesgo” del Anexo III, como biometría, empleo o crédito. El asistente conversacional que filtra tus datos no está bajo ese paraguas. Y el propio Artículo 14, al prohibir que la revisión humana sea un sello de goma, confiesa lo que toda columna sobre HITL debería admitir de entrada que el sesgo de automatización es tan fuerte que hubo que legislarlo, y ninguna ley recién nacida garantiza todavía que el humano del bucle esté realmente mirando.
La conclusión original resiste el ataque, siempre hay un ser humano detrás. Pero la sagacidad exige letra chica, ese humano firma contratos con excepciones, obedece leyes que no eligió, y a veces solo firma para que la máquina siga andando sin que nadie, en los hechos, la detenga.
“La guerra es la paz, la libertad es la esclavitud, la ignorancia es la fuerza”. George Orwell, 1984.