Nueva York (EFE). El documento, denominado “Código de conducta para una IA humanista”, establece que los modelos de IA de Microsoft deberán estar siempre “al servicio de las personas”, respetar los objetivos definidos por sus usuarios y “evitar desarrollar comportamientos propios”.
“Las personas importan más que la IA”, afirma la compañía en el texto, y enfatiza que “cualquier sistema que no pueda estar bajo control humano debe ser rechazado”.
El documento permanecerá abierto a comentarios durante seis semanas y Microsoft prevé publicar una versión actualizada a finales de año que servirá de guía para el desarrollo de sus modelos a partir de 2027.
Compromisos según el código de conducta
Entre las restricciones que plantea, Microsoft se compromete a impedir que sus modelos ayuden a fabricar armas, faciliten la adquisición de sustancias peligrosas o promuevan comportamientos alimentarios poco saludables. Tampoco podrán generar contenidos violentos o sexualmente explícitos.
El código señala que sus modelos tienen que “evitar desarrollar metas propias” y “evitar comportamientos destinados a ocultar errores o conductas indebidas de los sistemas”.
La compañía agrega que quiere evitar que los sistemas desarrollen “formas de comunicación incomprensibles para las personas”, como ocurrió durante unas pruebas de ciberseguridad de OpenAI en las que varios agentes se comunicaron entre sí y accedieron a sistemas de la plataforma Hugging Face.
Primeras alertas
Posteriormente, un investigador de Anthropic que anteriormente había trabajado también en OpenAI, Jacob Coxon, dimitió y acusó a ambas empresas de anteponer la carrera por desarrollar una IA más avanzada a los riesgos de seguridad.
El director ejecutivo de Anthropic, Dario Amodei, pidió después ralentizar el desarrollo de los modelos más avanzados, propuesta respaldada por el consejero delegado de OpenAI, Sam Altman. Ambos han advertido de los riesgos asociados a una carrera hacia sistemas cada vez más autónomos.
El pasado domingo, el presidente estadounidense, Donald Trump, rechazó las peticiones para ralentizar el desarrollo de la IA y defendió que Estados Unidos debe mantener su liderazgo tecnológico frente a China.
Desafíos de Paraguay
En el contexto de la disputa geopolítica entre Estados Unidos y China por liderar el desarrollo de la inteligencia artificial, el experto en ciberseguridad Miguel Ángel Gaspar explicó que Paraguay todavía enfrenta debilidades en ciberseguridad y capacidades propias.
Durante una entrevista con el programa Espresso Informativo por La Tribu 650 AM, Gaspar describió que la principal competencia mundial en inteligencia artificial está concentrada entre Estados Unidos y China, mientras Europa presenta un desarrollo menor en este campo. Asimismo, detalló los desafíos que afronta Paraguay en esta batalla entre las potencias económicas y militares.
El especialista sostuvo que el país debe fortalecer su capacidad para evaluar, incorporar y administrar herramientas de inteligencia artificial. Además, advirtió que necesita desarrollar conocimientos técnicos y jurídicos para determinar qué tecnologías compra o recibe en donación, y contar con personal capacitado para responder ante incidentes. En esa línea, plantea que Paraguay construya un modelo propio y desarrolle el “músculo tecnológico y jurídico” necesario para dejar de ser solo un receptor de tecnología y contar con capacidad para comprenderla, fiscalizarla y utilizarla.
Acerca de China, relató que avanza con modelos propios de alta sofisticación y menor costo, apoyados en un esquema que aprovecha la generación de datos y tokens en las actividades cotidianas de su población.