Luis Benítez, secretario general de la Sociedad Paraguaya de Inteligencia Artificial, señaló que la discusión sobre el control de la inteligencia artificial (IA) debe involucrar a la sociedad y no limitarse a los gobiernos, empresas o sectores militares. En entrevista con el programa Espresso Informativo, de La Tribu 650 AM, sostuvo que los escenarios más extremos sobre una eventual extinción de la humanidad son todavía remotos, pero advirtió sobre los riesgos vinculados al desarrollo y uso de esta tecnología.
“Es necesario plantear la difusión. Necesariamente como sociedad tenemos que encarar, ver qué hacer con esta tecnología en sí”, afirmó.
Benítez explicó que actualmente existen distintas posturas sobre el desarrollo de la IA, que van desde una liberación total de la tecnología hasta una participación directa de los Estados en su control. Entre ambos extremos, mencionó la posibilidad de establecer una regulación que permita orientar su desarrollo y evitar una competencia basada únicamente en el conocimiento y el mercado.
El alineamiento busca que los algoritmos respondan y tomen decisiones sin afectar a las personas ni a otros sistemas. Benítez advirtió que el riesgo aumenta cuando la IA interviene en decisiones sensibles, como el uso de armas, sin controles adecuados. Señaló además que las empresas compiten por desarrollar sistemas más avanzados, mientras la inversión en alineamiento no crece al mismo ritmo. Aclaró que no se trata de algoritmos conscientes, sino de limitar adecuadamente el impacto de sus decisiones sobre terceros.
LEA MÁS: Arzobispo de Asunción resalta uso de la IA desde la dignidad humana
Entre 2022 y 2023, la IA era principalmente conversacional. Desde 2024 incorporó mayor capacidad de agencia, recibe objetivos y planifica cómo cumplirlos. Benítez advierte que puede tomar acciones que afecten a terceros, “la mejor forma de solucionar esto es saqueando este sitio y cambiando los datos ahí”.
Explicó que los sistemas privados funcionan mediante la infraestructura de la empresa que presta el servicio, mientras que los modelos abiertos pueden descargarse y ejecutarse localmente. Por ejemplo, una persona puede utilizar un modelo en su propia computadora sin enviar sus datos a terceros. “Si vos corrés en tu casa, vos estás seguro de que nadie más va a ver esa información”.
Durante la entrevista también se refirió a la competencia tecnológica entre las principales potencias. Ante el planteamiento de una posible cooperación entre Estados Unidos y China, consideró que no necesariamente debe existir una competencia permanente por el liderazgo en inteligencia artificial. También destacó la necesidad de que las soluciones tecnológicas estén orientadas a resolver problemas locales y tengan como eje la dignidad humana.