Morales: "La innovación sin un marco adecuado de desarrollo e implantación puede terminar siendo perjudicial"

El próximo 1 de octubre, celebramos una nueva edición de Focus Pyme y Emprendimiento L´Alacantí, Marina Baixa y Marina Alta, donde vamos a reunir a diversas empresas y expertos que nos mostrarán el impacto de la Inteligencia artificial y de la sostenibilidad en el entorno empresarial más próximo. Javier Morales Belvis, apasionado y experto en tecnología, abordará en una de la sesiones La nueva normativa sobre Inteligencia Artificial, por ello hemos querido entrevistarlo, para ir despejando algunas de las incognitas que rodean a esta normativa.

 

Hola Javier, para empezar, nos gustaría conocer tu opinión general sobre la necesidad de un marco regulatorio para la IA.

Un marco regulatorio, como el aprobado por la U.E. es absolutamente necesario para garantizar los derechos fundamentales de la ciudadanía. Las capacidades actuales y futuras de la IA pueden ponerlos en riesgo y su defensa debe ser un pilar en las implementaciones. Además, todos debemos jugar con las mismas reglas y aprovechar las capacidades de la IA con la seguridad que otorga el Reglamento.

En ese sentido, ¿cómo crees que estas normativas pueden afectar a la innovación en el desarrollo de IA?

Se puede pensar que al establecer un marco normativo que se circunscribe a la Unión Europea, en cuanto a los desarrollos, y a nivel global en cuanto al uso en la UE, podemos encontrarnos con desventajas en la aplicación de la innovación, pero no comparto plenamente esa opinión.

Pondré un ejemplo para aclararlo, pensemos que nos encontramos en el comienzo de uso de los automóviles y que no existe ninguna normativa, salvo en Europa, sobre los sistemas de seguridad, que debe incluir, o cualquier otra consideración. Los productos que se fabricasen fuera de Europa puede que fueran más innovadores, con cohetes de nitrógeno en lugar de motores convencionales o con cuchillas en los capós para mejorar la aerodinámica. Obviamente, todos entenderíamos que no se pudiesen usar en la EU, salvo que cumpliesen con una normativa básica de protección a la ciudadanía. La innovación sin un marco adecuado de desarrollo e implantación puede terminar siendo perjudicial.

 

---

«Todos debemos jugar con las mismas reglas y aprovechar las capacidades de la IA con la seguridad que otorga el Reglamento.»

---

 

Uno de los aspectos clave de esta normativa es la transparencia en los algoritmos. ¿Cómo ves la implementación de este requisito, y cuáles crees que son los principales desafíos?

En concreto, el reglamento define la transparencia como “Por «transparencia» se entiende que los sistemas de IA se desarrollan y utilizan de un modo que permita una trazabilidad y explicabilidad adecuadas, y que, al mismo tiempo, haga que las personas sean conscientes de que se comunican o interactúan con un sistema de IA e informe debidamente a los responsables del despliegue acerca de las capacidades y limitaciones de dicho sistema de IA y a las personas afectadas acerca de sus derechos.” En cuanto a la obligatoriedad de transparencia a los sistemas de alto riesgo se habla de “instrucciones de uso” y “documentación técnica”, por lo que el know-how empresarial quedaría blindado y podría cumplirse el reglamento sin que afectase a los objetivos empresariales.

Desde el punto de vista de código abierto, es una iniciativa lógica y coherente, y en cuanto a los secretos comerciales, del resto, no parece que se vean afectados.

Creo que el principal desafío pasaría por obtener la capacitación necesaria de los actores y en el tiempo/complejidad que llevará el análisis de los sistemas, para determinar los riesgos y trazabilidades.

Desde tu perspectiva, ¿cuáles son los riesgos más graves asociados con el desarrollo desregulado de la IA que estas normativas buscan mitigar?

Sin duda, la posible merma en los derechos de la ciudadanía, cuya defensa es un pilar de la UE y así se refleja en el desarrollo normativo que nos ocupa.

 

---

«Creo que el principal desafío pasaría por obtener la capacitación necesaria de los actores y en el tiempo/complejidad que llevará el análisis de los sistemas, para determinar los riesgos y trazabilidades.» 

---

 

Por último, ¿cómo habéis implementado la IA en el Ayuntamiento de Alicante? ¿Cuáles son los proyectos relacionados con la IA en los que estáis inmersos?

La IA del Ayuntamiento (AL21/ALI) se implementó para mejorar la relación de la ciudadanía con nuestra entidad, reducir la brecha digital y facilitar el acceso a personas con capacidades especiales. Se desarrolló partiendo de una Consulta Preliminar al Mercado y adjudicándose a una empresa alicantina para su desarrollo. Se priorizó la seguridad, la ética y la supervisión del aprendizaje para evitar sesgos.

Actualmente, estamos inmersos en varios proyectos que utilizarán IA, como por ejemplo el sistema SYMON  de cuidado de nuestros mayores, “Alicante se mueve”, modelos predictivos basados en cuadros de mando por Concejalía, y algunos más que iremos anunciando.