Por:  Karla Condo

No, no estamos hablando del libro de Isaac Asimov. En aras de alinearse con las Recomendaciones sobre la ética de la inteligencia Artificial de la UNESCO, y de la resolución 4/23 de la CIDH,  a finales de junio se envió a la Presidencia de la Asamblea Nacional el Proyecto de Ley Orgánica de Regulación y Promoción de la Inteligencia Artificial en Ecuador.  

El proyecto tiene un amplio ámbito de aplicación, pues sus efectos se extienden a todos los sistemas de inteligencia artificial cuyo tratamiento se dé en el Ecuador o que genere efectos en territorio ecuatoriano, a lo largo de toda su cadena de valor —investigación, desarrollo, despliegue, comercialización y uso—. Es decir, el proyecto pretende regular a cualquier sistema de inteligencia artificial que se utilice en el país.  

El proyecto de ley establece un método de clasificación de los sistemas de IA en base a riesgos similar al adoptado por la Unión Europea en su Ley de Inteligencia Artificial. Esta evaluación de riesgos se realizaría tomando en cuenta la naturaleza de los datos utilizados para entrenar o alimentar la IA, su finalidad de uso, protocolos de seguridad implementados, la severidad del daño que podría derivarse de un uso indebido o ataque informático, el grado de auditabilidad del sistema y el grado de autonomía de la IA evaluando los eventuales escenarios que podrían ocurrir si es que se pierde el control humano sobre el sistema.  

“El proyecto de ley establece un método de clasificación de los sistemas de IA basado en riesgos similar al adoptado por la Unión Europea en su Ley de Inteligencia Artificial”. 

En este contexto, se prevé una escala de cuatro niveles, aumentando las obligaciones de reporte y control a medida que incrementa el riesgo. En este contexto, existirían sistemas de riesgo bajo, moderado, alto y sistemas de riesgo extremo.  Los sistemas de riesgo bajo únicamente deben cumplir con los principios generales previstos en el proyecto, aquellos de riesgo moderado deberán entregar información a la Autoridad de Control y los sistemas de alto deberán obtener certificaciones de cumplimiento y, además, estar registrados ante la Autoridad Nacional de Control previo a operar. Tanto los sistemas que sean categorizados como de riesgo moderado y de riesgo alto estarán, además, obligados a realizar evaluaciones de impacto de Derechos Humanos. 

En la Ley de Inteligencia Artificial de la Unión Europea —en la que claramente está inspirado el proyecto de ley—, son sistemas de Inteligencia Artificial de riesgo alto aquellos  empleados para la prestación de servicios públicos de primera necesidad, aquellos dirigidos a la clasificación de currículos o que determinan acceso a la educación superior en base a puntajes y aquellos que sirven para la operación de infraestructuras críticas como el transporte y los servicios sanitarios. 

La normativa prevé que aquellos sistemas de inteligencia artificial que representen un riesgo extremo por atentar directamente contra la dignidad humana, principios democráticos, seguridad nacional o estabilidad extranjera y que son socialmente inaceptables no podrían ser desarrollados, ni desplegarse o comercializarse en el país. Es decir, los sistemas que representen una clara amenaza para los derechos humanos, la seguridad, el orden público o la dignidad humana no podrían ser investigados, desarrollados, comercializados ni utilizados en el país.  

Entre estos sistemas de riesgo extremo se encontrarían aquellos que prevén técnicas de manipulación de decisiones, sistemas de vigilancia predictiva que intercedan en comunicaciones privadas, modelos de reconocimiento facial con sesgos por categorías sospechosas y aplicaciones que, sin consentimiento, categoricen a personas como proclives a enfermedades que pudieran crearle un estigma social o laboral. Esta lista de sistemas prohibidos es también sustancialmente similar a aquella prevista en la Ley de Inteligencia Artificial recientemente aprobada para la Unión Europea. 

“La normativa prevé que aquellos sistemas que representen un riesgo extremo por atentar directamente contra la dignidad humana no podrían ser desarrollados, desplegados o comercializados en el país”. 

Para la supervisión de los sistemas sujetos a control, el proyecto de ley propone una estrategia colaborativa entre la Autoridad de Control de los sistemas de IA, la Superintendencia de Datos Personales, Superintendencia de Competencia Económica y la SENESYCT. Asimismo, se establece un régimen de sanciones administrativas, de manera  excepcional y únicamente ante incumplimientos graves, reiterados o que deriven en daños graves y no corregidos de forma oportuna. A estas sanciones podrían estar sujetos los desarrolladores, responsables, encargados e incluso quienes utilicen de forma inapropiada la IA. 

En aras de proteger los datos personales utilizados para alimentar la IA, el proyecto prevé que los responsables y encargados del sistema deban informarles sobre los fines del tratamiento de datos, en concordancia con la Ley Orgánica de Protección de Datos Personales. En esta misma línea, se establecen restricciones para las transferencias transfronterizas de datos procesados por la IA. 

Sin embargo, el proyecto de ley no únicamente pretende regular a la IA sino que, además, quiere fomentar su desarrollo.  Por lo tanto, prevé que los proyectos puedan acogerse a un sandbox con flexibilidad regulatoria y participación internacional.  

El proyecto de ley incluso incursiona en el campo de la propiedad intelectual, estableciendo que las personas naturales que hayan contribuido sustancialmente a una obra literaria o artística generada con asistencia de IA serán titulares de los derechos de autor de la misma.  

“Con este proyecto de ley, el Ecuador pretende establecer un marco regulatorio para el desarrollo y utilización de la inteligencia artificial, en aras de propiciar un ecosistema para la innovación”. 

En ese sentido, las obras generadas de manera autónoma por la IA no estarían protegidas por derechos de autor. Sin embargo, aunque no sea titular de derechos de autor, se prevé que el creador del sistema pueda ejercer acciones de competencia desleal para evitar su utilización no autorizada.  Con este proyecto de ley, el Ecuador pretende establecer un marco regulatorio para el desarrollo y utilización de la inteligencia artificial, en aras de propiciar un ecosistema para la innovación.  

Entradas relacionadas

Comparte