Panorama legal y tecnológico | Mayo 2024
Para estar al día con los últimos cambios en el panorama legal y tecnológico, hacemos un repaso de los principales hitos en el plano nacional e internacional ocurridos en mayo de 2024.
Para terminar el mes de mayo 2024 y estar al día con los últimos cambios en el panorama legal y tecnológico, hacemos un repaso de los principales hitos en el plano nacional e internacional ocurridos durante el mes.
1.1. Perú: Se publica el proyecto de Reglamento de la Ley que promueve el uso de la inteligencia artificial (IA) en favor del desarrollo económico y social del país
El 5 de julio de 2023 se publicó la Ley N° 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Esta ley declara de interés nacional el aprovechamiento de las tecnologías emergentes y nuevas tecnologías en favor del bienestar social y económico, así como el fomento del uso y desarrollo de la IA para la mejora de los servicios públicos y toda actividad económica y social a nivel nacional. Sobre la base de ello, se dispuso la aprobación de un reglamento que complemente las disposiciones contenidas en dicha ley.
Por eso, el 2 de mayo de 2024 y mediante Resolución Ministerial N° 132-2024-PCM, el Poder Ejecutivo dispuso la publicación del proyecto de reglamento, que entre sus principales disposiciones contiene las siguientes:
La autoridad a cargo de la dirección, evaluación y supervisión del uso y la promoción del desarrollo de la IA y las tecnologías emergentes es la Presidencia del Consejo de Ministros (PCM).
Las entidades públicas tienen la obligación de organizar equipos técnicos multidisciplinarios; generar, recolectar, consolidar y obtener datos y evidencias de los problemas públicos; brindar e intercambiar información; y reforzar las capacidades y habilidades de su personal.
Se han contemplado instrumentos para el uso y desarrollo de la IA, tal es el caso del Centro Nacional de Innovación Digital e Inteligencia Artificial, y del Centro Nacional de Computación de Alto Rendimiento.
Los sistemas basados en inteligencia artificial se clasifican en función del riesgo. Esta abarca cuatro categorías: inaceptable, alto, medio y bajo.
Medidas para fortalecer el uso responsable y ético de la IA, con el cumplimiento de condiciones de privacidad y transparencia, así como de seguridad y confianza.
Que en la Plataforma Nacional de Datos abiertos y en la Plataforma Nacional de Software Público Peruano se publiquen los algoritmos, modelos y datos procesados en el desarrollo de sistemas basados en IA, para su uso abierto y público.
1.2. PCM inicia consulta pública sobre el proyecto de reglamento de la Ley que Promueve el Uso de la Inteligencia Artificial
La Presidencia del Consejo de Ministros (PCM) puso en consulta pública el proyecto de reglamento de la Ley que Promueve el Uso de la Inteligencia Artificial en favor del Desarrollo Económico y Social del País (Ley N° 31814).
La disposición, oficializada con la resolución ministerial N° 132-2024-PCM, invita a todas las instituciones públicas y privadas, las organizaciones de la sociedad civil y la ciudadanía, a enviar sus opiniones, sus comentarios y sus sugerencias a la Secretaría de Gobierno y Transformación Digital de la PCM, a través de un formulario que estará abierto hasta el 1 de junio de 2024.
La propuesta de reglamento detalla las obligaciones de las entidades públicas en la implementación de sistemas basados en Inteligencia Artificial, los cuales clasifica de acuerdo con su nivel de riesgo. Además, establece medidas para el uso adecuado y desarrollo de la IA, a fin de asegurar el respeto por los derechos humanos, la seguridad y la ética.
1.3. El INDECOPI inicia fiscalización por llamadas sin consentimiento o spam telefónico aplicando inteligencia artificial
El INDECOPI, a través de la Dirección de Fiscalización; viene aplicando el uso de la inteligencia artificial y herramientas de análisis de datos con el fin de identificar si las empresas cumplen o no con respetar la prohibición de las llamadas sin consentimiento o spam telefónico, para publicitar productos o servicios.
De esa manera, la institución incrementa la eficacia y eficiencia de su actividad de fiscalización y verifica el cumplimiento del Código de Protección y Defensa del Consumidor que establece “la prohibición del empleo de centros de llamada (call centers), y otras modalidades de difusión, para publicitar productos y servicios a aquellos números telefónicos de consumidores que no hayan brindado su consentimiento previo, informado, expreso e inequívoco para el uso de esta práctica comercial”.
Asimismo, la IA y las herramientas de análisis de datos reducirán la duración de las fiscalizaciones y se ampliará el alcance de la evaluación para incluir miles de archivos de audio y texto en la verificación del cumplimiento de la normativa.
A través del análisis de riesgo realizado por la institución, se ha identificado a las principales empresas que vienen utilizando este tipo de prácticas comerciales, las mismas que serán fiscalizadas en los próximos días.
1.4. El 52% de empresas peruanas apuntan a invertir en proyectos con IA
Un reciente estudio de IDC, encargado por Microsoft, revela que la IA está ganando terreno en el panorama empresarial peruano. Pues, el 70% de las empresas encuestadas planean aumentar su presupuesto para IA en los próximos dos años. Y el 52% ya han reajustado sus gastos en ciertos proyectos y áreas para redirigir esos fondos a iniciativas de IA.
Este interés por la inversión en proyectos con IA, se debe a los rápidos resultados que obtienen las empresas, pudiendo reclamar su inversión en un periodo de 6 a 14 meses.
¿Cuál es el plazo estimado para el desarrollo de estos proyectos?
El 71% de las empresas encuestadas en Perú lograron completar su proyecto en menos de 12 meses.
El 51% lo hizo en menos de seis meses.
¿Qué desafíos enfrentan las empresas al invertir con IA?
El 55% de las empresas están preocupadas por la falta de habilidades necesarias para trabajar con esta tecnología.
El 40% expresa un temor de que el uso inadecuado de la IA pueda resultar en la pérdida de datos o propiedad intelectual.
El 30% hace referencia a la falta de personal especializado, como ingenieros de datos o modeladores de IA.
2.1. El Consejo de Europa adopta el primer tratado internacional sobre inteligencia artificial. Unión Europea y 11 Estados no miembros (Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la Santa Sede y Uruguay).
El Consejo de Europa ha adoptado el primer tratado internacional jurídicamente vinculante destinado a garantizar el respeto de los derechos humanos, del Estado de derecho y las normas jurídicas democráticas en el uso de los sistemas de inteligencia artificial (IA). El Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y derechos humanos, democracia y Estado de derecho, también está abierto a países no europeos, establece un marco jurídico que abarca todo el ciclo de vida de los sistemas de IA y se ocupa de los riesgos que pueden plantear, a la vez que promueve la innovación responsable.
El convenio es el resultado del trabajo del Comité sobre Inteligencia Artificial (CAI), que reunió para su redacción a los 46 Estados miembros del Consejo de Europa, la Unión Europea y 11 Estados no miembros (Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la Santa Sede y Uruguay), así como a representantes del sector privado, la sociedad civil y el mundo académico.
El tratado cubre el uso de sistemas de IA en el sector público y en el sector privado. Además, establece requisitos de transparencia y supervisión adaptados a contextos y riesgos específicos, incluida la identificación de contenidos generados por sistemas de IA. Las partes tendrán que adoptar medidas para identificar, evaluar, prevenir y mitigar posibles riesgos y evaluar la necesidad de una moratoria, una prohibición u otras medidas en relación con el uso de sistemas de IA, cuando sus riesgos puedan ser incompatibles con las normas de los derechos humanos. Asimismo, las partes del tratado tendrán que garantizar recursos legales para las víctimas de violaciones de los derechos humanos relacionadas con el uso de sistemas de IA y de garantías procesales.
Por último, el convenio exige que cada parte establezca un mecanismo de supervisión independiente para vigilar que se cumple con el convenio. El convenio marco se abrirá a la firma en Vilna (Lituania) el 5 de septiembre.
2.2. Así ha sido el ciberataque al Banco Santander y el robo de millones de datos de clientes. España, Chile y Uruguay.
El Banco Santander ha informado a la Comisión Nacional del Mercado de Valores (CNMV) de España de una grave brecha de seguridad en sus sistemas. La entidad bancaria ha confirmado que se ha producido un «acceso no autorizado» a una base de datos crucial, poniendo en riesgo la información personal de clientes y empleados en España, Chile y Uruguay.
La base de datos comprometida contenía datos personales y laborales de aproximadamente 200,000 trabajadores actuales y antiguos del grupo bancario. La entidad ha asegurado que los datos expuestos no incluyen información de alta sensibilidad como contraseñas, credenciales de acceso a banca online ni detalles transaccionales que pudieran permitir operaciones financieras.
En respuesta al incidente, Santander ha implementado medidas de emergencia para contener la situación, como el bloqueo inmediato del acceso a la base de datos afectada y la intensificación de sus protocolos de prevención de fraude.
La brecha de seguridad se originó en un servidor externo gestionado por uno de los proveedores del banco, lo que subraya una vulnerabilidad recurrente en la cadena de suministro digital de la industria bancaria.
Santander ha comenzado a notificar a los clientes y empleados cuyos datos han sido expuestos. Además, conforme a la ley, ha notificado a la Agencia Española de Protección de Datos (AEPD) y al Banco Central Europeo (BCE).
2.3. Galicia será la primera comunidad en tener una ley que regule la inteligencia artificial. España.
Galicia será la primera comunidad autónoma en tener una ley que regule la inteligencia artificial, según anunció el consejero de Hacienda y Administración Pública, Miguel Corgos, en el 'II Foro Empresa e Inteligencia Artificial de A Coruña: La IA es una oportunidad, no un peligro'.
Corgos explicó que esta norma «garantizará el buen uso de esta tecnología en la Administración, pero también protegerá los derechos de la ciudadanía y promoverá su aplicación».
El texto está a punto de llevarse al Consejo de la Xunta para pasar después al Parlamento y constituirá la primera ley regional europea para el desarrollo e implantación de la IA en la Administración.
Así lo puso de manifiesto el consejero y reconoció que «es preciso ser conscientes de los riesgos de esta nueva tecnología si se aplica sin ningún tipo de control, por lo que es prioritario establecer unas reglas básicas que garanticen el respeto a los derechos de las personas».
2.4. España aprueba su nueva Estrategia de Inteligencia Artificial: ¿cómo afecta este plan a la Sanidad?
España.
El Consejo de Ministros ha dado luz verde a la nueva Estrategia de Inteligencia Artificial 2024. Tal y como explicaba el ministro para la Transformación Digital y la Función Pública, José Luis Escrivá, se trata de un plan que quiere aunar la innovación y el uso ético, pues esta tecnología puede usarse en ámbitos tan sensibles como la Sanidad.
La Estrategia cuenta con varios ejes fundamentales, entre los que se encuentra fomentar una IA transparente, ética y humanística, con el objetivo de "proteger los derechos fundamentales, la seguridad y la salud de los ciudadanos".
Para que se cumpla esta protección de la ciudadanía, la estrategia española ha tomado como modelo la clasificación europea de riesgos de la IA, recogida en la Ley de Inteligencia Artificial aprobada por el Parlamento Europeo.
Se incluye la salud en las IAs de alto riesgo. Para vigilar estos riesgos y que se cumplan los requisitos de estas tecnologías, se ha creado la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA).
Asimismo, esta estrategia no busca solo aplicar la tecnología al ámbito puramente médico, también se quiere implantar en los servicios públicos digitales.