Panorama legal y tecnológico | Abril 2024

Para iniciar el mes de mayo 2024 y estar al día con los últimos cambios en el panorama legal y tecnológico, hacemos un repaso de los principales hitos ocurridos en abril 2024.

Para iniciar el mes de mayo 2024 y estar al día con los últimos cambios en el panorama legal y tecnológico, hacemos un repaso de los principales hitos en el plano nacional e internacional ocurridos en el abril 2024.  

1.1. Corte Superior de justicia de Lima Norte expuso sobre uso de Inteligencia Artificial en evento Internacional

Perú fue sede de la Primera Edición de Expo Jud Latam, evento que se desarrolló el 18 y 19 de abril en el Hotel Sheraton. Este fue un encuentro donde líderes de justicia de Brasil intercambiaron sus conocimientos y experiencias con Magistrados peruanos sobre el uso de la tecnología.

El Dr. Lorenzo Castope, presidente de la Corte Superior de Justicia de Lima Norte, participó en este evento, en el que expuso los avances del proyecto Amauta Pro, el cual es un asistente virtual programado con modelos y algoritmos de inteligencia artificial que emite proyectos de resolución de manera automatizada en el marco de la Ley 30364 (Ley de Protección, Sanción y Erradicación de la Violencia Contra las Mujeres y los integrantes del grupo familiar).

Amauta.Pro es un sistema experto basado en reglas que se conecta al almacén de documentos electrónicos del Expediente Judicial Electrónico (EJE) del Poder Judicial. Lee el expediente remitido por la Policía Nacional del Perú en formato PDF y convierte la información en un texto editable. Extrae, edita y mejora la redacción de los párrafos necesarios para crear los proyectos de resolución. Asimismo, se conecta a la base de datos del EJE y a la Plataforma de Interoperabilidad del Estado (PIDE) para extraer los demás párrafos y datos que se integran en plantillas de resoluciones estandarizadas. Finalmente, estructura toda la información y genera el proyecto de resolución que concede medidas de protección para las mujeres y los integrantes del grupo familiar en riesgo de violencia.

Gracias a este evento, el Poder Judicial pudo mostrar, a los magistrados visitantes de Brasil, su compromiso para mejorar la calidad del servicio de justicia a través del uso de la tecnología, especialmente, la inteligencia artificial.

1.2. Monitoreo con tecnología inteligente permitirá anticipar actos delictivos

El gobernador regional de La Libertad, César Acuña, estuvo el último 9 de abril en el Centro  de Monitoreo de ciudades inteligentes de Shenzhen en China. En esta visita pudo observar los más recientes dispositivos aplicados al monitoreo de la seguridad ciudadana.

Cesar Acuña mencionó que, en China, la tecnología predice los crímenes antes de que sucedan. Pues cuentan con un nuevo sistema de vigilancia que usa inteligencia artificial y analiza la huella digital de sus ciudadanos para encontrar anomalías y patrones de comportamiento, que les permite saber con antelación cuándo es más probable que ocurran los crímenes.

Por otro lado, la autoridad liberteña, dijo que, con este sistema avanzado de tecnología y el apoyo de la inteligencia artificial, también es posible que se puedan montar plataformas digitales, por ejemplo, de climas y temporales, a fin de adoptar las acciones inmediatas para afrontar desastres naturales y evitar la magnitud de los daños. Es decir, será posible prevenir un Fenómeno El Niño o cualquier otro acontecimiento meteorológico.

1.3. Cortes Superiores de Áncash y de Lima Norte se unen para implementar laboratorio de Inteligencia Artificial

El presidente de la Corte Superior de Justicia de Áncash (CSJAN), el doctor Marcial Quinto Gomero, el último 4 de abril se reunió con el titular de la Corte Superior de Justicia de Lima Norte (CSJLN), el doctor Lorenzo Castope Cerquín, para tratar el tema de la implementación de un Laboratorio de Inteligencia Artificial descentralizado.

Lo que busca esta iniciativa es mejorar el servicio de justicia, a través de la aplicación de novedosas soluciones tecnológicas y sistemas programados con inteligencia artificial para gestionar eficientemente la celeridad, la congruencia procesal y el tiempo en los actos procesales.

1.4. Fuerza Popular propone identificar vehículos robados en tiempo real con inteligencia artificial

La bancada de Fuerza Popular ha presentado un proyecto de ley para identificar en tiempo real, con apoyo de inteligencia artificial, los vehículos robados o con placas adulteradas que circulan en las calles, con la finalidad de prevenir que sean usados en crímenes.

La norma fue impulsada por la congresista Cruz María Zeta Chunga. Además, este proyecto de ley permitiría que las víctimas de robo de vehículos recuperen sus unidades de transporte.

Para ello, el proyecto de ley dispone del uso de cámaras de video vigilancia con inteligencia artificial, ubicadas en lugares claves y estratégicos dentro de la jurisdicción territorial de las municipalidades provinciales y distritales, en colaboración y coordinación con la Policía Nacional del Perú. Precisa además que la base de datos donde se encuentran registradas todas las unidades que circulan en el país se constituirá en el registro de placas de medios de transporte, que será de uso exclusivo de la Policía Nacional, Serenazgo, Poder Judicial y el Ministerio Público, en el ámbito de sus competencias.

2.1. El Congreso mexicano ante la inteligencia artificial. México.

Ricardo Monreal, senador de la república, presentó recientemente un proyecto para regular la inteligencia artificial en México. El proyecto de este senador tiene como objetivo enfrentar los riesgos que la IA representa. Actualmente la IA generativa es empleada para asuntos tan diversos como la publicidad masiva personalizada, la generación de canciones o de textos, la investigación científica o para reemplazar cierto tipo de trabajos. Pero son sus efectos futuros los que resultan más preocupantes.

Las promesas de la inteligencia artificial son enormes pero también lo son sus riesgos; esta tecnología podría ser utilizada para clasificar a millones de personas, para manipular su comportamiento o para trastocar democracias.

La iniciativa de Monreal propone prohibir sistemas capaces de:

●  Alterar el comportamiento mediante técnicas subliminales para causar daño físico o psicológico.

●  Explotar vulnerabilidades de grupos específicos para alterar su comportamiento de manera que cause daño.

●  Evaluar y clasificar a las personas basándose en su conducta social o características personales que resulten en daño.

●  Identificación biométrica remota sin consentimiento, excepto en casos justificados de interés público o seguridad nacional.

●  Alterar archivos de voz o imagen sin autorización para modificar su contenido original.

2.2. Gobierno prepara proyecto de Ley de Datos para convertir a Colombia en hub de Inteligencia Artificial
Colombia.

En la asamblea anual de la Cámara de Comercio Colombo Americana (AmCham Colombia), el ministro TIC, Mauricio Lizcano, anunció que el Gobierno presentará ante el Congreso de la República un proyecto de Ley que dictará disposiciones para el uso, intercambio, aprovechamiento de la infraestructura de datos del Estado y la interoperabilidad de los sistemas de información de las entidades públicas.

Este proyecto de Ley busca proteger la privacidad de las personas y los datos. El ministro Lizcano anunció también que sobre el mes de junio se estructurará un Conpes para presentar la hoja de ruta de Inteligencia Artificial en el país.

En su presentación, el líder de la cartera TIC explicó el trabajo necesario para que Colombia se transforme en un hub de Inteligencia Artificial, como la alianza con los Emiratos Árabes, y los avances en la construcción de dos grandes centros de Inteligencia Artificial, uno en Zipaquirá y otro en Bogotá, y 100 microcentros en toda Colombia. Además, se busca fomentar la educación digital, a través de cursos gratuitos para formar a los colombianos en tecnología.

Por último, el ministro destacó que el proyecto de Ley de datos radica en la importancia de cuidar y saber manejar los datos, porque estos son bienes que generan valor económico y social.

2.3. Europa controlará por ley la huella ecológica de la Inteligencia Artificial. Unión Europea.

Además de sus ventajas, la IA despliega una infinidad de peligros, como la forma en la que su actividad impacta en el medio ambiente. Los resultados de sus operaciones han transformado la forma de operar de multitud de sectores, pero cada vez más estudios hacen hincapié en la cantidad de energía y agua que consume, en la contaminación que produce la fabricación de los equipos que la componen y en la basura electrónica que genera al final de su vida útil.

El Parlamento Europeo, acaba de hacer historia ratificando la primera Ley de Inteligencia Artificial del mundo, lista para entrar en vigor en 2026. La ley establece permisos y prohibiciones en el uso de esta tecnología en función del riesgo que entrañe para la ciudadanía, vetándola en el plano de la vigilancia masiva en espacios públicos pero avalándola en acciones de seguridad, lucha contra el terrorismo y persecución de delincuentes. En la ley, también se incluye que los sistemas de IA utilizados en la Unión Europea deben ser respetuosos con el medio ambiente y deben estar bajo la supervisión de personas. La Comisión Europea también está desarrollando otras iniciativas relacionadas con la huella ecológica. Así, prevé establecer unos requisitos mínimos de eficiencia para servidores y ordenadores y está preparando nuevas normas de seguimiento para recopilar y publicar información sobre el consumo energético e hídrico de los centros de datos. También trabaja en el diseño de medidas que fomenten la ubicación de los nuevos centros de datos en lugares donde se pueda reutilizar el calor residual para reducir las necesidades de energía y agua para refrigeración.

2.4. Cantabria regulará por ley los límites de la IA en el diagnóstico médico.
España.

El Gobierno de Cantabria ya ha iniciado los trámites para redactar la Ley de Salud Digital, que permitirá adaptar la rutina diaria de la sanidad a las nuevas tecnologías, como la inteligencia artificial y la teleasistencia. El anteproyecto, que aún se encuentra en la fase de consulta pública previa, pretende resolver algunas “lagunas” provocadas por la irrupción de estas nuevas herramientas con un nuevo marco legal que sea más sólido y dé seguridad jurídica a los profesionales.

La Consejería de Sanidad ha señalado que el anteproyecto busca cubrir el vacío normativo reforzando las garantías legales de la relación asistencial mediante la introducción expresa en el ordenamiento jurídico autonómico de los principios de igualdad, accesibilidad y universalidad en el acceso a la salud digital.

La nueva norma busca dar respuesta a todos los desafíos legales, éticos y tecnológicos que plantea la digitalización de la sanidad, lo que tendrá un impacto directo sobre la atención que se presta.