El prestigioso estudio Ferrere elaboró un informe sobre la reciente aprobación por parte de la Unión Europea (UE) de la primer Ley sobre Inteligencia Artificial.
El mismo lleva la firma de los profesionales Martín Pesce; Montserrat Puente; Florencia Fitipaldo; Joaquín Avedisian; y Natalia Villarreal, y expresa lo siguiente:
El Parlamento Europeo ha ratificado la primera legislación sobre Inteligencia Artificial (IA). Esta ley busca sentar las bases para la creación de un entorno favorable para el desarrollo de la innovación en un ambiente seguro, poniendo foco en la seguridad, transparencia y responsabilidad en la utilización de esta tecnología.
Para materializar estos objetivos, establece obligaciones basadas en la evaluación de los «riesgos potenciales» y los «niveles de impacto» de la IA. En esta línea, realiza una clasificación de cuatro niveles, dependiendo del grado de riesgo que representen:
- Riesgo inaceptable: Sistemas de IA que se consideran una amenaza para las personas y están prohibidos (por ejemplo, manipulación cognitiva del comportamiento de personas).
- Riesgo alto: Sistemas que, por su función, tengan un efecto perjudicial para la salud, la seguridad y los derechos fundamentales de las personas (por ejemplo, identificación o categorización biométrica). Estos sistemas no se prohíben, pero deberán ser evaluados de forma previa, además de preverse un monitoreo posterior.
- Riesgo limitado: Sistemas que interactúan con seres humanos, a los cuales se les impone una obligación de transparencia en el uso de IA (por ejemplo, grandes modelos de lenguaje).
- Riesgo bajo o mínimo: Sistemas permitidos que no queden comprendidos en las restantes clasificaciones (por ejemplo, videojuegos que utilicen IA).
La ley establece, además, obligaciones de transparencia para los sistemas de IA generativa, los cuales deben especificar si han generado un texto, canción o fotografía utilizando IA, y garantizar los derechos de autor en los datos empleados para entrenar dichos sistemas.
En el mismo sentido, se declara ilegal el uso de deepfake, técnica de edición de imágenes, audios y/o videos falsos de personas, lugares o sucesos que aparentan ser reales sin aclarar que han sido generados por IA, y se prohíbe a empresas establecer chatbots sin revelar que no hay una persona real detrás.
Esta nueva legislación y los principios allí expresados resultan un antecedente relevante y con seguridad, servirá de inspiración en otras jurisdicciones. No obstante, la discusión y la experiencia es todavía incipiente, por lo que sería deseable ser prudentes en su incorporación y adecuación a los países de nuestra región.
Firman:
Martín Pesce; Montserrat Puente; Florencia Fitipaldo; Joaquín Avedisian; y Natalia Villarreal.
Fuente Imagen: https://www.expansion.com/