Hace algunos meses, el Parlamento Europeo aprobó una legislación que busca regular el desarrollo y la introducción de sistemas de inteligencia artificial. Quizás uno de los principales riesgos que suponen estos sistemas, se relaciona con la forma en cómo podrían ser utilizados por agentes humanos para cambiar el entorno de elección con el fin de alterar el comportamiento de las personas, o para favorecer formas de discriminación, categorización o exclusión social, sea de manera directa o indirecta.

Para enfrentar estos desafíos, la legislación europea establece un sistema de riesgos y prácticas prohibidas. Por ejemplo, esta regulación prohíbe los sistemas que alteren de manera sustancial el comportamiento de los ciudadanos, los que se utilicen para evaluar o clasificar a colectivos de manera que esto resulte en un trato perjudicial o desfavorable, los sistemas de categorización biométrica que permitan deducir o inferir la raza, opiniones políticas o la afiliación sindical de las personas y los sistemas que permitan realizar evaluaciones de riesgos con el objeto de valorar o predecir el riesgo de que un sujeto cometa un delito.

Con respecto a los sistemas de alto riesgo, como por ejemplo, los que se utilicen tratándose de la operación y gestión de infraestructura critica, en el ámbito educacional, para la contratación o selección de personal, para la evaluación de riesgos en materia de seguros de vida o de salud, para evaluar la solvencia crediticia de una persona, para la aplicación de la ley o la interpretación del derecho, por mencionar algunos, se exigirá que las empresas u operadores, cuenten con información que permita determinar y analizar los riesgos que suponga cada sistema de inteligencia artificial, y medidas que permitan su reducción o eliminación, entre otras obligaciones. Esta normativa también establece una serie de órganos encargados de su puesta en práctica, obligaciones para los Estados, y un conjunto de sanciones, las cuales deberán ser efectivas, proporcionadas y disuasorias.

Finalmente, creo que esta ley si bien tiene algunos desafíos importantes por delante, sobre todo pensando en la forma en como el regulador enfrentará las presiones de los grandes desarrolladores tecnológicos, va en la dirección correcta, al destacar la necesidad de proteger y garantizar los derechos humanos y los valores políticos de la libertad, la igualdad, la democracia y el Estado de Derecho, en el contexto de cambio y revolución tecnológica que estamos viviendo.