¡Atención! La UE multará a responsables de algoritmos dañinos
La Unión Europea (UE) está creando nuevas normas para que sea más fácil demandar a las empresas de inteligencia artificial (IA) por daños. El reglamento presentado la semana pasada, que probablemente se convierta en ley en un par de años, es parte del impulso de Europa para evitar que los desarrolladores de IA lancen sistemas peligrosos. Sin embargo, mientras las empresas de tecnología se quejan de que eso podría ser un freno a la innovación, los activistas defensores de los usuarios creen que la medida no es suficientemente ambiciosa.
Las poderosas tecnologías de IA afectan cada vez más a nuestras vidas, relaciones y sociedades, y sus daños están bien documentados. Los algoritmos de las redes sociales aumentan la desinformación, los sistemas de reconocimiento facial suelen ser muy discriminatorios y los sistemas predictivos de IA que se utilizan para aprobar o rechazar préstamos pueden ser menos precisos para las minorías.
La nueva legislación propuesta, denominada Directiva sobre responsabilidad civil en materia de IA, refuerza el Reglamento sobre la IA de la UE, que se convertirá en normativa de la UE casi al mismo tiempo. El Reglamento sobre la IA requerirá controles adicionales para los usos de IA de "alto riesgo" que tienen el mayor potencial de perjudicar a las personas, incluidos los sistemas de vigilancia, reclutamiento o atención médica.
El nuevo reglamento sobre responsabilidad otorgaría a las personas y empresas el derecho a demandar por daños y perjuicios si se han visto perjudicados por un sistema de IA. El objetivo es responsabilizar a los desarrolladores, productores y usuarios de las tecnologías, y exigirles que expliquen cómo se construyeron y entrenaron sus sistemas de inteligencia artificial. Las empresas tecnológicas que no siguen las reglas corren el riesgo de enfrentarse a demandas colectivas en toda la UE.
Por ejemplo, los solicitantes de empleo que demuestren que un sistema de IA de revisión de currículos los discriminó pueden pedirle a un tribunal que obligue a la empresa de IA a concederles acceso a la información sobre el sistema para identificar a los responsables y descubrir qué salió mal. Con esta información bajo el brazo, pueden interponer la demanda.
La propuesta todavía tiene que abrirse camino a través del proceso legislativo de la UE, que se dilatará, al menos, un par de años. Será enmendada por miembros del Parlamento Europeo y los gobiernos de la UE y, probablemente, habrá mucha presión por parte de las empresas tecnológicas, que afirman que tales normativas podrían tener un efecto "paralizante" en la innovación.
Tenga éxito o no, esta nueva regulación de la UE tendrá un efecto dominó en la forma en la que se regula la IA en todo el mundo.
Fuente: Technologyreview