La gran semana contra la IA sesgada: la UE y EEUU empiezan a regular

La Unión Europea ha publicado su tan esperado conjunto de regulaciones sobre inteligencia artificial, con restricciones sobre la vigilancia masiva y la manipulación. Por su parte, la FTC ha anunciado que empezará a perseguir a las empresas que utilicen y vendan algoritmos sesgados.

Está siendo una semana extraordinaria para el rechazo gubernamental al mal uso de la inteligencia artificial (IA). El miércoles, la Unión Europea (UE) publicó su tan esperado conjunto de regulaciones sobre la IA, cuyo primer borrador se filtró la semana pasada. Se trata de un reglamento es amplio, con restricciones sobre la vigilancia masiva y el uso de IA para manipular a las personas.

Pero la declaración de intenciones de la Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés), descrita el 19 de abril en una breve publicación de blog de la abogada Elisa Jillson, podría tener más impacto en el futuro inmediato. Según la publicación, la FTC planea perseguir a las empresas que utilicen y vendan los algoritmos sesgados.

Puede que la noticia haya puesto nerviosas a varias empresas, opina el profesor de la Universidad de Washington (EE. UU.) Ryan Calo, especializado en tecnología y derecho. Y afirma: "En realidad, no es solo esta publicación de blog, es un ejemplo muy claro de lo que parece ser un cambio radical".

La UE es conocida por su mano dura contra las Big Tech, mientras que la FTC ha tenido un enfoque más suave, al menos en los últimos años. La agencia tiene como objetivo vigilar las prácticas comerciales desleales y deshonestas. Sus competencias son limitadas: no tiene jurisdicción sobre las agencias gubernamentales, bancos u organizaciones sin ánimo de lucro. Pero puede intervenir cuando las empresas no reflejan fielmente las funciones de los productos que venden, y eso significa que las que afirman que sus sistemas de reconocimiento facial, algoritmos de vigilancia predictiva o herramientas de atención médica no están sesgados ahora podrían estar en el punto de mira. "Ahí es donde tienen el poder, y es un poder enorme", sostiene Calo.

Pasar a la acción

La FTC no siempre ha estado dispuesta a ejercer dicho poder. Tras las críticas de la década de 1980 y 1990 de que era demasiado agresiva, se echó atrás y tuvo menos enfrentamientos, especialmente contra las empresas tecnológicas. Esto parece estar cambiando.

En la publicación del blog, la FTC advierte a los proveedores que las afirmaciones sobre la inteligencia artificial deben ser "veraces, no engañosas y respaldadas por pruebas. Por ejemplo, digamos que un desarrollador de inteligencia artificial dice a los clientes que su producto proporcionará 'decisiones de contratación 100 % imparciales', pero el algoritmo se construyó con datos que carecían de diversidad racial o de género. El resultado podría ser engaño, discriminación y una acción judicial por parte de la FTC".

La actividad de la FTC tiene apoyo bipartidista en el Senado de EE. UU., donde  esta semana se les preguntó a los comisionados qué más podían hacer y qué necesitaban para hacerlo. "Hay viento en popa", asegura Calo.

Por otro lado, las regulaciones sobre la IA de la UE, aunque establecen unos límites claros, son solo recomendaciones. Al igual que en el caso del Reglamento General de Protección de Datos (GDPR) aprobado en 2018, la decisión de cómo implementarlas dependerá de cada Estado miembro de la UE.

Una parte del lenguaje también es vago y está abierto a interpretación. Por ejemplo, la disposición contra las "técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente su comportamiento" de una manera que pueda causar daño psicológico. ¿Se aplica eso a las fuentes de noticias de las redes sociales y a la publicidad dirigida? "Podemos esperar que muchos lobbies intenten excluir explícitamente la publicidad y los motores de recomendación", opina el profesor del University College London (Reino Unido) Michael Veale, que se dedica al derecho y la tecnología.

Se necesitarán años de desafíos legales en los tribunales para aclarar los detalles y las definiciones. "Eso será solo después de un proceso muy largo de investigación, denuncias, multas, apelación, contrapelación y remisión al Tribunal de Justicia de la Unión Europea. En ese momento, el ciclo comenzará de nuevo", resalta Veale. Pero la FTC, a pesar de su campo de acción limitado, tiene autonomía para actuar al momento.

Una gran limitación que comparten la FTC y la Comisión Europea es su incapacidad de frenar el uso de la tecnología de IA dañina por parte de los gobiernos. Las regulaciones de la UE incluyen salvaguardias en cuanto el uso estatal de la vigilancia, por ejemplo. Y la FTC solo está autorizada a perseguir empresas. Podría intervenir impidiendo que los proveedores privados vendan software sesgado a los organismos encargados de hacer cumplir la ley. Pero será difícil implementarlo, dado el secretismo en torno a tales ventas y la falta de reglas sobre lo que las agencias gubernamentales deben notificar al adquirir la tecnología.

Sin embargo, las noticias de esta semana reflejan un enorme cambio mundial hacia una regulación seria de la IA, de esa tecnología que se ha desarrollado e implementado con poca supervisión hasta ahora. Los perros guardianes de la ética llevan años pidiendo restricciones sobre las prácticas injustas y dañinas en el uso de la IA.

La UE considera que sus regulaciones colocan a la IA bajo las protecciones existentes de las libertades civiles. "La inteligencia artificial debe servir a las personas y, por lo tanto, la inteligencia artificial siempre debe respetar los derechos de las personas", afirmó la presidenta de la Comisión Europea, Ursula von der Leyen, en un discurso antes de hacer público el reglamento. Este reglamento también ayudará a la IA con su problema de imagen. Como expresó Ursula von der Leyen: "Queremos animar a nuestros ciudadanos a poder confiar en su uso".

Autor:

• Will Douglas Heaven | traducido por Ana Milutinovic
• 23 Abril, 2021

Fuente: https://www.technologyreview.es/s/13308/la-gran-semana-contra-la-ia-sesgada-la-ue-y-eeuu-empiezan-regular