Imagínese pantallas que lo espían, programas que guardan todo lo que usted hace, smartphones y Smart TV que espían sus conversaciones y apps que hacen un seguimiento de lo que usted hace, no hace y a dónde va. Súmele un sistema de puntaje de personas y empresas que miden su confiabilidad recibiendo por ello beneficios y castigos. Ni George Orwell cuando escribió 1984, creyó que podría ser realidad, ¿o sí? Es para evitar todos esos abusos que el Viejo Continente se moviliza. Eurodiputados consensuaron un proyecto de ley para regular la Inteligencia Artificial (IA) con el fin de proteger los derechos humanos, promover la innovación y garantizar la seguridad.
Destacaron que la IA no tiene es un código ético que proteja a los seres humanos. Por eso se buscará limitar la conducción autónoma, la selección de empleados y el otorgamiento de becas y subvenciones. Además se regularía la utilización de maquinaria y robots, y quedaría expresamente prohibido el reconocimiento facial, salvo excepciones como en la búsqueda de un niño perdido o para prevenir ataques terroristas
Para hablar sobre el tema, La Prensa pudo dialogar con Juan Pablo Coletti, Latam director of International Strategy Partners de Dahua Technology, empresa especializada en productos y servicios de vigilancia por video.
-¿Por qué la Unión Europea llegó a este tipo de regulación?
-Básicamente se busca evitar abusos. Se aspira a regular los usos de los mecanismos permitidos de inteligencia artificial. Se establece prohibiciones para usos, como los de los sistemas de vigilancia masiva y las tecnologías que valoran a las personas de forma predictiva. Además, la idea es que los sistemas de alto riesgo pasen a tener una mayor supervisión.
-¿Qué es el Consejo Europeo de Inteligencia Artificial?
-Es un organismo integrado por expertos en IA de todos los países miembros de la UE, que decidirán qué sistemas se consideran de alto riesgo y posibles cambios de regulación. Busca asegurar que se disponga de supervisión humana y que los sistemas no se hayan entrenado con datos sesgados.
-¿Cuáles son las principales restricciones que se intentan aplicar? ¿A qué se refieren con actividades de bajo riesgo y de alto riesgo o inaceptables?
-El Proyecto de Reglamento está basado en una clasificación del riesgo de las actividades con IA involucrada. Las de alto riesgo comprenden una gran cantidad de actividades, entre las que se encuentran las utilizadas en la administración y operación de infraestructura crítica, para determinar acceso a la educación, en reclutamiento o selección de personal, en la ejecución de la ley penal, en utilización de las autoridades públicas de deep fakes, etc. Entre las de riesgo limitado se encuentran los chatbots, que interactúan con personas, así como los deep fakes utilizados para fines distintos a los considerados como de alto riesgo. Dentro de las consideradas como de bajo riesgo se encuentran los sistemas utilizados para filtro de spams o en sistemas automatizados de publicidad y no pone ninguna obligación relevante.
-¿Cómo afectan estas regulaciones a las empresas de vigilancia?
-Ciertamente debemos estar más atentos a las mismas y entender las nuevas legislaciones, pero más allá de eso, no hay cambios significativos o restricciones.
-¿Cómo impactará todo esto en la vida cotidiana?
-Estas soluciones apuntan a mejorar el nivel de vida y bienestar de las personas apoyándose en las posibilidades que brinda la tecnología. La idea es poder brindar mayor confort, seguridad y hacer de la sociedad un lugar más seguro.
-¿Esto se extenderá tarde o temprano a nivel mundial?
Sí, sobre todo porque la tecnología y la investigación avanzan rápidamente. Es muy positivo que la innovación tenga estos resultados que pueden beneficiar a toda la sociedad.
Juan Pablo Coletti.