El creciente uso de herramientas de Inteligencia Artificial (IA) por parte de las personas consumidoras para informarse sobre sus derechos está marcando un nuevo hito en el ámbito de la protección del consumidor.
Cada vez con mayor frecuencia, estas tecnologías son utilizadas con el fin de obtener respuestas rápidas relacionadas con aspectos legales o dudas sobre los derechos de los consumidores, especialmente con los problemas que pueden surgir cuando realizan compras transfronterizas. Igualmente, se recurre a esta tecnología para conocer qué oficinas de atención al consumidor pueden ayudar a los ciudadanos a resolver sus litigios de consumo.
De esta forma, aunque la IA puede ser una ayuda valiosa para los consumidores que buscan información general sobre sus derechos, su uso también conlleva riesgos evidentes cuando la información no es correcta, completa o adaptada a cada caso concreto. Además, hay que señalar que, en las reclamaciones relacionadas con compras transfronterizas, las normas y circunstancias suelen ser complejas, lo que hace necesario un asesoramiento cualificado e individualizado.
En este contexto, el Centro Europeo del Consumidor en España (CEC-España) quiere pone en valor el papel estratégico de la red ECC-Net a la hora de garantizar que las personas consumidoras reciban una asesoría adecuada, tengan expectativas realistas y obtengan la ayuda adecuada cuando interactúan con empresas dentro de la Unión Europea. Igualmente, CEC-España advierte que, si bien estas herramientas pueden facilitar un primer acceso a una información general, también presentan claras limitaciones cuando se trata de interpretar situaciones jurídicas complejas o técnicas.
CEC-España destaca también la necesidad de comprender las implicaciones que tiene el uso de la Inteligencia Artificial y la importancia de contactar con el Centro Europeo del país de residencia del consumidor, en caso de tener dudas.
Riesgo de asesoramiento incorrecto o excesivamente simplificado
La Inteligencia Artificial proporciona respuestas generales basadas en probabilidades, no realiza evaluaciones jurídicas particulares o individualizadas. Hay que tener en cuenta que, la aplicación de las leyes de consumo suele depender de las circunstancias de la situación, posibles interpretaciones, la legislación nacional y la jurisprudencia. De esta forma, las respuestas incorrectas o excesivamente simplificadas de la IA pueden llevar a los consumidores a tener expectativas poco realistas o a actuar de forma que perjudique la defensa de sus derechos.
Dificultad para gestionar casos complejos e individuales
Muchos de los casos que gestiona ECC-Net son complejos y requieren una visión global que tenga en cuenta distintas circunstancias y normas. Sin embargo, la IA no tiene capacidad para comprender de forma correcta el contexto de un caso individual, especialmente cuando afecta a varios ámbitos jurídicos y a normas de diferentes países.
Falta de referencias y transparencia
Las fuentes que han sido utilizadas por la IA para generar sus respuestas pueden resultar poco claras y estar desactualizadas. Esto hace que, para las personas consumidoras, resulte difícil determinar si la información es correcta, está actualizada o si realmente es relevante. Desde la red ECC-Net se ha detectado que, a veces, los consumidores contactan con los Centros Europeos refiriéndose a sentencias para respaldar su reclamación. Sin embargo, dichas sentencias no existen y han sido generadas por la IA lo que complica y ralentiza el trabajo de los asesores legales de la red.
El papel de los Centros Europeos del Consumidor en una nueva sociedad basada en la IA
Si bien la IA puede complementar el asesoramiento cualificado y personalizado de un asesor legal, esta tecnología no puede sustituirlo. En cualquier caso, el uso de la Inteligencia Artificial por parte de los consumidores está afectando a la forma de trabajar de la red ECC-Net en el siguiente sentido:
• Más tiempo para verificar y explicar la normativa que realmente aplica en cada caso.
• Más tiempo y esfuerzo para matizar o corregir la información que el consumidor ha recibido de la IA.
• Más tiempo para evaluar las posibilidades para resolver el litigio a través de la mediación y de emprender acciones legales con arreglo a la normativa de la UE.
Nuevas amenazas y riesgos para los consumidores y usuarios
Las tres principales autoridades europeas de supervisión —ESMA (Autoridad Europea de Valores y Mercados), EBA (Autoridad Bancaria Europea) y EIOPA (Autoridad Europea de Seguros y Pensiones de Jubilación)— han publicado un comunicado conjunto en el que advierten sobre el riesgo creciente de estafas y fraudes financieros en la era de la inteligencia artificial (IA). En el documento titulado “Estafas y fraudes financieros en la era de la inteligencia artificial”, las autoridades señalan que, aunque las estafas financieras en entornos digitales no son nuevas, la introducción de IA ha hecho que estas prácticas sean más sofisticadas y difíciles de detectar.
Por su parte, la Agencia Española de Protección de Datos (AEPD) ha publicado unas orientaciones sobre Inteligencia Artificial agéntica desde la perspectiva de protección de datos. Estas orientaciones abordan las cuestiones de protección de datos que pueden surgir cuando responsables y encargados de tratamiento deciden utilizar sistemas de IA agéntica para implementar tratamientos de datos personales. La AEPD ha subrayado que el conocimiento de esta tecnología es clave para adoptar decisiones informadas cuando se pretende implementarla en tratamientos de datos personales. En particular, defiende aprovechar de forma proactiva las oportunidades que ofrece la IA agéntica para una mayor protección de datos desde el diseño.