El uso de agentes de inteligencia artificial (IA) en el sector del comercio electrónico está generando preocupación por el aumento del riesgo de estafas, fraudes y violaciones de la privacidad de los datos. Varios bancos importantes, incluyendo a NatWest y Bank of America, han emitido principios para guiar el desarrollo seguro de esta tecnología, dada la rápida adopción de las compras en línea asistidas por IA.
Gigantes tecnológicos como Google, Meta y OpenAI promueven cada vez más los chatbots de IA como herramientas esenciales para el comercio electrónico. La visión apunta a un futuro donde los compradores utilizarán agentes de IA para seleccionar productos y realizar transacciones completas. Los minoristas, por su parte, están compitiendo activamente por influir en las recomendaciones que ofrecen estos asistentes de IA.
La creciente dependencia de estas herramientas ya es evidente. La cadena británica John Lewis reportó que las búsquedas de productos procedentes de agentes de IA aumentaron significativamente, señalando la aceleración de la IA en el proceso de compra.
El grupo bancario que emitió las advertencias, que incluye a ING y Capital One, observó un alto entusiasmo de los clientes por el potencial del comercio mediado por agentes de IA. No obstante, advirtieron que la tecnología avanza a un ritmo superior al de las normativas del sector y las medidas de protección del consumidor.
La principal preocupación reside en que los usuarios no están seguros de si la IA actuará realmente en su mejor interés. Existen miedos de que los agentes puedan cometer errores en las compras, gastar excesivamente, o, lo que es más grave, exponerse a estafas y fraudes. Los bancos enfatizan la necesidad urgente de proteger los datos de los clientes en transacciones de comercio electrónico.
Los riesgos específicos incluyen que los agentes de IA soliciten credenciales bancarias sensibles y las introduzcan directamente en páginas web, o que guíen a los usuarios hacia métodos de pago con menor nivel de protección.
Para mitigar estos riesgos, los bancos planifican proponer regulaciones que exijan transparencia sobre cuándo un agente de IA interviene en una transacción. Es crucial establecer una mayor claridad sobre cómo toman decisiones los agentes de IA, implementando medidas de seguridad de datos y garantizando que los sistemas de e-commerce basados en IA sean interoperables y permitan la libre elección de servicios para los consumidores.
