IA

Con sus nuevos términos, Wells Fargo hace pagar al cliente los errores de su agente de IA

Susan Hill
Añádenos en Google

Wells Fargo está reescribiendo el acuerdo que rige su app y su sitio web para que todo lo que haga un agente de IA externo en la cuenta de un cliente se considere un acto del propio cliente. El banco asegura que seguirá las instrucciones del agente sin verificarlas, que no vigilará lo que este haga y que tratará los errores del agente como errores del cliente. «Su uso de cualquier agente de IA es BAJO SU PROPIO RIESGO», dicen los nuevos términos, en mayúsculas.

Para quien le haya entregado la contraseña de su banco a un bot de compras o a un asistente de presupuesto, esto cambia quién paga cuando el software se equivoca. Un pago duplicado, un pedido hecho diez veces o una transferencia activada por una página web con trampa recaerían sobre el titular de la cuenta y no sobre el banco, salvo que una ley disponga lo contrario. Nadie tiene que firmar nada: se entiende que los clientes que sigan usando la banca en línea después del cambio lo aceptaron. «Los consumidores autorizan objetivos, no cada clic», dijo a Wired Kacy Kim, profesora de marketing de la Universidad Bryant que estudia el comportamiento del consumidor.

La definición es amplia. Wells Fargo llama «agente de IA» a cualquier software que ejecute una «acción autónoma, semiautónoma o no autónoma» en nombre de alguien, lo que va mucho más allá de los chatbots que se venden como asistentes personales. El cliente asume el costo de que un agente malinterprete instrucciones, haga cosas que nadie pidió, actúe a partir de «entradas manipuladas» o se exceda de la autoridad que se le dio. Los agentes operados por personas a las que el cliente permite el acceso a la cuenta quedan sujetos a las mismas reglas, y ningún menor de 18 años puede conectar uno.

Desactivar al agente también es tarea del cliente. Los términos establecen que los clientes deben revocar el acceso por su cuenta, conservar pruebas de haberlo hecho y entregarlas si el banco se las pide. Hasta que le avisen a Wells Fargo, siguen siendo responsables de lo que haga el agente. Esto sigue la lógica de la norma estadounidense sobre transferencias electrónicas, la Regulación E, que considera autorizadas las transferencias hechas por alguien a quien se le dio la tarjeta o las credenciales de acceso, hasta que el cliente le pida al banco que las detenga.

Wells Fargo todavía deja entrar a los agentes, lo que lo ubica en el extremo permisivo de una industria que está cerrando la puerta. JPMorgan Chase modificó sus términos para prohibir los agentes de terceros que inician sesión con las credenciales del cliente, Bank of America advirtió a sus clientes que no compartan sus datos de acceso con agentes, y Citibank y PNC agregaron advertencias propias, según Wired. Morgan Stanley bloqueó a los agentes de terceros en sus plataformas, informó Axios. Wells Fargo se reservó el derecho de cortar las conexiones que usan los agentes o de bloquear por completo a cualquier agente.

La resistencia va más allá de la banca. Amazon bloqueó al agente Muse de Meta para que no haga compras en su tienda, y United Airlines ha dicho que los bots personales no podrán comprar vuelos para los viajeros. American Express es la rara excepción en el reportaje de Wired: dijo que algunos errores de agentes, como pedir demasiadas unidades de un artículo, podrían calificar para un reembolso en el futuro si el comprador no logra recuperar el dinero del comercio.

No está claro cuánto cambia en la práctica la nueva redacción. Sus cláusulas remiten una y otra vez a «la ley o la regulación», y ningún tribunal se ha pronunciado sobre quién asume la pérdida cuando un agente que el cliente activó hace algo que nunca quiso. Además, el público es reducido. «Todos nuestros datos indican que la mayoría de las personas ni siquiera saben qué son los agentes, mucho menos los usan», dijo a Wired Sucharita Kodali, analista de Forrester. Y los bancos no están en contra de los agentes como tales. «Le están cerrando la puerta a los agentes externos y construyendo los suyos», dijo Luca Cian, profesor de la Universidad de Virginia que estudia psicología del consumidor e IA. El asistente de IA generativa propio de Wells Fargo ha gestionado más de mil millones de interacciones.

Los nuevos términos solo cubren a los clientes de la banca en línea y móvil de Wells Fargo en Estados Unidos, y todos los bancos mencionados hasta ahora son estadounidenses. En la Unión Europea, las normas de pagos ya empujan a las aplicaciones que leen o mueven dinero hacia conexiones autorizadas que provee el banco, en lugar de una contraseña compartida, lo que deja menos margen para agentes que inician sesión como si fueran el cliente.

El acuerdo actualizado de Wells Fargo entra en vigor el martes 24 de noviembre y se aplica a quien siga usando el sitio web o la app del banco después de ese día. La prohibición de JPMorgan a los agentes basados en credenciales llegó a fines de octubre, el mismo día en que Bank of America envió su advertencia. Wells Fargo también se reservó la opción de obligar a los clientes a registrar sus agentes ante el banco, lo que le daría una lista de los bots que, según dice, no vigila.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.