Băncile avertizează că roboții AI de cumpărături cresc riscurile de fraudă și încălcare a datelor
Utilizarea agenților AI pentru cumpărături online ar putea spori riscurile de escrocherii, fraudă și încălcare a datelor personale, au avertizat marți mai multe bănci, printre care NatWest și Bank of America, care au prezentat un set de principii pentru dezvoltarea acestei tehnologii.
Companii de tehnologie precum OpenAI, Anthropic, Google și Meta promovează tot mai mult roboții conversaționali AI ca instrumente de cumpărături, imaginându-și un viitor în care clienții folosesc agenți AI pentru a selecta produse și a face achiziții în numele lor. Între timp, comercianții cu amănuntul se întrec să influențeze recomandările roboților.
Grupul de bănci, din care mai fac parte ING, ASB Bank din Noua Zeelandă, Capital One și Commonwealth Bank of Australia, a declarat într-un raport că clienții sunt entuziasmați de potențialul comerțului bazat pe agenți AI și dornici să îl activeze.
Totuși, băncile au avertizat că tehnologia avansează mai repede decât standardele din industrie și măsurile de protecție a consumatorilor.
„Consumatorii nu sunt siguri dacă AI va acționa în interesul lor”, se arată în raport.
„Sunt îngrijorați că agenții AI ar putea cumpăra lucrul greșit sau ar putea cheltui prea mult – sau, mai rău, ar putea pierde bani din cauza escrocheriilor și fraudei. Nu sunt siguri dacă vor fi protejați sau la cine vor trebui să apeleze dacă ceva merge prost.”
Raportul evidențiază riscuri precum solicitarea de către agenții AI a datelor cardului clientului și introducerea lor direct pe site-uri, sau direcționarea utilizatorilor către metode de plată care oferă protecții mai slabe.
Băncile intenționează să discute o serie de propuneri cu factorii de decizie politică, inclusiv obligația de a dezvălui când un agent AI este implicat într-o tranzacție, o transparență mai mare privind modul în care agenții AI iau decizii și garanții pentru protejarea datelor clienților.
Consumatorii și comercianții ar trebui, de asemenea, să fie liberi să aleagă ce servicii de comerț electronic bazate pe AI folosesc, iar sistemele diferite ar trebui să fie interoperabile, se mai arată în raport.