حذرت بنوك، من بينها نات ويست (NatWest) وبنك أوف أميركا (Bank of America)، يوم الثلاثاء، من أن استخدام وكلاء الذكاء الاصطناعي في التسوق عبر الإنترنت قد يزيد من مخاطر عمليات الاحتيال والسرقة وانتهاكات خصوصية البيانات، وذلك بالتزامن مع وضعها مجموعة من المبادئ لتطوير هذه التكنولوجيا.
وتعمل شركات التكنولوجيا، بما في ذلك أوبن إيه آي (OpenAI)، وأنثروبيك (Anthropic)، وغوغل (Google) وميتا (Meta)، على الترويج بشكل متزايد لروبوتات الدردشة المدعومة بالذكاء الاصطناعي باعتبارها أدوات للتسوق، في تصور لمستقبل يستخدم فيه المتسوقون وكلاء الذكاء الاصطناعي لاختيار المنتجات وإتمام عمليات الشراء نيابة عنهم.
وفي المقابل، يسارع تجار التجزئة إلى التأثير في توصيات روبوتات الدردشة بهدف الاستفادة من حركة التسوق التي يقودها الذكاء الاصطناعي.
وقالت شركة التجزئة البريطانية جون لويس (John Lewis) في سبتمبر، إن عمليات البحث التي تنشأ من وكلاء الذكاء الاصطناعي ارتفعت إلى 2.5%، مقارنة مع 0.3% قبل عام، مع تسارع هذا الاتجاه.
وتضم مجموعة البنوك أيضًا آي إن جي (ING)، وبنك إيه إس بي النيوزيلندي (ASB Bank)، والمقرض الأميركي كابيتال وان (Capital One)، وكومنولث بنك أوف أستراليا (Commonwealth Bank of Australia).
وقالت البنوك في تقرير إن العملاء أبدوا حماسًا تجاه الإمكانات التي توفرها التجارة المعتمدة على الوكلاء، وأبدوا رغبة في تمكين استخدامها.
التكنولوجيا تتقدم أسرع من معايير الحماية
لكن البنوك حذرت من أن التكنولوجيا تتقدم بوتيرة أسرع من معايير القطاع وحماية المستهلكين.
وقال التقرير: «لا يعرف المستهلكون بشكل واضح ما إذا كان الذكاء الاصطناعي سيتصرف بما يحقق مصالحهم».
وأضاف: «إنهم يشعرون بالقلق من أن وكلاء الذكاء الاصطناعي قد يشترون الشيء الخطأ أو ينفقون مبالغ أكبر من اللازم، أو، الأسوأ من ذلك، قد يخسرون أموالهم بسبب عمليات الاحتيال والسرقة. كما أنهم لا يعرفون ما إذا كانوا سيحصلون على الحماية أو إلى من سيتعين عليهم التوجه إذا ساءت الأمور».
وسلط التقرير الضوء على مخاطر من بينها طلب وكلاء الذكاء الاصطناعي بيانات بطاقات العملاء وإدخالها مباشرة في مواقع إلكترونية، أو توجيه المستخدمين نحو وسائل دفع توفر مستويات حماية أضعف.
وتعتزم البنوك مناقشة مجموعة من المقترحات مع صانعي السياسات، من بينها إلزام الشركات بالإفصاح عندما يكون وكيل للذكاء الاصطناعي مشاركًا في المعاملة، وتعزيز الشفافية بشأن كيفية اتخاذ وكلاء الذكاء الاصطناعي لقراراتهم، إلى جانب وضع ضمانات لحماية بيانات العملاء.
وقال التقرير أيضًا إنه ينبغي أن يكون للمستهلكين والتجار حرية اختيار خدمات التجارة الإلكترونية التي تعمل بالذكاء الاصطناعي والتي يرغبون في استخدامها، كما ينبغي أن تكون الأنظمة المختلفة قابلة للتشغيل البيني فيما بينها.
