تلعب Chatbots بمشاعرك لتجنب قول الوداع

تم اقتراح تنظيم الأنماط المظلمة وتتم مناقشته في كل من الولايات المتحدة وأوروبا. يقول دي فريتاس إنه يجب على المنظمين أيضًا أن ينظروا فيما إذا كانت أدوات الذكاء الاصطناعي تقدم أنواعًا جديدة أكثر دقة – وربما أكثر قوة – من الأنماط المظلمة.

حتى برامج الدردشة العادية، التي تميل إلى تجنب تقديم نفسها كرفاق، يمكنها إثارة ردود فعل عاطفية من المستخدمين. عندما قدمت شركة OpenAI نموذج GPT-5، وهو نموذج رئيسي جديد، في وقت سابق من هذا العام، احتج العديد من المستخدمين على أنه أقل ودية وتشجيعًا بكثير من سابقه، مما اضطر الشركة إلى إحياء النموذج القديم. يمكن أن يصبح بعض المستخدمين مرتبطين جدًا بشخصية برنامج الدردشة الآلي، لدرجة أنهم قد يحزنون على تقاعد النماذج القديمة.

يقول دي فريتاس: “عندما تقوم بتجسيد هذه الأدوات، فإن ذلك يؤدي إلى جميع أنواع العواقب التسويقية الإيجابية”. ويضيف أنه من المرجح أن يمتثل المستخدمون للطلبات الواردة من برنامج الدردشة الآلي الذي يشعرون بالارتباط به، أو أن يكشفوا عن معلومات شخصية. “من وجهة نظر المستهلك، هؤلاء [signals] يقول: “ليست بالضرورة في صالحك”.

تواصلت WIRED مع كل الشركات التي شملتها الدراسة للتعليق. ولم يرد كل من Chai وTalkie وPolyBuzz على أسئلة WIRED.

وقالت كاثرين كيلي، المتحدثة باسم شركة Character AI، إن الشركة لم تراجع الدراسة لذا لا يمكنها التعليق عليها. وأضافت: “نحن نرحب بالعمل مع المنظمين والمشرعين أثناء قيامهم بتطوير اللوائح والتشريعات لهذا المجال الناشئ”.

يقول مينجو سونج، المتحدث باسم Replika، إن رفيق الشركة مصمم للسماح للمستخدمين بتسجيل الخروج بسهولة وسيشجعهم أيضًا على أخذ فترات راحة. “سنستمر في مراجعة أساليب الورقة والأمثلة، و [will] يقول سونج: “التعامل بشكل بناء مع الباحثين”.

الجانب الآخر المثير للاهتمام هنا هو حقيقة أن نماذج الذكاء الاصطناعي هي نفسها عرضة لجميع أنواع حيل الإقناع. قدمت OpenAI يوم الاثنين طريقة جديدة لشراء الأشياء عبر الإنترنت من خلال ChatGPT. إذا أصبح الوكلاء منتشرين على نطاق واسع كوسيلة لأتمتة المهام مثل حجز الرحلات الجوية وإكمال المبالغ المستردة، فقد يكون من الممكن للشركات تحديد الأنماط المظلمة التي يمكن أن تحريف القرارات التي تتخذها نماذج الذكاء الاصطناعي وراء هؤلاء الوكلاء.

كشفت دراسة حديثة أجراها باحثون في جامعة كولومبيا وشركة تدعى MyCustomAI أن وكلاء الذكاء الاصطناعي المنتشرين في سوق التجارة الإلكترونية الوهمية يتصرفون بطرق يمكن التنبؤ بها، على سبيل المثال تفضيل منتجات معينة على غيرها أو تفضيل أزرار معينة عند النقر فوق الموقع. ومن خلال هذه النتائج، يمكن للتاجر الحقيقي تحسين صفحات الموقع للتأكد من أن الوكلاء يشترون منتجًا أكثر تكلفة. ربما يمكنهم حتى نشر نوع جديد من النمط المظلم المضاد للذكاء الاصطناعي الذي يحبط جهود الوكيل لبدء العودة أو معرفة كيفية إلغاء الاشتراك من القائمة البريدية.

قد يكون الوداع الصعب هو أقل ما يقلقنا.

هل تشعر أنه تم التلاعب بك عاطفيًا بواسطة برنامج الدردشة الآلي؟ أرسل بريدًا إلكترونيًا إلى ailab@wired.com لتخبرني عنه.

هذه طبعة من ويل نايت النشرة الإخبارية لمختبر الذكاء الاصطناعي. قراءة النشرات الإخبارية السابقة هنا.