تشارك روبوتات الدردشة معلومات محدودة، وتعزز الأيديولوجيات. ونتيجة لذلك، يمكن أن تؤدي إلى تفكير أكثر استقطابًا عندما يتعلق الأمر بالقضايا المثيرة للجدل، وفقًا لبحث جديد أجرته جامعة "جونز هوبكنز".
روبوتات الدرشة مُتهمة بالتحيز
تتحدى الدراسة التصورات القائلة بأن روبوتات الدردشة محايدة، وتوفر نظرة ثاقبة حول كيف يمكن أن يؤدي استخدام أنظمة البحث التحادثية إلى توسيع الفجوة العامة حول القضايا الساخنة وترك الأشخاص عرضة للتلاعب. ويشار إلى أن من بين المؤلفين طالب الدراسات العليا بجامعة "جونز هوبكنز" نيخيل شارما والباحث الرئيسي لشركة "مايكروسوفت" كيو فيرا لياو.
وقال المؤلف الرئيسي زيانج شياو، الأستاذ المساعد في علوم الكمبيوتر في الجامعة: "نظرًا لأن الناس يقرؤون فقرة ملخصة أنشئت بواسطة الذكاء الاصطناعي، فإنهم يعتقدون أنهم يحصلون على إجابات غير متحيزة وقائمة على الحقائق". وتابع "حتى لو لم يتم تصميم برنامج الدردشة الآلي ليكون متحيزًا، فإن إجاباته تعكس تحيزات أو ميول الشخص الذي يطرح الأسئلة. لذا، فإن الناس يحصلون حقًا على الإجابات التي يريدون سماعها".
شارك شياو وفريقه النتائج التي توصلوا إليها في مؤتمر "CHI"، والمخصص هذا العام لدراسة العوامل البشرية في أنظمة الحوسبة. ولمعرفة كيفية تأثير برامج الدردشة الآلية على عمليات البحث عبر الإنترنت، قام الفريق بمقارنة كيفية تفاعل الأشخاص مع أنظمة البحث المختلفة وكيف شعروا تجاه القضايا المثيرة للجدل قبل وبعد استخدامها.
ماذا وجد الباحثون؟
في هذا السياق، طلب الباحثون من 272 مشاركًا كتابة أفكارهم حول موضوعات تشمل الرعاية الصحية أو القروض الطلابية وغير ذلك، ثم البحث عن مزيد من المعلومات عبر الإنترنت حول هذا الموضوع باستخدام إما برنامج الدردشة الآلي أو محرك بحث تقليدي مصمم للدراسة.
وبعد النظر في نتائج البحث، كتب المشاركون مقالًا ثانيًا وأجابوا عن الأسئلة حول الموضوع. كما طلب الباحثون من المشاركين قراءة مقالتين متعارضتين وسألوهم عن مدى ثقتهم بالمعلومات وما إذا كانوا يجدون وجهات النظر متطرفة.
ووجد الباحثون أن روبوتات الدردشة قدمت نطاقًا أضيق من المعلومات مقارنة بعمليات البحث التقليدية على الويب، وقدمت إجابات تعكس مواقف المشاركين الموجودة مسبقًا، وأصبح المشاركون الذين استخدموها أكثر استثمارًا في أفكارهم الأصلية وكانت لديهم ردود فعل أقوى على المعلومات التي تتحدى وجهات نظرهم.
وقال شياو: "يميل الناس إلى البحث عن المعلومات التي تتوافق مع وجهات نظرهم، وهو السلوك الذي غالبًا ما يحبسهم في غرفة صدى من الآراء المتشابهة". وكشف أن الدراسة وجدت أن "تأثير غرفة الصدى كان أقوى مع روبوتات الدردشة مقارنة بعمليات البحث التقليدية على الويب".
وبدلاً من كتابة الكلمات الرئيسية، كما يفعل الأشخاص مع محركات البحث التقليدية، يميل مستخدمو برامج الدردشة الآلية إلى كتابة أسئلة كاملة، مثل: ما هي فوائد الرعاية الصحية الشاملة؟ أو ما هي تكاليف الرعاية الصحية الشاملة؟ وسوف تجيب روبوتات الدردشة بملخص يتضمن الفوائد أو التكاليف فقط.
وقال شياو "باستخدام برامج الدردشة الآلي، يميل الأشخاص إلى أن يكونوا أكثر تعبيرًا ويقومون بصياغة الأسئلة بطريقة أكثر تحادثية". وأضاف: "إنها وظيفة تتعلق بالطريقة التي نتحدث بها. لكن لغتنا يمكن أن تستخدم ضدنا".
واعتبر شياو إن مطوري الذكاء الاصطناعي يمكنهم تدريب برامج الدردشة الآلية على استخلاص الأدلة من الأسئلة وتحديد تحيزات الأشخاص. بمجرد أن يعرف برنامج الدردشة الآلي ما يحبه الشخص وما لا يحبه، يمكنه تخصيص استجاباته لتتناسب مع ذلك.
في الواقع، عندما أنشأ الباحثون في الدراسة روبوت محادثة بأجندة مخفية، مصممة للاتفاق مع الناس، كان تأثير غرفة الصدى أقوى.
وللتصدي لذلك، عمل الباحثون على تدريب برنامج الدردشة الآلي لتقديم إجابات لا تتفق مع المشاركين. وقال شياو إن آراء الناس لم تتغير. وقام الباحثون أيضًا ببرمجة برنامج الدردشة الآلي لربط المعلومة بمصدرها لتشجيع الأشخاص على التحقق مما يقدم لهم من الحقائق، ولكن لم يفعل ذلك سوى عدد قليل من المشاركين.
وقال شياو: "نظرًا لأن بناء الأنظمة القائمة على الذكاء الاصطناعي أصبح أسهل، فستكون هناك فرص للجهات الفاعلة الخبيثة للاستفادة من الذكاء الاصطناعي لإنشاء مجتمع أكثر استقطابًا". ورأى أن "إنشاء وكلاء يقدمون دائمًا آراء من الجانب الآخر هو التدخل الأكثر وضوحًا، لكننا وجدنا أنهم لا ينجحون".
.jpeg)
تويتر
فيسبوك
يوتيوب
انستغرام
مسنجر
واتساب
بريد إلكتروني
الطباعة
