إخفاء متعمّد لتقنية كشف الغش من "أوبن إيه آي"... ما السبب؟

في القلب من فيوض النقاشات حول الذكاء الاصطناعي التوليدي، برزت مسألة ملحّة تمثلت باستغلال الطلاب لتلك التقنية المتطورة في ممارسات الغشّ. ويثير الأمر إشكالية بشأن علاقة ذلك الغشّ بالتقنية، لكن الأنكى أخلاقياً يتمثّل بإخفاء الشركة لتكنولوجيا تستطيع كشف ذلك الغش، وبالتالي، صارت شريكة فيه، إضافة إلى مخادعتها الجمهور.  

إذا كان ممكناً للتكنولوجيا أن تكون الحل والمشكلة معاً، فهل يجب أن يتدخّل "شيء ما" غير التقنية، كي لا يترك الجمهور منكشفاً أمام الممارسات الأخلاقية للشركات التكنولوجية، التي لا تستثني المراوغة والمخادعة؟ 

ذريعة "النقاش الداخلي"

وفق سبق صحافي سجّلته صحيفة "وول ستريت جورنال" الأميركية، تمتلك شركة "أوبن إيه آي" نظاماً متقدّماً لرصد سوء استعمال البعض قدرة "شات جي بي تي" على صياغة مقالات وبحوث بدقة متناهية، عبر إدعاء أن تلك الأعمال تعود إليهم، وينسبونها لأنفسهم. رغم التوجّس المتنامي من استخدام الطلاب لهذه الأداة في التحايل الدراسي، لم تطرح الشركة النظام للعموم.

واستناداً إلى مصادر موثوقة ومستندات داخلية، بيَّنَتْ الصحيفة الأميركية أن ذلك النظام قد تأخّر عبر دخوله في دهاليز نقاشات داخلية استمرت نحو عامين، على الرغم من جهوزيته للإصدار منذ حوالى عام. ويُشاع في الشركة أن وضع النظام بأيدي الجمهور لا  يحتاج سوى "ضغطة زر" وفقاً لأحد المطلعين.

ووفق تحقيق "وول ستريت جورنال"، فقد كشف استطلاع داخلي أجرته الشركة، أن نحو ثلث مستخدمي "شات جي بي تي" الأوفياء قد يتوقفون عن استعماله إذا طُبِّقَتْ أنظمة مكافحة الغش. ويوحي ذلك بمدى استعمال الجمهور لـ"شات جي بي تي" في أعمال تتضمن الغش.

الابتكار وإشكالياته المتنوعة

وبحسب استطلاع أجراه "مركز الديموقراطية والتكنولوجيا" الأميركي، فإن نحو 60 في المئة من أساتذة المرحلتين المتوسطة والثانوية متأكّدين من استعمال طلبتهم الذكاء الاصطناعي في الغش. وشكَّل ذلك زيادة بـ17 في المئة عن العام السابق.

وكذلك نقلت الصحيفة الأميركية عن آليكسا غوترمان، مدرِّسَة ثانوية وأستاذة للصحافة في نيويورك، قولها إن استعمال الطلاب للذكاء التوليدي في الغش يشكّل هاجساً لدى "كل أستاذ عملتُ معه". 

صرّحت المتحدثة باسم الشركة بأن الشركة تولي اهتماماً بالغاً للتأثيرات المحتملة لأدواتها، بخاصة على الفئات التي قد تتأثر به بشكل غير متكافئ، مثل أولئك الذين لا يتحدثون الإنكليزية كلغة أم.

 وأشارت إلى أن "أوبن إيه آي" تعمل على "تطوير طرق لوضع علامات مائية على النصوص" التي ينتجها الذكاء التوليدي، موضحة أن تلك التقنية لها مخاطرها، لكن الشركة تستقصي طرقاً بديلة أخرى عنها. 

ما هي العلامات المائية؟

تعني العلامات المائية إضافة علامة أو تصميم شفاف على النصوص أو الصور، بغرض التعرّف على منشئي المادة وحمايتها من سوء الاستخدام، وحماية ملكية حقوق الطبع والنشر أو منع التزوير.

أكّد الموظفون والمطوِّرون الداعمون لتزويد الجمهور بنظام كشف الغش، أن الفوائد المحتملة لهذه التكنولوجيا تفوق بكثير أي مخاوف محتملة. وأشاروا إلى أن الذكاء التوليدي قد ينتج مقالة أو بحثاً كاملاً في ثوانٍ معدودة، في استجابةً لطلب واحد ومن دون تكلفة، وبالتالي، فهنالك فائدة كبرى من تطبيق نظام كشف الغش المستند إلى ذلك الذكاء.

وبحسب "وول ستريت جورنال"، فقد شارك سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، وميرا موراتي، المديرة التقنية، في مناقشات حول نظام مكافحة الغش. ونقلت عن بعض المطلعين أن ألتمان أيّد ذلك النظام، لكنه لم يدفع نحو إطلاقه فوراً.

 الكشف الذكي وهوية النص المولد

يستخدم "شات جي بي تي" نموذجاً للذكاء التوليدي يتنبّأ بالكلمة التالية أو جزء منها، عبر تفكيكها إلى مكوِّنات يُشار إلى كل منها بالرمز. وبالتالي، يتحول النص، وحتى الصور، إلى سلسلة من تلك الرموز. وسيعدّل النظام الجديد لمكافحة الغش طريقة اختيار هذه الرموز قليلاً، ما يخلق نمطاً يُعرف بالعلامة المائية. وكذلك فإنها لا تنكشف بسهولة أمام العين البشرية. وحينما يُطبَّق ذلك النظام على نص ما، فإنه يستطيع أن يقدّم تقديراً عن احتمالية أن يكون النص أو جزء منه، قد كُتب بواسطة  "شات جي بي تي". وبالتالي، تكون العلامات المائية دقيقة بـ99,9 في المئة في النصوص التي كُتِبَتْ، كلها أو أجزاء واسعة منها، باستعمال "شات جي بي تي". 

وفقاً لجون ثيكستون، الباحث في جامعة ستانفورد وعضو الفريق الذي طور طريقة مشابهة للعلامات المائية في نصوص الذكاء التوليدي، "من المحتمل أن تتبخر الشمس غداً أكثر من أن تفشل العلامة المائية في تمييز أن ورقة ما" قد أُنجزَت بالذكاء الاصطناعي.

وفي المقابل، عبّر بعض الموظفين عن قلقهم من إمكانية إزالة العلامات المائية باستخدام تقنيات بسيطة مثل ترجمة النص بواسطة "غوغل" إلى لغة أخرى ثم إعادته، أو الطلب من "شات جي بي تي" إضافة رموز تعبيرية (إيموجي) إلى النص ثم حذفها يدوياً، وفق ما نقلته "وول ستريت جورنال" عن موظف في "أوبن إيه آي" مطّلع على تلك الأمور.

السلاح المناسب في الأيدي المناسبة

هناك إجماع واسع داخل الشركة على أن تحديد من يمكنه استخدام نظام كشف الغش، سيشكّل تحدّياً. إذا استخدمته قلة، فهل يكون مفيداً؟ وإذا أتيح بشكل واسع، فقد يتمكن مجرمون من تفكيك تقنية العلامة المائية للشركة.

وناقش موظفو "أوبن إيه آي" إمكانية توفير النظام مباشرةً للمعلمين أو للشركات التي تساعد المدارس في التعرّف على الأعمال المُستَنِدَة إلى الذكاء التوليدي.

في سياق متصل، طوّرت "غوغل" أداة للعلامات المائية تُدعى "سينث إي دي" SynthID، ويمكنها التعرّف على النصوص التي أُنشئت ببرنامج الذكاء التوليدي "جيمني". ولا تزال تلك الأداة قيد الاختبار التجريبي.

ووفق "وول ستريت جورنال"، تولي "أوبن إيه آي" الأولوية للعلامات المائية الصوتية والمرئية في مختلف أنواع المحتوى، نظراً لأهميتها الكبيرة، خصوصاً في سنة انتخابية رئاسية متوترة في الولايات المتحدة.