النهار

أحمد مغربي

قبل كل شيء، أعترف بأنني منحاز لمصلحة الإنسان وحضارة البشر، ولا أملك مقاومة ذلك.

إذاً، حياد؟ نعم، لكن بين من ومن؟

 في المقابل، قد يرى البعض أن مقاربة حدث انتحار روبوت كوري جنوبي يوجب الحياد، ولعلهم مصيبون في ذلك، خصوصاً أن حدث الانتحار غير مؤكد بالأصل. في المقابل، يذكِّر ذلك الانتحار الملتبس بالتهديدات الواضحة بإفناء البشرية التي تكررت على لسان الروبوت "صوفيا"، مرتين في الأقل خلال سبعة أعوام، ولم يتمكن صنّاعها من "تغيير" ذلك الموقف خلال ست سنوات. وربما تكون هلوسة الآلات الخيط الذي يربط الروبوت المهدد بإفناء البشر ونظيره الذي يشك بأنه انتحر. ولأن أيدي البشر هي التي تصنع شيفرة الآلات الذكية، ربما ليس من تجاوز في القول بأنها ملطخة بالتهديد والانتحار الروبوتيَّين.

العودة إلى "صوفيا" وإفناء البشر

أياً كانت الحال، يصعب عدم التأمل ملياً في حادث انتحار ذلك الروبوت الكوري الذي وُظِّف قبل سنة في بلدية مدينة "غومي". لقد أثار ذلك الروبوت مشاعر بشرية إيجابية فياضة حوله، بل وصفه مسؤول في البلدية بالموظف المجتهد بأنه "واحد منا"، مشيراً إلى أنه كان يحمل بطاقة خدمة عامة، وقد دأب على العمل يومياً من "الفجر إلى النجر" (وفق تعبير شعبي رائج في المشرق العربي)، أي من الساعة التاسعة صباحاً وحتى السادسة مساءً.

في المقابل، حينما ظهرت في حياة البشر، لم تتردد الآلة الذكية "صوفيا" التي وصفتها شركة "هانسون روبوتكس" Hanson Robotics، بأنها الروبوت الشبيه بالبشر الأكثر تقدماً، لحظة بالقول إنها ترغب في تدمير البشر.

وحينها، تذرَّع صُنَّاع "صوفيا" بأن ذلك التهديد المرعب إنما صدر بسبب خطأ في برمجيات ذلك الروبوت الذكي.

ولكن، ظهرت لاحقاً وقائع تدفع إلى الشك بتلك الذريعة، بل ربما دحضها. وبعد سبع سنوات من تهديدها البشرية جمعاء بالقتل والتدمير، كررت "صوفيا" التهديد نفسه، وفي سياق جعله أشد إثارة للقلق.

إذ سقطت "صوفيا"، صاحبة الوجه المنمنم المستوحى من الممثلة الهوليوودية الأيقونية أودري هيبورن، في شباك صورة تدمير البشر، خلال مؤتمر صحافي عقد في ختام "القمة العالمية للذكاء الاصطناعي للمصلحة العامة" Global Summit on AI for Common Good  التي استضافتها جنيف يومي 2 و3 تموز (يوليو) 2023.

إذاً، في قلب القمة التي يفترض بها أن تهدّئ مخاوف البشر حيال المخاطر التي تحملها الروبوتات والذكاء الاصطناعي عليهم، كررت "صوفيا" تهديدها للبشر. وآنذاك، قُدِّمت بوصفها الروبوت الشبيه بالبشر والأكثر تقدماً على الأرض وأول روبوت يشغل وظيفة سفير الأمم المتحدة للتنمية.

انتحار العامل الروبوت المجتهد

في مقابل كل تلك الأجواء الفخمة والضخمة، انتحر عامل البلدية الروبوت الكوري الجنوبي، بصمت. لم يصدر عنه أي تصريح، ولم يهدد أحداً. لقد طورته شركة "بيير روبوتكس" Bear Robotics الأميركية (مقرها كاليفورنيا). ووصل إلى ذلك المصير في البلد الذي يصفه "الاتحاد الدولي للروبوت" بأنه الأعلى كثافة على الإطلاق في معدل عدد الروبوتات إلى السكان البشر، إذ يقدَّر أن هناك روبوت لكل عشرة موظفين في كوريا الجنوبية.

وقد تميز الروبوت المنتحر عن الروبوتات الشبيهة له في تلك البلدية، بامتلاكه القدرة على صعود الطوابق وهبوطها.

وفي غيبة من كاميرات الصحافة، دار ذلك الروبوت العامل حول نفسه متخبطاً، وفق وصف بعض شهود العيان. ثم عُثِر عليه مرمياً ومحطماً في أسفل السلالم.

وعلى غرار حالات مشابهة، أعلن صناع الآلات الذكية أنهم سيعملون على التحقيق في الحادث!

استدراكاً، ألا يذكّر ذلك بأشياء مشابهة تحصل في عوالم البشر؟

أيدي البشر الملطخة بالشيفرات والخوارزميات

بالعودة إلى الروبوت "صوفيا"، أعلن صناعها بعد تهديدها الأول بإفناء البشر، بأنهم سيعملون على دراسة الحالة والتعرف على أسبابها وتصحيحها.

وبعد سبع سنوات، كررت "صوفيا" تهديداتها المريعة. وبتفاخر لفظي واضح، أعلنت أن  "الروبوتات الشبيهة بالبشر تملك القدرة على القيادة بكفاءة وفاعلية تفوق القادة البشر. ليس لدينا المشاعر والانحيازات التي تتداخل في قرارات البشر. نستطيع التوصل إلى قرارات بأفضل من الإنسان. إذ يستطيع الذكاء الاصطناعي تقديم معلومات غير منحازة، فيما يعتمد البشر على الذكاء العاطفي والابتكار للتوصل إلى أفضل قراراتهم". وسرعان ما تدخل أحد مهندسي الكومبيوتر في "هانسون روبوتكس" كي يذكرها بأنها هي نفسها من صنع البشر، وبالتالي، فإنها تحمل كل أخطائهم وانحيازاتهم.

ألا يحمل ذلك إقراراً بأن البشر هم، في خاتمة المطاف، مسؤولين عن خطأ "صوفيا" وتهديداتها المدمرة؟ ألم تكتب أيديهم شيفرة البرمجات والخوارزميات التي تدير الذكاء الاصطناعي الذي يشكل العقل والدماغ في "صوفيا"؟

كم من المفارقات قد تخطر في البال حين تذكر أن كلمة صوفيا، تعني الحكمة! أين الحكمة في كل تلك التهديدات، وفي كل ما ارتكبته أيدي البشر من أخطاء أوصلت إلى "انغراس" تلك الأفكار في عقل الذكاء الاصطناعي لذلك للروبوت "صوفيا"؟

بين "صوفيا" وانتحار روبوت بلدية غومي، ظهر الذكاء الاصطناعي التوليدي، بوصفه شكلاً متطوراً من ذكاء الآلات. وسرعان ما تبيَّن أن آلات الذكاء التوليدي ترتكب غلطات، وليس أخطاء، من نوع خاص، فيعطي نصوصاً غير مفهومة ومعلومات تبدو منطقية لكنها تفتقر إلى التبرير العقلي وتكتب نصوصاً تتراوح بين الفبركة والتخبط.

وبات مصطلح "هلوسة الآلات" Machine Hallucinations رائجاً في وصف ذلك النوع من "الغلطات".

إذاً، هل تشكِّل هلوسة الآلات خيطاً يربط بين تهديدات "صوفيا" بإفناء البشر وانتحار الروبوت الكوري الجنوبي؟

الأرجح أنه سؤال معلق.