النهار

في عصر تتسارع فيه وتيرة التطور التكنولوجي، يبرز جيل جديد من الشباب العربي، من خريجي كليات الكومبيوتر والمعاهد التقنية، الذين يتعاملون بحكم عملهم وحياتهم اليومية مع التشفير والبرمجة. هؤلاء الشباب، الذين يعملون في شركات ناشئة ومؤسسات رقمية ومعلوماتية، يواجهون اليوم تحدّيات جديدة تتمثل في الأدوات الذكية التي تعتمد على الذكاء الاصطناعي التوليدي Generative Artificial Intelligence.

في ذلك الصدد، يقدّم تايلور أرمردينغ، المدافع عن أمن البيانات في مجموعة "ساينوبسايس" Synopsys لنزاهة البرمجيات، نصيحة ذهبية في دراسته المنشورة بتاريخ 22 نيسان (أبريل) 2024. "لا تخافوا من كود Code الذكاء التوليدي، ولكن لا تثقوا به حتى تختبروه". 

يُعتبر هذا النهج منطقيًا. إذ تُستخدم الأدوات الذكيّة للمهام البرمجية الروتينية والمتكررة، لكن يجب ترك الأجزاء المعقّدة والخاصة من التطبيقات للبشر.

تفاصيل الدراسة 

يُشبه الأمر مقولة "أنت ما تأكل" التي تنطبق بشكل مجازي على البشر، لكنها تنطبق حرفيًا على النماذج اللغوية الكبيرة التي تُشغّل أدوات الذكاء التوليدي. ويعني ذلك أنه إذا كانت مجموعات البيانات الضخمة التي تُغذى بها هذه النماذج ملوثة بالتحيز، الأخطاء، الدعاية، وغيرها من الشوائب، فهذا ما ستُعيده هذه الأدوات. وإذا كانت مجموعات البيانات دقيقة وغير مُسيّسة، فمن المرجّح أن تحصل على نتائج مفيدة وموثوقة.

وبالتالي، يتوجب على الذين يستخدمون أدوات الذكاء التوليدي بشكل متزايد في كتابة شيفرة/ كود البرامج، أن يضعوا ذلك في اعتبارهم. نعم، تقدّم هذه الأدوات عدداً من الفوائد الجذابة لتطوير البرمجيات. إنها سريعة للغاية، ولا تحتاج إلى النوم، استراحات القهوة، أو العطلات، لا تطلب راتبًا أو مزايا، ولا تحاول تكوين نقابات.

لذلك، هناك إقبال على استخدامها. إن الشيفرة التي يكتبها الذكاء التوليدي الذي شاع استخدامه أخيراً، باتت تشكّل الآن المكون الرابع الرئيسي للبرمجيات. ويتمثل الثلاثة الآخرون، الذين كانوا موجودين طيلة عقود، بالشيفرة التي يكتبها الأشخاص بأنفسهم (وتكون ملكية لهم)، والشيفرة التي تُشترى من جهات تصنعها (التجاري)، والشيفرة المكتوبة بالبرمجيات المفتوحة المصدر Open Source Systems. 

لكن، لا تتمتع تلك الأساليب كلها بالكامل، لأنها من صنع البشر الناقصين، بعد كل شيء. لذا، فإن الشيفرة التي يُنشئها الذكاء التوليدي استناداً إلى كودات موجودة بالفعل، لا تكون مثالية أيضاً. وقد وصف عديد من خبراء البرمجيات أدوات الذكاء التوليدي بأنها تمتلك قدرات مطور شيفرة مبتدئ يستطيع كتابة كود يتعلق بخدمة معينة، لكنه يحتاج إلى كثير من الإشراف والرقابة، وبالتالي يجب اختباره بدقة للكشف عن الثغرات الأمنية والنواقص الاخرى.

توثّق دراسات مثل تقرير "تحليل أمان ومخاطر البرمجيات المفتوحة المصدر" السنوي الذي يصدره "مركز أبحاث الأمن السيبراني" في "ساينوبسا "ساينوبسايس"، ذلك الملمح. ومن بين 1703 قواعد شيفرة كتبها الذكاء التوليدي وتفحَّصها ذلك التقرير. وجاء في النتائج،   

• 96 %  تحتوي على شيفرة من أنظمة مفتوحة المصدر.

•  84 %  تحتوي على ثغرة واحدة على الأقل.

• 48 %  تحتوي على ثغرة عالية الخطورة واحدة على الأقل.

• 54 %  كانت تحتوي على تعارضات تتعلق بالتراخيص.

• 31 %  تحتوي على شيفرة من أنظمة مفتوحة المصدر من دون ترخيص.

• 89 %  تحتوي على شيفرة من أنظمة مفتوحة المصدر أقدم من أربع سنوات.

• 91 %  تحتوي على شيفرة لم تُحَدَّثْ منذ عامين أو أكثر.

وفي المقابل، توقّع تقرير عن مسألة كتابة الشيفرات صادر من شركة "غارتنر" Gartner المتخصصة في تحليل أسواق المعلوماتية، تزايد الاعتماد على الذكاء التوليدي، وقدَّم بعض التحذيرات حيال ذلك.

وقد فنّد التقرير بقوة فكرة أن الذكاء التوليدي سيلغي الحاجة إلى اختبار الشيفرات، مشيرًا إلى ضرورة إنفاق مزيد من الموارد المخصّصة للأمن السيبراني على أمان التطبيقات والبيانات.

وتبدو التوصية منطقية في ضوء سرعة عمل أدوات الذكاء التوليدي. ولكن، تلك التكنولوجيا عرضة للخطأ لأسباب تشمل أن البيانات التي تستند إليها تتضمن الكثير من الأخطاء أصلاً، ما يوجب اختبارها باستمرار.

وكذلك من المستطاع "تسميم" أدوات الذكاء التوليدي عبر قراصنة كومبيوتر يضخون عينات من الشيفرات المغلوطة والخبيثة كي تصل إلى البيانات التدريبية التي يتغذى عليها الذكاء التوليدي.  

وبالتالي، يشكّل الاختبار أمراً بالغ الأهمية. ويجدر الالتزام بالطرق التقليدية المتَّبَعَة في اختبار الشيفرات، وتطبيقها على ما يُكتَبَ منها بالذكاء التوليدي.  

ويشمل ذلك معرفة الطرف الذي يصنع تلك الشيفرة، وهل تتوفر صيانة له (ومن قِبَل مَنْ)، والمكونات البرمجية الأخرى المستعملة في كل خطوات عملية صنع الشيفرة، والأحكام المتضمنة في تراخيص استخدام البيانات وغيرها. وبديهي القول بأن الاختبار يزيد في تكلفة صنع الشيفرات.

لا ثقة قبل التحقّق

في نسخة من شعار الرئيس ريغان "ثق ولكن تحقق"، يمكن رفع شعار "لا تثق حتى تتحقق" بالنسبة إلى كتابة الشيفرات بالذكاء التوليدي. هذا تحذير مهم للمبرمجين، الذين قد يحصلون على إحساس زائف بالأمان يأتي من ركونهم الزائد على التكنولوجيا، وفق ما أظهرته بالفعل دراسات متخصصة عدة.

وكخلاصة، لا تخافوا من الذكاء التوليدي، ولكن لا تكونوا عميانًا بشأن حدود قدراته أو مخاطره. استخدموه في كتابة الشيفرة المخصصة للمهام البرمجية الروتينية والمتكررة، ولكن اتركوا للبشر أمر الأجزاء المعقّدة والخاصة من الشيفرة التي تتوخون صنعها، بل اختبروها بنفس الدقة التي يحتاجها أي كود برمجي آخر.

تذكّروا، إن الذكاء التوليدي بحدّ ذاته يأتي من شيفرات اخرى.