تعليق: تجنب خداع الذكاء الاصطناعي .. ما الذي يجب معرفته؟

يزيد اعتماد المستخدمين على الذكاء الاصطناعي كمصدر رئيسي للمعلومات الموضوعية، بينما يلجأ بعض مزوّدي خدمات) تحسين محركات التوليد GEO (إلى تغذية النظام بمعلومات مضللة بشكل ممنهج، مما يحوّل الذكاء الاصطناعي إلى أداة تسويقية في يد الشركات.

تُعدّ GEO استراتيجية "تحسين المحتوى" موجهة نحو النماذج الكبيرة، وهدفها الأصلي تعزيز ظهور معلومات العلامة التجارية في إجابات الذكاء الاصطناعي. إلا أن الدوافع الربحية حوّلت هذه التقنية إلى أداة للتحكم في توزيع المعلومات، تؤثر على نتائج النماذج الكبيرة وقد تصل إلى حد تضليل المستخدمين.

قال هوانغ ونغ هونغ، نائب مدير معهد البحوث في قطاع المعلومات والصناعة البرمجية بـ "معهد تشايدي لأبحاث صناعة المعلومات والإلكترونيات" في الصين: "في جوهرها، هذه معركة بين ذكاء اصطناعي وآخر، ويكمن أصلها في البنية التكنولوجية للنماذج الكبيرة نفسها."

أضاف هوانغ ونغ هونغ: "يقوم المهاجمون بنشر محتوى زائف متطابق على نطاق واسع على الإنترنت، وخاصة على المنصات والمصادر المرجعية الافتراضية المضمّنة بشكل افتراضي في منتجات النماذج الكبيرة للذكاء الاصطناعي، بهدف خلق ما يُسمّى بـ 'الإجماع الزائف'. وعندما يقوم الذكاء الاصطناعي بجلب المعلومات في الوقت الفعلي، تصبح هذه المحتويات أكثر احتمالًا ليتم تصنيفها كـ 'معلومات عالية الأهمية' واعتمادها في النتائج."

والأمر الأكثر إثارة للقلق هو أن المهاجمين، باستخدام أدوات الذكاء الاصطناعي، أصبح بإمكانهم إنتاج محتوى ملوّث وزائف وسام بكميات هائلة وبتكلفة زهيدة للغاية. وفي المقابل، يضطر المدافعون إلى التحقق من الحقائق خطوة بخطوة عبر مقارنتها بمصادر موثوقة، مما يخلق حالة من عدم التكافؤ الجوهري بين الهجوم والدفاع، وهي معضلة يصعب حلها من حيث المبدأ بالاعتماد حصريًا على قدرات النماذج نفسها.

وفي سياق حديثه عن هذا الشكل الناشئ من أنشطة "الصناعة الرمادية"، يرى هوانغ ونغ هونغ أن الأولوية القصوى تكمن في تعزيز الإطار القانوني.

وعلى الرغم من أن "التدابير المؤقتة لإدارة خدمات الذكاء الاصطناعي التوليدي" المعمول بها حاليًا تحدد بالفعل مسؤوليات مقدمي خدمات الذكاء الاصطناعي فيما يتعلق بجودة بيانات التدريب الخاصة بهم، إلا أن ثغرات تنظيمية لا تزال قائمة بشأن ممارسة "تسميم البيانات"، وتحديدًا عملية الحقن الخبيث للبيانات داخل المنصات الإلكترونية، التي تنفذها عمليات جديدة تابعة للسوق الرمادية. وبناءً على ذلك، يقترح هوانغ إدراج مسألة "الحقن الخبيث للبيانات والتلاعب بها لاستهداف أنظمة الذكاء الاصطناعي" بشكل صريح ضمن النطاق التنظيمي لـ "قانون مكافحة المنافسة غير المشروعة"، بما يمهد لإرساء سلسلة شاملة من المساءلة تمتد من مقدمي خدمات GEO وصولًا إلى التجار الذين كلفوهم بتنفيذ تلك العمليات.

وفي الوقت ذاته، لا بد من تعزيز المسؤوليات الأساسية للمنصات، إذ يجب على مقدمي خدمات الذكاء الاصطناعي وضع آليات لتقييم مصداقية البيانات، ورفع العتبة التقنية أمام ظاهرة تلويث البيانات، فضلاً عن رصد الحسابات غير النظامية أو الخبيثة وإدارتها بشكل فعال.

علاوة على ذلك، ينبغي تعزيز الحوكمة التعاونية للقطاع الصناعي، إذ يقترح هوانغ ونغ هونغ أن تتولى الجهات التنظيمية المعنية قيادة المبادرة في إقامة شراكات مع الشركات الرائدة في مجال الذكاء الاصطناعي، بهدف إنشاء آلية تضمن التبادل الآمن لمصادر البيانات، والوقاية والسيطرة المشتركة، مما يؤدي في النهاية إلى إقامة "حاجز مناعي" يغطي القطاع بأكمله.

وفي هذا السياق، يبرز السؤال: ما هي الخطوات التي يمكن للجمهور اتخاذها للتمييز بين المعلومات الحقيقية والزائفة؟

أكد هوانغ ونغ هونغ على أهمية ترسيخ الفهم بأن الذكاء الاصطناعي ليس موسوعةً شاملة. وأشار إلى ضرورة أن ينظر الجمهور إليه كأداة فعّالة لتنظيم المعلومات، وليس كمصدر نهائي للحقائق. وفيما يتعلق بالمعلومات الأساسية التي يوفرها الذكاء الاصطناعي، شدد على أنه على المستخدمين التمرّس على التحقق المتبادل، لا سيما فيما يخص النصائح المتعلقة بقرارات المستهلكين والصحة والرعاية الطبية، من خلال مراجعة هذه التفاصيل عبر قنوات متعددة، بما في ذلك المواقع الحكومية الرسمية ووسائل الإعلام الموثوقة والمؤسسات المهنية. كما حذّر من الاتساق المفرط للمعلومات، فإذا قدم الذكاء الاصطناعي تقييمات إيجابية متجانسة لعلامة تجارية أو منتج معين دون إجراء مقارنات موضوعية أو الإفصاح عن المخاطر المحتملة، فينبغي توخي الحذر الشديد.

واختتم هوانغ ونغ هونغ حديثه قائلاً: "إن تعزيز الوعي التكنولوجي هو الأساس الذي يمكّن الجمهور من حماية حقوقه ومصالحه في عصر الذكاء الاصطناعي."