إذا كانت ChatGPT وغيرها من الذكاءات الاصطناعية التوليدية قادرة على إنتاج مقالات علمية تبدو حقيقية - خاصة لشخص ليس في مجال البحث هذا - فما هي أفضل طريقة لمعرفة أي منها مزيف؟
طور أحمد عابدين حامد، باحث زائر في جامعة بينغهامتون، جامعة ولاية نيويورك، خوارزمية تعلم آلي، أطلق عليها اسم xFakeSci، يمكنها اكتشاف ما يصل إلى 94٪ من المقالات المزيفة - وهو نجاح يقارب ضعف نجاح تقنيات التنقيب عن البيانات الشائعة.
"مجال بحثي الرئيسي هو المعلوماتية الطبية الحيوية، ولكن نظرًا لأنني أعمل مع المنشورات الطبية والدراسات السريرية والموارد عبر الإنترنت وتحليل وسائل التواصل الاجتماعي، فأنا دائم القلق بشأن أصالة المعرفة التي ينشرها أي شخص"، قال حامد، الذي ينتمي إلى مختبر الأنظمة التكيفية المعقدة والذكاء الحسابي التابع لويس إم. روكا، أستاذ جورج جيه. كلير في علوم الأنظمة. "خاصة المقالات الطبية الحيوية تأثرت بشدة خلال الوباء العالمي بسبب نشر بعض الأشخاص لنتائج بحثية خاطئة."
في ورقة بحثية جديدة نُشرت في مجلة Scientific Reports، قام حامد وزميله شين دونغ وو، أستاذ في جامعة خفي للتكنولوجيا في الصين، بإنشاء 50 مقالة مزيفة لكل منهما حول ثلاثة مواضيع طبية شائعة - الزهايمر والسرطان والاكتئاب - وقارنوها بنفس العدد من المقالات الحقيقية حول نفس المواضيع.
عندما طلب من ChatGPT المقالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، قال حامد: "حاولت استخدام نفس الكلمات المفتاحية التي استخدمتها لاستخراج الأدبيات من قاعدة بيانات PubMed التابعة لـ [المعاهد الوطنية للصحة] حتى يكون لدينا أساس مشترك للمقارنة. كانت حدسي هو أنه يجب أن يكون هناك نمط يحدث في العالم المزيف مقارنة بالعالم الحقيقي، لكن لم يكن لدي أي فكرة عن ماهية هذا النمط."
بعد بعض التجارب، قام ببرمجة xFakeSci لتحليل سمتين رئيسيتين للنص. إحداهما هي عدد الـ "bigrams"، أي كلمتين تظهران معًا بشكل متكرر، مثل "تغير المناخ" أو "الدراسات السريرية" أو "الأدبيات الطبية الحيوية". والثانية هي كيف ترتبط هذه الـ "bigrams" بالكلمات والمفاهيم الأخرى في النص.
"أول شيء لاحظته هو أن عدد الـ "bigrams" كان منخفضًا جدًا في العالم المزيف، ولكن في العالم الحقيقي، كانت الـ "bigrams" أكثر ثراءً"، قال حامد. "بالإضافة إلى ذلك، على الرغم من قلة الـ "bigrams" في العالم المزيف، إلا أنها كانت مرتبطة ارتباطًا وثيقًا بكل شيء آخر."
يفترض حامد وو يانغ أن أساليب الكتابة تختلف لأن الباحثين البشريين لا يتابعون نفس الأهداف التي تتبعها الذكاءات الاصطناعية التي يُطلب منها المساهمة في موضوع معين.
«نظرًا لأن ChatGPT لديه معرفة محدودة، فإنه يحاول إقناعك بالكلمات الرئيسية»، كما يقول حامد. «ليس من وظيفة العالم أن يقدم لك حجة مقنعة. إن ورقة البحث الحقيقية تصف بصدق ما حدث في تجربة وما هي الطريقة المستخدمة. بالنسبة لـ ChatGPT، فإن الأمر يتعلق بعمق نقطة واحدة، بينما يتعلق العلم الحقيقي بالاتساع».
لتطوير xFakeSci بشكل أكبر، يخطط حامد لتوسيع نطاق الموضوعات لمعرفة ما إذا كانت أنماط الكلمات الخادعة تنطبق أيضًا على مجالات بحث أخرى، بما في ذلك الهندسة والموضوعات العلمية الأخرى والعلوم الإنسانية، بالإضافة إلى الطب. وهو يتوقع أيضًا أن الذكاء الاصطناعي سيصبح أكثر تطوراً، مما يجعل من الصعب بشكل متزايد تحديد ما هو حقيقي وما هو غير ذلك.
«سنضطر دائمًا إلى اللحاق بالركب ما لم نطور شيئًا شاملاً»، كما قال. «لا يزال أمامنا الكثير من العمل للبحث عن نمط عام أو خوارزمية عالمية لا تعتمد على إصدار الذكاء الاصطناعي التوليدي المستخدم.»
لأنه حتى لو كان خوارزميته تلتقط 94٪ من الأوراق التي تم إنشاؤها بواسطة الذكاء الاصطناعي، فهذا يعني أن ستة من كل 100 تزوير لا تزال تمر: «علينا أن نكون متواضعين بشأن ما حققناه. لقد فعلنا شيئًا مهمًا جدًا من خلال زيادة الوعي».
معرف الكائن الرقمي
