لقد أتاحت الذكاء الاصطناعي (AI) تقدمًا هائلاً في الطب في السنوات الأخيرة، ولكنه يحمل أيضًا مخاطر كبيرة يجب تقييمها بعناية. تتمثل إحدى المشكلات الرئيسية في أمن البيانات وحماية خصوصية المرضى. البيانات الطبية حساسة للغاية وقيمة، ولهذا السبب غالبًا ما تكون هدفًا للهجمات السيبرانية [1]. يؤدي التخزين والتحليل المركزي الواسع النطاق للبيانات الصحية بواسطة أنظمة الذكاء الاصطناعي إلى زيادة هذا الخطر [2].
تتمثل مخاطر خطيرة أخرى في التشخيصات الخاطئة المحتملة وأخطاء العلاج من قبل أنظمة الذكاء الاصطناعي. في حين أن نماذج الذكاء الاصطناعي الكبيرة المستندة إلى اللغة يمكنها إنشاء ردود احترافية ظاهريًا، إلا أنها قد تحتوي على أخطاء جسيمة، خاصة عندما يتعلق الأمر بالمسائل الطبية [3]. مثال ملموس على ذلك هو نظام ذكاء اصطناعي يصنف تغيرات الجلد على أنها غير ضارة عن طريق الخطأ، بينما قد يتعرف عليها طبيب الأمراض الجلدية على أنها سرطانية محتملة [2].
تحذر منظمة الصحة العالمية (WHO) أيضًا من خطر إساءة استخدام تقنية الذكاء الاصطناعي لنشر معلومات مضللة متخفية في شكل محتوى طبي موثوق [3]. يمكن أن يقوض ذلك الثقة في النظام الصحي ويؤدي إلى تشخيصات وعلاجات ذاتية خطيرة.
تتمثل مشكلة غالبًا ما يتم التقليل من شأنها في التعزيز المحتمل لعدم المساواة والتحيزات القائمة في الرعاية الصحية بواسطة الذكاء الاصطناعي. إذا تم تدريب أنظمة الذكاء الاصطناعي على بيانات متحيزة، فيمكنها تكرار هذه التحيزات وتضخيمها. على سبيل المثال، أظهرت دراسة أن المرضى الأمريكيين من أصل أفريقي يتلقون مسكنات ألم أقل في المتوسط من المرضى البيض. قد يستمر نظام ذكاء اصطناعي تم تدريبه على مثل هذه البيانات في هذه الممارسة التمييزية [5].
الاعتماد المتزايد على أنظمة الذكاء الاصطناعي يحمل أيضًا خطر فقدان الخبرة البشرية. يخشى بعض الخبراء أن يؤدي الاستخدام الواسع النطاق للذكاء الاصطناعي إلى فقدان العاملين الطبيين للمهارات والمعرفة بمرور الوقت، مما قد يضعف القدرة على اكتشاف وتصحيح أخطاء الذكاء الاصطناعي [5].
على الرغم من هذه المخاطر، من المهم عدم رفض الذكاء الاصطناعي بشكل استباقي. تؤكد منظمة الصحة العالمية أنه لا ينبغي استخدام الذكاء الاصطناعي في المجال الطبي إلا عندما تكون هناك بيانات موثوقة حول فائدة التكنولوجيا [4]. هناك حاجة إلى نهج متوازن يستفيد من الفوائد المحتملة للذكاء الاصطناعي في الطب، مع تنفيذ تدابير أمنية قوية وإرشادات أخلاقية في نفس الوقت.
لمواجهة هذه التحديات، هناك حاجة إلى جهود رقابة معززة من قبل أنظمة الرعاية الصحية والمستشفيات والجمعيات المهنية وشركات التأمين [5]. فقط من خلال الاستخدام المسؤول والمنظم جيدًا يمكن تحقيق الإمكانات الكاملة للذكاء الاصطناعي في الطب دون تعريض سلامة المرضى ورفاهيتهم للخطر.
المصادر:
[1] سلبيات الذكاء الاصطناعي وحلولها المحتملة في … https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9908503/
[2] الذكاء الاصطناعي في الطب: فرص كبيرة ومخاطر عالية – valmedi.de https://www.valmedi.de/blog/160-ki-in-der-medizin
[3] منظمة الصحة العالمية تحذر من مخاطر الذكاء الاصطناعي في مجال الرعاية الصحية | MDR.DE https://www.mdr.de/wissen/who-warnt-vor-ki-risiken-im-gesundheitsbereich100.html
[4] منظمة الصحة العالمية تحذر من مخاطر الذكاء الاصطناعي في مجال الرعاية الصحية https://www.pharmazeutische-zeitung.de/who-warnt-vor-ki-risiken-im-gesundheitsbereich-140200/
[5] مخاطر وعلاجات الذكاء الاصطناعي في الرعاية الصحية https://www.brookings.edu/articles/risks-and-remedies-for-artificial-intelligence-in-health-care/
