أعلنت شركة Anthropic، وهي شركة رائدة في تطوير الذكاء الاصطناعي، عن تحديث سياسات الاستخدام الخاصة بروبوت الدردشة الخاص بها Claude استجابةً للمخاوف الأمنية المتزايدة. تهدف القواعد الجديدة، التي تدخل حيز التنفيذ في 15 سبتمبر 2025، إلى تقليل المخاطر المحتملة لنماذج الذكاء الاصطناعي المتقدمة، لا سيما فيما يتعلق بتطوير الأسلحة الخطرة والتهديدات السيبرانية. في الوقت نفسه، تخفف Anthropic بعض القيود المفروضة على المحتوى السياسي لتعزيز فرص الاستخدام المشروعة.
توسع السياسة المعدلة الحظر السابق الذي منع استخدام Claude في تصنيع أو تعديل أو تسويق أو توزيع الأسلحة والمواد الخطرة. الجديد هو الإشارة الصريحة إلى المتفجرات عالية القوة، بالإضافة إلى الأسلحة البيولوجية والكيميائية والإشعاعية والنووية (CBRN) كتطبيقات محظورة. يعكس هذا التغيير القلق المتزايد بشأن خطر إساءة استخدام الذكاء الاصطناعي المحتمل في المجالات الحساسة.
في مايو 2025، قدمت Anthropic بالفعل تدابير الحماية "لمستوى سلامة الذكاء الاصطناعي 3" (ASL-3) مع إصدار Claude Opus 4. وتشمل هذه التدابير احتياطات أمنية معززة لجعل ما يسمى بـ "الهروب من السجن" - أي التحايل على القيود الأمنية - أكثر صعوبة ومنع المساعدة في تطوير أسلحة CBRN. تم تقديم هذه التدابير كإجراء احترازي، حيث لم يتضح بعد ما إذا كان Claude Opus 4 قد وصل إلى عتبة القدرة لـ ASL-3.
ينصب التركيز الرئيسي الآخر للسياسة المحدثة على الاستجابة لمخاطر أدوات الذكاء الاصطناعي "الوكيلة" مثل "استخدام الكمبيوتر"، الذي يسمح لـ Claude بالتحكم في كمبيوتر المستخدم، و "Claude Code"، الذي يدمج Claude في بيئات التطوير. تحمل هذه الوظائف مخاطر مثل إنشاء برامج ضارة أو دعم الهجمات السيبرانية. لذلك، تتضمن السياسة الجديدة قسمًا خاصًا بها، "لا تعرض أنظمة الكمبيوتر أو الشبكة للخطر"، الذي يحظر أنشطة مثل استغلال الثغرات الأمنية، وإنشاء برامج ضارة، أو تطوير أدوات لهجمات الحرمان من الخدمة. ومع ذلك، تواصل Anthropic دعم التطبيقات الإيجابية، مثل اكتشاف الثغرات الأمنية بموافقة الأطراف المعنية.
بالتوازي مع ذلك، قامت Anthropic بتخفيف قواعد المحتوى السياسي. بدلاً من حظر شامل للمحتوى المتعلق بالحملات السياسية أو الضغط، تمنع السياسة الجديدة فقط الاستخدامات "الخادعة أو المعطلة للعمليات الديمقراطية"، مثل التلاعب المستهدف بالناخبين أو الحملات الانتخابية. بالإضافة إلى ذلك، تم توضيح أن متطلبات حالات الاستخدام "عالية المخاطر"، مثل التوصيات في السياقات القانونية أو المالية أو المهنية، تنطبق فقط على السيناريوهات الموجهة للمستهلكين، وليس على التطبيقات التجارية.
تعد التغييرات جزءًا من سياسة التوسع المسؤولة (RSP) الخاصة بشركة Anthropic، والتي تهدف إلى توسيع نطاق تدابير السلامة بما يتناسب مع المخاطر المحتملة لنماذج الذكاء الاصطناعي. تؤكد الشركة أن السياسة هي "وثيقة حية" يتم تكييفها مع تطور تقنية الذكاء الاصطناعي. من خلال التعاون مع خبراء خارجيين وصناع السياسات والمجتمع المدني، تسعى Anthropic إلى ضمان تواكب تدابير السلامة الخاصة بها مع المعايير العالمية.
تؤكد القواعد الجديدة على سعي Anthropic لتحقيق التوازن بين الابتكار والسلامة، في الوقت الذي تنمو فيه صناعة الذكاء الاصطناعي التوليدي بسرعة - مع منافسين مثل OpenAI وجوجل ومايكروسوفت. قد يكون التحديث بمثابة نموذج يحتذى به للشركات الأخرى التي تواجه تحديات مماثلة في مشهد الذكاء الاصطناعي سريع التطور.
