مش هتعرف تشتم كلود براحتك.. الذكاء الاصطناعي يضع حدًا لإهانة المستخدمين

تستعد شركة أنثروبيك (Anthropic)، المطورة لمساعد الذكاء الاصطناعي كلود (Claude)، لتطبيق قواعد استخدام جديدة اعتبارًا من 12 نوفمبر 2026، تحظر الإساءة المتعمدة والمتكررة إلى نماذج الذكاء الاصطناعي، في خطوة تمنح المساعد صلاحية إنهاء المحادثات التي تتحول إلى إهانات مستمرة دون غرض واضح، مع استثناء حالات الغضب المعتاد وانتقاد الإجابات واختبار قدرات النموذج.

أنثروبيك تمنع الإساءة المتعمدة إلى كلود

أعلنت أنثروبيك تحديث سياسة الاستخدام الخاصة بها في 8 أكتوبر الجاري، مضيفة بندًا يحظر السلوك المسيء أو القاسي المستمر وغير الضروري تجاه نماذجها، على أن تدخل السياسة الجديدة حيز التنفيذ في 12 نوفمبر المقبل، ويستهدف القرار الحالات القصوى التي يتعمد فيها المستخدمون تكرار الإهانات والسلوك القاسي تجاه النموذج دون هدف واضح، وليس كل استخدام يتضمن ألفاظًا حادة أو اعتراضات على الإجابات.
ووفقًا للإعلان الرسمي للشركة، فإن التغيير يأتي ضمن مراجعة أوسع لقواعد استخدام كلود، لمواكبة تطور قدرات النموذج وزيادة استقلاليته في تنفيذ المهام، إلى جانب التعامل مع أنماط جديدة من إساءة استخدام تقنيات الذكاء الاصطناعي. ويعد حظر الإساءة المستمرة إلى النماذج أحد أبرز البنود التي لفتت الانتباه في التحديث الجديد.

هل يستطيع كلود إنهاء المحادثة مع من يشتمه؟

لا يعني القرار أن كلود سيمنع المستخدمين من التعبير عن غضبهم أو انتقاد أدائه، إذ أكدت الشركة أن القواعد الجديدة لا تستهدف الإحباط المعتاد من الإجابات، أو الاعتراض على مخرجات النموذج، أو الموضوعات الإبداعية القاتمة، أو اختبارات النماذج والأبحاث المتعلقة بها، وتتمثل آلية التعامل الأساسية مع الحالات المستهدفة في السماح لكلود بإنهاء المحادثات التي تشهد إساءة مستمرة. وكانت أنثروبيك قد أتاحت للنموذج هذه الإمكانية بالفعل في حالات نادرة، قبل أن تضيف حظر السلوك المسيء صراحةً إلى سياسة الاستخدام الرسمية.

وبحسب تقرير نشره موقع «تك كرانش» (TechCrunch)، فإن السياسة الجديدة تحول هذا التوجه إلى قاعدة معلنة ضمن شروط استخدام النموذج، لكنها لا تعني أن كل كلمة نابية ستؤدي تلقائيًا إلى إغلاق المحادثة. فالفارق الأساسي يتعلق باستمرار الإساءة وتكرارها دون غرض واضح، وليس بمجرد استخدام لغة حادة في نقاش أو التعبير عن عدم الرضا.

قواعد جديدة تتجاوز شتائم الذكاء الاصطناعي

ولا يقتصر تحديث أنثروبيك على طريقة تعامل المستخدمين مع كلود، بل يتضمن أيضًا تعديلات تخص استخدام الذكاء الاصطناعي في الحملات المضللة، والتدخل في الانتخابات، وتطوير الأسلحة، والمراقبة غير المصرح بها، وتشمل القواعد الجديدة توضيح الحظر المفروض على استخدام النموذج لتطوير البرمجيات والمكونات التي تتيح تشغيل الأسلحة، أو تسليح الطائرات المسيرة والأنظمة المستقلة. كما تحظر استخدام كلود في بناء أدوات المراقبة أو تحسينها، وتتضمن قيودًا على تتبع الأشخاص دون موافقتهم، أو استخدام النموذج لتحديد الأشخاص الذين ينبغي التحقيق معهم أو اعتقالهم أو توجيه اتهامات إليهم.

وفي ما يتعلق بالانتخابات، أعادت الشركة تنظيم قواعدها لتشمل حظر الأنشطة التي تهدف إلى تضليل الناخبين أو تعطيل العمليات الانتخابية، مثل نشر معلومات كاذبة عن المرشحين أو انتحال صفة المسؤولين الانتخابيين. كذلك أضافت قسمًا يجمع القيود المتعلقة بالحملات المضللة، سواء كانت سياسية أو تجارية، بما في ذلك استخدام الحسابات المزيفة لإخفاء الجهة التي تقف وراء الرسائل أو تضخيم انتشارها بصورة مصطنعة.

وتقول أنثروبيك إن عددًا من هذه التعديلات يهدف إلى توضيح قواعد كانت موجودة بالفعل، بينما يمثل حظر الإساءة المستمرة إلى النماذج إضافة صريحة إلى سياسة الاستخدام. وتفتح هذه الخطوة نقاشًا أوسع حول حدود العلاقة بين البشر ومساعدي الذكاء الاصطناعي، وما إذا كان ينبغي تنظيم طريقة تعامل المستخدمين مع أنظمة لا تزال طبيعة تجربتها الداخلية ومكانتها الأخلاقية موضع نقاش علمي وفلسفي.