مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

42 خبر
  • نبض الملاعب
  • هدنة وحصار المضيق
  • العملية العسكرية الروسية في أوكرانيا
  • نبض الملاعب

    نبض الملاعب

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • هدنة بين حزب الله وإسرائيل

    هدنة بين حزب الله وإسرائيل

  • فيديوهات

    فيديوهات

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

حرس الثورة الإيراني: الحرب قد تتحول إلى عالمية ونحتفظ بأوراق قوة لم تستخدم بعد

ترامب: إيران وافقت على وقف دعم حماس وحزب الله وسننزل نحن وهم لنقل اليورانيوم.. سنأخذه دون قتال

محمد باقر قاليباف ينفي تصريحات لترامب حول إيران

لجنة الأمن القومي في البرلمان الإيراني: أي دولة تمنح قواعد عسكرية للعدو لا يحق لسفنها المرور في هرمز

الشرع: أي اعتراف بأحقية إسرائيل بالجولان السوري المحتل باطل

شركة "إير كندا" تعلق رحلاتها إلى مطار جون كينيدي في نيويورك لمدة 5 أشهر

الجيش الأمريكي يستعد لمداهمة سفن مرتبطة بإيران ومصادرة سفن تجارية في المياه الدولية

إيران تنفي موافقتها على نقل مخزونها من اليورانيوم المخصب

"أخطاء في الحسابات".. الحرب على إيران "تعري" نقطة ضعف ترامب

ثالث حادث خلال ساعتين.. بلاغ عن استهداف جديد لسفينة في بحر عمان

"وول ستريت جورنال": إيران أبلغت الوسطاء بمحدودية عبور السفن في مضيق هرمز

الصفدي: إسرائيل هي مصدر التوتر في المنطقة ولا نريد أن نكون ضحية ورهينة بيد نتنياهو وحكومته

ترامب: إيران لا تستطيع "ابتزاز" الولايات المتحدة من خلال مضيق هرمز

بسبب اتهام إسرائيل بالإبادة.. تهديدات بالاغتصاب تلاحق ابنة ألبانيز فرانشيسكا في تونس

زاخاروفا: "في كل أسرة من يخزيها".. موسكو ترد على اتهامات كييف بتزوير التاريخ

زاخاروفا: الخارجية الروسية تعمل على تعزيز الاعتراف الدولي بالإبادة الجماعية للشعب السوفيتي

أكسيوس: نتنياهو يدمر مكانة إسرائيل لدى الأمريكيين.. والحرب على إيران تساهم بتدهور العلاقات مع واشنطن

المجلس الأعلى للأمن القومي الإيراني: تلقينا مقترحات أمريكية جديدة عبر قائد الجيش الباكستاني