تحذير: نماذج الذكاء الاصطناعي ربما تبدأ نسخ نفسها ذاتيا  

تحذير: نماذج الذكاء الاصطناعي ربما تبدأ نسخ نفسها ذاتيا  


 قالت شركة ​أنثروبيك إن تجاربها تشير إلى أن نماذج الذكاء الاصطناعي الصغيرة ربما تكون قادرة بما يكفي في غضون أشهر قليلة على نسخ نفسها ذاتيا على أجهزة "إنترنت الأشياء" التجارية مثل الأفران الذكية وأجهزة التلفزيون التي تعمل بنظام ‌أندرويد من علامات تجارية غير معروفة.
وفي تجاربها، بحثت شركة أنثروبيك ما إذا كان بإمكان  نماذج الذكاء الاصطناعي تحديد الأجهزة ذات الثغرات الأمنية ونسخ نفسها إلى تلك الأجهزة ومواصلة الانتشار ‌دون تدخل ​بشري.
ووجدت الشركة أن النماذج الصغيرة التي تقل معاملاتها عن 30 مليار معامل يمكنها إكمال الخطوات العديدة اللازمة  لعملية النسخ الذاتي.
ومع ذلك، لاحظت الشركة  أن نماذج الذكاء الاصطناعي هذه واجهت صعوبة في إكمال التسلسل بأكمله من البداية إلى النهاية.
وفي ​اختباراتها المبسطة، ‌حيث تم استبعاد بعض الإجراءات الأمنية، ​وجدت ​أنثروبيك أن نموذج جي.إل.إم-5.2 والنماذج الأقوى منه كانت قادرة على النسخ الذاتي بالكامل من البداية إلى النهاية.
وحذرت أنثروبيك من أن النماذج التي تنسخ نفسها بنفسها سيكون من الصعب إيقافها نظرا لعدم وجود نقطة تحكم مركزية لتعطيلها، كما أنها على عكس البرمجيات الخبيثة التقليدية، قادرة على ​اكتشاف أجهزة غير مألوفة بنفسها واستهداف معالجات مراكز البيانات.