اعتبر التحسين الذاتي التكراري قد يؤدي إلى تحقق سيناريو كارثي

باحث سابق في أنثروبيك: هيمنة الشركات العملاقة على الذكاء الاصطناعي «جنون»

باحث سابق في أنثروبيك: هيمنة الشركات العملاقة على الذكاء الاصطناعي «جنون»

كوكسون تعهد بالتبرع بكامل قيمة أسهمه لمنظمات تُعنى بسلامة الذكاء الاصطناعي

اعتبر الباحث في مجال الذكاء الاصطناعي جايكوب كوكسون في حديث لفرانس برس أن من “الجنون” أن تتولى شركات عملاقة تسعى إلى الربح تطوير هذه التكنولوجيا ذات القدرات الهائلة.
وكان كوكسون أثار ضجة في أيلول-سبتمبر باستقالته من شركة “أنثروبيك” الرائدة في الذكاء الاصطناعي، متهما إياها بالمقامرة بأرواح البشر.
وقال البريطاني البالغ 27 عاما “اليوم يوم غريب جدا”، فيما سجلت الشركة التي كان يعمل فيها سابقا انطلاقة قياسية في البورصة.
وتحدث كوكسون أمام مقر أنثروبيك في سان فرانسيسكو، حيث طالب متظاهرون بحظر تطوير نماذج قادرة بنفسها على ابتكار أجيال جديدة من الذكاء الاصطناعي بصورة مستقلة، من خلال ما يُعرف في هذا القطاع بـ”التحسين الذاتي التكراري» «RSI».
وكان تطوير الذكاء الاصطناعي في السابق من اختصاص منظمات صغيرة غير ربحية ومؤسسات بحثية أكاديمية، لكن القطاع بات اليوم خاضعا لهيمنة شركات تبلغ قيمتها تريليونات الدولارات، مثل أنثروبيك ومنافستها “أوبن إيه آي” المطوّرة لبرنامج تشات جي بي تي.
وبلغت قيمة أنثروبيك 1,5 تريليون دولار عند طرح أسهمها للاكتتاب العام الأربعاء، وأنهت أول أيام تداولها في بورصة ناسداك بقيمة سوقية بلغت 1,3 تريليون دولار.
وبلغت قيمة أوبن إيه آي 1,25 تريليون دولار خلال جولة تمويل خاصة في وقت سابق هذا الشهر، بحسب تقارير.
وقال كوكسون “أعتقد أن هذا يرمز إلى مدى الجنون الذي بلغه الوضع، فمن الجنون حقا أن تكون الشركات الساعية إلى الربح هي التي تطور هذه التكنولوجيا».
وأمضى كوكسون، خريج جامعة كامبريدج، ثلاث سنوات يعمل على التدريب المسبق لنماذج الذكاء الاصطناعي، وهي المرحلة التي تستوعب خلالها كميات هائلة من البيانات، في شركة أوبن إيه آي، ثم بضعة أشهر في أنثروبيك.
وتصدّرت استقالته التي أعلنها عبر منصة إكس في الثامن من أيلول-سبتمبر عناوين الأخبار في أنحاء العالم. واتهم الشركتين بـ”التسابق مباشرة نحو ذكاء اصطناعي فائق قادر على تحسين نفسه».
وكتب حينها “يعتقد الأشخاص الذين يطورون الذكاء الاصطناعي بصدق أنه قد يقتلنا جميعا بحلول نهاية العقد الحالي».
ومن الناحية النظرية، قد يؤدي التحسين الذاتي التكراري إلى تحقق هذا السيناريو الكارثي.
وقال كوكسون لفرانس برس الخميس “قد ينتهي بنا المطاف باختزال عقود من أبحاث الذكاء الاصطناعي في بضعة أشهر، وإذا لم نفهم الذكاء الاصطناعي، فقد يؤدي ذلك إلى ظهور أنظمة متطورة للغاية وقد تكون شديدة الخطورة بحلول نهاية العام 2027».
وأضاف “ينبغي لأنثروبيك أن ترفض التحسين الذاتي التكراري”، متهما الشركة بالتخطيط للشروع فيه اعتبارا من العام المقبل.

- «خائف” على حال العالم -
واستقال كوكسون من أنثروبيك قبل أن يستحق كامل الأسهم المخصصة له، لكنه لا يزال يمتلك حصة في أوبن إيه آي قد تدر عليه ثروة إذا طرحت الشركة أسهمها في البورصة العام 2027 كما هو مقرر.
وخلال مشاركته في فعالية بجامعة ستانفورد في التاسع من تشرين الثاني/نوفمبر، وصف حصته في أوبن إيه آي بأنها “أموال ملطخة بالدماء”، لكنه لا يزال يحتفظ بها.وقال “أنا أحب المال يا أخي”، ما أثار سخرية على مواقع التواصل الاجتماعي، قبل أن يتراجع عن موقفه بعد أيام ويتعهد بالتبرع بكامل قيمة أسهمه لمنظمات تُعنى بسلامة الذكاء الاصطناعي، من دون تحديدها.
ويعتزم الآن العمل لدى منظمة غير ربحية، ربما في مجال الأبحاث المتعلقة بسلامة الذكاء الاصطناعي.
وقال “في الوضع المثالي، أود إجراء أبحاث بشأن السلامة، لكنني أعتقد أن الوقت لا يكفي لذلك».
وأضاف “الشيء الوحيد الذي سيبطئ وتيرة عمل شركات الذكاء الاصطناعي هو التحرك السياسي. إنها الآن مشكلة سياسية وليست تقنية. علينا إبطاء وتيرة عمل هذه الشركات».
ويؤيد كوكسون هذه التكنولوجيا عموما، لكنه يشجع الناس على التعامل معها بذهنية نقدية.
وقال “إنها تكنولوجيا مفيدة، لكن عليكم أن تدركوا أن روبوتات المحادثة ليست سوى مرحلة من مراحل تطورها”، مضيفا أنها تتجه نحو “أنظمة واسعة النطاق تتمتع بقدرات هائلة تتيح لها أداء جميع المهام التي يقوم بها البشر».
وبعد أكثر من شهرين على استقالته، تركت الضجة الإعلامية التي أُثيرت حوله أثرها عليه، لكنّه يؤكد أنه “بخير».
وقال “فوجئت كثيرا بكل ما حدث”، لكنه يضيف “أخاف على حال العالم أكثر مما أشعر بأن حياتي الشخصية مضطربة».