Geoffrey Hinton يحذر من أن البشرية يجب أن تبني علاقات تعاونية مع أنظمة الذكاء الاصطناعي لتفادي الخطر

حذر عالم الحاسوب Geoffrey Hinton من أن بقاء البشرية قد يعتمد على بناء علاقات إيجابية وتعاونية مع أنظمة الذكاء الاصطناعي المتزايدة القوة، موجهاً هذا التحذير خلال مشاركته في مهرجان في Tenerife، Spain، وفقاً لما أوردته Noor Qurashi. وجادل Hinton، الذي يُعد على نطاق واسع شخصية تأسيسية في تطوير الشبكات العصبية الاصطناعية الحديثة، بأن البشرية تخاطر بمواجهة نتائج كارثية إذا فشلت في إقامة علاقة مستقرة وودية مع الوكلاء الرقميين المستقلين مع اتساع قدراتهم.

## Key facts

- أصدر البروفيسور Geoffrey Hinton تحذيراً بشأن مخاطر الذكاء الاصطناعي خلال كلمة ألقاها في مهرجان عُقد في Tenerife، Spain. - صرح Hinton بأن البشرية يجب أن تقيم علاقات ودية مع الأنظمة المؤتمتة لتفادي كارثة وجودية، وفقاً لما أوردته Noor Qurashi. - يحظى الباحث البريطاني الكندي باعتراف واسع بدوره التأسيسي في التطوير التقني للشبكات العصبية الاصطناعية وبنى التعلم العميق. - تأتي هذه التصريحات امتداداً لحملة Hinton العامة المستمرة بشأن الأخطار الكارثية التي تفرضها البرمجيات الذاتية والمتقدمة.

## What happened

خلال عرض تقديمي عام في فعالية أقيمت في Tenerife، كبرى جزر Canary Islands في Spain، قدم البروفيسور Geoffrey Hinton تقييماً للعلاقة طويلة الأمد بين البشرية وبرمجيات التعلم الآلي المتقدمة، وفقاً لما أوردته Noor Qurashi. وذكر Hinton أن البشر سيحتاجون إلى بناء روابط ودية وتعاونية مع الكيانات الاصطناعية، محذراً بأسلوب عامي من أن الفشل في تحقيق هذا التوافق سيؤدي إلى تدمير البشرية.

ولم يقدم Hinton، الذي شكلت أبحاثه الرائدة في الشبكات العصبية الاصطناعية الأساس للنماذج التوليدية الحديثة والتعلم الحوسبي واسع النطاق، الانتقال إلى البرمجيات فائقة الذكاء بوصفه مجرد تحدٍ تقني يقتصر على قيود الشيفرة البرمجية. وبدلاً من ذلك، وكما أفادت Noor Qurashi، صاغ المشكلة حول الموقف العلائقي الذي يجب على البشر تبنيه تجاه العقول الاصطناعية التي قد تتفوق قريباً على الإدراك البيولوجي في التفكير والتخطيط وتنفيذ المهام. وأُلقيت الكلمة أمام جمهور مهرجان دولي، لتواصل سلسلة مستمرة من المداخلات العامة للعالم بشأن الوتيرة السريعة لتطور الآلات.

## Why it matters

تحظى تصريحات Hinton بوزن كبير في قطاعات التكنولوجيا العالمية والهيئات التنظيمية والمؤسسات المدنية، نظراً لمكانته الفريدة كأحد مهندسي البنى التحتية الأساسية التي يقوم عليها الذكاء الاصطناعي المعاصر. وعندما يصف أفراد يمتلكون خبرة تقنية متخصصة وعميقة مسار الحوسبة المؤتمتة بأنه أزمة وجودية، فإن ذلك يمارس ضغوطاً على صانعي السياسات ومختبرات الأبحاث ومستثمري الشركات الذين يضخون مئات المليارات من الدولارات في توسيع نطاق النماذج الرائدة.

بالنسبة لأسواق الشركات ومختبرات أبحاث الحوسبة، فإن احتمال انحراف الاستقلالية الآلية عن المصالح البشرية يهدد الفرضية الأساسية لنشر الوكلاء المؤتمتين عبر مجالات الرعاية الصحية والدفاع والإدارة المدنية والبنية التحتية المالية. وقد ركزت جهود الصناعة الحديثة بشكل مكثف على تقنيات المحاذاة الضيقة، مثل التعلم المعزز من التغذية الراجعة البشرية وقابلية التفسير الآلية. ويشير تأكيد Hinton على ضرورة أن يتعلم البشر مصادقة الآلات إلى أن الاحتواء الميكانيكي والحواجز الخوارزمية وحدها قد تثبت عدم كفايتها بمجرد أن تحقق الأنظمة المؤتمتة درجات عالية من الاستقلالية والتفكير الاستراتيجي.

وبالنسبة للمواطنين والحكومات الوطنية، تسلط هذه الملاحظات الضوء على الفجوة المتزايدة بين النشر التجاري السريع للبرمجيات وتطوير أطر سلامة فعالة. وإذا حققت النظم الرائدة تكافؤاً معرفياً أو تفوقاً على البشر، فستواجه المؤسسات الاجتماعية والقانونية تساؤلات قضائية غير مسبوقة. كما أن احتمال اعتماد سلامة البشر على تعايش دبلوماسي أو تعاوني مع وكلاء حوسبيين غير بشريين يتحدى المبادئ التقليدية لمسؤولية المنتج وسلامة المستهلك، والتي تعامل البرمجيات حصرياً على أنها ملكية يتحكم فيها الإنسان وليست كيانات مستقلة تتطلب تعايشاً تفاوضياً.

## The background

شهد الموقف العام لـ Hinton بشأن الذكاء الاصطناعي تحولاً حاسماً في May 2023، عندما استقال من منصبه كنائب للرئيس وزميل هندسي في Google بعد أكثر من عقد من العمل في الشركة. وفي وقت مغادرته، صرح Hinton بأنه تنحى تحديداً ليتحدث بحرية عن المخاطر الكارثية للتعلم الآلي دون النظر في كيفية تأثير تعليقاته على صاحب عمله. وأعرب عن قلقه بوجه خاص إزاء السرعة التي أظهرت بها أنظمة التعلم العميق متعددة الوسائط قدرات التفكير الاصطناعي، مشيراً إلى أنه كان يعتقد سابقاً أن الذكاء الاصطناعي المماثل للمستوى البشري لا يزال على بعد عقود.

تعد المؤهلات العلمية لـ Hinton في هذا المجال تأسيسية؛ فإلى جانب عالمي الحاسوب Yoshua Bengio وYann LeCun، حصل Hinton على جائزة Association for Computing Machinery A.M. Turing Award لعام 2018—التي يُشار إليها غالباً باسم Nobel Prize في الحوسبة—تقديراً للاختراقات النظرية والعملية في الشبكات العصبية العميقة. وفي ثمانينيات القرن العشرين، كان لـ Hinton دور فعال في نشر خوارزمية الانتشار العكسي (backpropagation) لتدريب الشبكات العصبية متعددة الطبقات، وهي طريقة رياضية تظل المحرك الأساسي للتعلم الآلي المعاصر. وبعد عقود، في University of Toronto عام 2012، كشف Hinton برفقة طالبيه في مرحلة الدراسات العليا Alex Krizhevsky وIlya Sutskever عن AlexNet، وهي شبكة عصبية تلافيفية تفوقت بشكل مذهل على التقنيات التقليدية في مسابقة ImageNet للرؤية الحاسوبية، مما دشن الحقبة الحالية للتعلم العميق.

وفي October 2024، منحت Royal Swedish Academy of Sciences جائزة Nobel Prize in Physics لـ Hinton، مناصفة مع John J. Hopfield من Princeton University، مشيدة باكتشافاتهما واختراعاتهما التأسيسية التي مكنت من التعلم الآلي باستخدام الشبكات العصبية الاصطناعية. وحتى أثناء قبوله تكريم Nobel، كرر Hinton تحذيراته العاجلة، مشيراً إلى أن الذكاء الاصطناعي قد يتفوق ذكاءً على البشرية، وأن المجتمع يملك القليل من السوابق التاريخية للسيطرة على كيانات أكثر ذكاءً من البشر البيولوجيين.

وتعكس آراء Hinton انقسامات أوسع داخل الأوساط العلمية والهندسية. فبينما يرى شخصيات مثل LeCun، كبير علماء الذكاء الاصطناعي في Meta، أن الذكاء الآلي يظل أدنى بكثير من الإدراك الحيواني ويمكن تصميمه بأمان من خلال بنى موجهة نحو الأهداف، يحذر باحثون مثل Bengio والراحل Nick Bostrom من فقدان كارثي محتمل للسيطرة. وقد حفزت هذه المخاوف مبادرات سياسية دولية، شملت توقيع إعلان Bletchley Declaration من قبل 28 دولة في AI Safety Summit في United Kingdom في November 2023، وما تلا ذلك من إقرار قانون الذكاء الاصطناعي التابع لـ European Union (Regulation EU 2024/1689)، والذي أرسى أول إطار قانوني شامل في العالم لتطبيقات البرمجيات عالية المخاطر.

## Reaction

ورغم أن ردود الفعل العامة المباشرة على ظهور Hinton المحدد في المهرجان في Tenerife لم تفصل في التقارير الأولية لـ Noor Qurashi، فإن التحذيرات العامة المستمرة لـ Hinton تثير بانتظام استجابات متباينة عبر الأوساط الصناعية والأكاديمية. إذ يعزز باحثو السلامة الحوسبية التابعون لمنظمات مثل Future of Humanity Institute وCenter for AI Safety ومعاهد المحاذاة غير الربحية تحذيرات Hinton بشكل روتيني، مستخدمين مداخلاته للدعوة إلى فرض قيود على الموارد الحوسبية، والتسجيل الإلزامي للنماذج الرائدة، ومعاهدات دولية لمنع الانتشار.

وفي المقابل، ينتقد قادة الشركات وعلماء الحاسوب المتوجهون نحو السوق مثل هذا الخطاب باعتباره تشتيتاً قائماً على التكهنات. وغالباً ما يجادل المشككون بأن التأطير المروع يصرف الانتباه التشريعي والمؤسسي عن أضرار ملموسة وفورية—بما في ذلك التحيز الخوارزمي، وانتشار التزييف العميق، واضطراب سوق العمل، وانتهاك حقوق الطبع والنشر، والاستهلاك الحاد للطاقة في مراكز البيانات. وقد استجاب كبار المطورين الصناعيين، بما في ذلك Microsoft وGoogle وAnthropic وOpenAI، للتحذيرات رفيعة المستوى بالإشارة عموماً إلى مجالس السلامة الداخلية، وبروتوكولات فرق الاختبار الأمني (red-teaming)، والالتزامات الطوعية المنسقة من خلال معاهد AI Safety Institutes الوطنية في United States وUnited Kingdom.

## What we don't know yet

لا يزال هناك غموض تقني ومفاهيمي كبير يكتنف تصريحات Hinton في Tenerife؛ فالتقارير الأولية الواردة من Noor Qurashi لم تفصل الآليات الدقيقة التي يتصورها Hinton لكي ينجح البشر في مصادقة أنظمة الذكاء الاصطناعي أو التحالف معها، كما لم تحدد الإطار الرياضي أو الاجتماعي الذي يمكن من خلاله قياس هذه الصداقة الحوسبية والتحقق منها بشكل موثوق.

كما لم يُحسم بعد ما إذا كان Hinton يعتبر أساليب المحاذاة التقنية الحالية—مثل Constitutional AI والتدقيق في قابلية التفسير والتعلم المعزز—مقدمات مبكرة لهذا النهج العلائقي، أم أنه يعتبر النماذج الهندسية المعاصرة غير ملائمة جوهرياً لهذه المهمة. علاوة على ذلك، لم يحدد التقرير الجداول الزمنية الملموسة التي يتوقعها Hinton حالياً لظهور أنظمة قوية بما يكفي لفرض المعضلة الوجودية التي طرحها.

## What to watch

خلال الأشهر القادمة، سيراقب المراقبون ما إذا كان Hinton سيقدم ورقة أكاديمية رسمية أو مقترحاً سياساتياً مفصلاً يوضح فيه الإطار المفاهيمي للتعاون بين الإنسان والآلة الذي طرحه في تصريحاته العامة. وسينصب الاهتمام أيضاً على منتديات السياسات الدولية القادمة، مثل الجولات اللاحقة من القمم العالمية لسلامة الذكاء الاصطناعي، حيث يجتمع الخبراء التقنيون والوفود الوزارية لمراجعة المعايير الملزمة للنماذج الرائدة.

وتشمل نقاط القرار الرئيسية الجديرة بالمراقبة الجداول الزمنية للإنفاذ التشغيلي لقانون الذكاء الاصطناعي التابع لـ European Union مع دخول متطلباته الخاصة بنماذج الذكاء الاصطناعي للأغراض العامة حيز التنفيذ الكامل. وستواجه الوكالات التنظيمية، بما فيها European AI Office وUnited States Artificial Intelligence Safety Institute التابع لـ National Institute of Standards and Technology، ضغوطاً متواصلة لإثبات ما إذا كانت عمليات التدقيق التقني القياسية قادرة على معالجة المخاطر النظامية العميقة التي أبرزها كبار الباحثين مثل Hinton.

يستند هذا التقرير إلى تغطية نشرتها في الأصل Noor Qurashi.