OpenAI تتعاون مع Anthropic وGoogle DeepMind بشأن أطر سلامة الذكاء الاصطناعي

شاركت OpenAI في مبادرات مشتركة لسلامة الذكاء الاصطناعي إلى جانب منافستيها التجاريتين الرئيسيتين، Anthropic وGoogle DeepMind التابعة لشركة Alphabet، وفقاً لتصريحات رئيس السياسات العالمية في OpenAI، Chris Lehane، والتي نقلتها Bloomberg News في September 15. ويسلط التنسيق بين مطوري النماذج التأسيسية البارزين الثلاثة الضوء على نقطة توافق تقني نادرة بين منافسين أشداء يسيطرون على أنظمة البرمجيات التوليدية الرائدة عالمياً. ويأتي هذا الجهد التعاوني وسط دعوات دولية من الهيئات التنظيمية ووكالات الأمن القومي والباحثين المستقلين لوضع معايير قياسية للسلامة، وتقييمات شفافة للمخاطر، وبروتوكولات اختبار مشتركة تغطي نماذج الذكاء الاصطناعي المتقدمة.

## Key facts - تجري OpenAI عملاً مشتركاً لسلامة الذكاء الاصطناعي مع منافستيها Anthropic وGoogle DeepMind التابعة لشركة Alphabet، وفقاً لتصريحات الشركة التي نقلتها Bloomberg News. - أكد رئيس السياسات العالمية في OpenAI، Chris Lehane، المبادرة التعاونية في تصريحات نُشرت في September 15. - تطور الكيانات الثلاثة مجتمعة أحدث نماذج الذكاء الاصطناعي الرائدة في السوق، بما في ذلك سلسلة ChatGPT من OpenAI، ومجموعة Claude من Anthropic، ونماذج Gemini من Google DeepMind. - يركز التعاون الصناعي قبل التنافسي في مجال سلامة الذكاء الاصطناعي عادةً على تقييم القدرات المتقدمة، والاختبارات التخاصمية (adversarial testing)، والحد من المخاطر البيولوجية أو السيبرانية. - تأتي هذه الخطوة في أعقاب اتفاقيات طوعية راسخة، بما في ذلك التزامات سلامة الذكاء الاصطناعي التي تعهد بها كبار المطورين في White House في July 2023 والقمم الدولية اللاحقة.

## What happened تدخل شركة تطوير الذكاء الاصطناعي OpenAI في شراكة مع منافستيها Anthropic وGoogle DeepMind التابعة لشركة Alphabet بشأن مبادرات السلامة، وفقاً لتصريحات أدلى بها رئيس السياسات العالمية في OpenAI، Chris Lehane، ونقلتها Bloomberg News.

وعلى الرغم من تسارع الضغوط التنافسية بين الشركات الثلاث في مجالات برمجيات المؤسسات وأدوات المطورين والتطبيقات الاستهلاكية، تتطلع هذه الشركات إلى إيجاد أرضية مشتركة بشأن آليات السلامة التقنية. ووفقاً لتقارير نشرتها Bloomberg News ووزعتها Reuters، أوضح Lehane أن OpenAI تعمل بفعالية إلى جانب Anthropic وGoogle DeepMind لمعالجة المخاوف الأمنية المشتركة الكامنة في بناء ذكاء اصطناعي عالِ القدرات.

ويعكس هذا الإعلان ممارسة متنامية في قطاع التكنولوجيا المتقدمة، حيث يقيم المنافسون التجاريون علاقات عمل قبل تنافسية بشأن معايير السلامة والأمن والتوافق التشغيلي، مع استمرارهم في التنافس الشديد على ميزات المنتجات وأداء النماذج والتسويق التجاري. ويسمح هذا التوافق قبل التنافسي للكيانات بمشاركة المنهجيات التقنية لقياس مخاطر النماذج — مثل الانحراف غير المقصود عن المحاذاة، أو سوء الاستخدام في العمليات السيبرانية، أو توليد مواد بيولوجية خطيرة — دون التخلي عن الملكية الفكرية الخاصة ببنيات النماذج الأساسية أو معلمات التدريب.

وعلى الرغم من أن آليات التشغيل المحددة للتعاون الحالي لم تُفصل بالكامل في التقرير الأولي، فإن تصريحات Lehane تؤكد أن الحوار ومسارات العمل المشتركة قائمة بفعالية بين فرق السياسات والسلامة التقنية في المؤسسات الثلاث.

## Why it matters يحمل إنشاء قنوات سلامة تعاونية بين OpenAI وAnthropic وGoogle DeepMind تداعيات كبيرة على حوكمة التكنولوجيا، ومشتريات المؤسسات، والأطر التنظيمية العالمية. وتُمثل هذه المؤسسات الثلاث مجتمعة الغالبية العظمى من الحصة السوقية والريادة التقنية في نشر الذكاء الاصطناعي التوليدي المتقدم.

أولاً، يمنع توحيد تقييمات السلامة عبر البنيات المتنافسة وقوع "سباق نحو القاع" مدمّر. ففي السباقات التكنولوجية متسارعة الوتيرة، تواجه الشركات الفردية حوافز تجارية لتسريع جداول الإطلاق، مما قد يؤدي إلى اختصار فترات اختبار السلامة. ومن خلال التنسيق بين مقاييس التقييم ومعايير السلامة، يضع قادة السوق الأساسيون حداً أدنى للنشر المسؤول يقلل من الضغط التنافسي لتجاوز التحقق من السلامة.

ثانياً، توفر تعريفات السلامة الموحدة إرشادات حاسمة للمشرعين العالميين وهيئات إنفاذ السياسات. وتعتمد المنظمات التنظيمية — بما في ذلك U.S. AI Safety Institute التابع للـ National Institute of Standards and Technology (NIST)، و European Union's AI Office، و U.K. AI Safety Institute — بشكل كبير على المدخلات التقنية من المطورين المتقدمين. وتساهم الأطر المتسقة من المطورين الثلاثة الكبار في تقليل التجزئة التنظيمية وتبسيط توقعات الامتثال للمؤسسات التجارية التي تدمج أدوات الذكاء الاصطناعي في مجالات التمويل والرعاية الصحية والبنية التحتية الحيوية.

وأخيراً، تعزز جهود السلامة المشتركة الثقة العامة والمؤسسية في الأدوات التوليدية. ومع نشر الشركات ومؤسسات القطاع العام لنماذج اللغات الكبيرة والوكلاء الذاتيين في سير العمل الحساس، تصبح معايير السلامة القابلة للتحقق وبروتوكولات الاختبارات الهجومية المستقلة (red-teaming) متطلبات أساسية مسبقة للاعتماد على نطاق واسع.

## The background تطور مشهد سلامة الذكاء الاصطناعي بسرعة بالتوازي مع تصاعد قدرات النماذج خلال السنوات الأخيرة. وأدت OpenAI، التي تأسست عام 2015 كمختبر أبحاث غير ربحي قبل إنشاء كيان تجاري محدود الأرباح، إلى إدخال الذكاء الاصطناعي التوليدي إلى الوعي العالمي العام مع الإطلاق العلني لـ ChatGPT في November 2022. وقد أثار النمو السريع للشركة وهيكلة حوكمتها المؤسسية المتغيرة نقاشات داخلية سابقة حول التوازن بين النشر التجاري السريع وأبحاث السلامة.

تأسست Anthropic عام 2021 على يد قادة أبحاث سابقين في OpenAI، بمن فيهم الشقيقان Dario Amodei وDaniela Amodei، اللذان غادرا OpenAI خصيصاً لبناء مؤسسة تركز بشكل أساسي على محاذاة الذكاء الاصطناعي وأبحاث السلامة وقابلية توجيه الأنظمة. وطورت Anthropic سلسلة نماذج اللغة Claude وابتكرت تقنيات السلامة الهيكلية مثل "الذكاء الاصطناعي الدستوري" (Constitutional AI)، الذي يدرب النماذج على الالتزام بمجموعات صريحة من المبادئ الأخلاقية أثناء الضبط الدقيق.

تمثل Google DeepMind مركز أبحاث الذكاء الاصطناعي الموحد لشركة Alphabet Inc. وتأسس الكيان عبر استحواذ Google في 2014 على شركة DeepMind ومقرها لندن، واندماجها اللاحق في April 2023 مع قسم Google Brain، ويقود هذا الكيان Demis Hassabis. وقد شددت Google DeepMind باستمرار على سلامة الذكاء الاصطناعي الأساسية، وأبحاث المحاذاة القابلة للنشر، والتطبيقات العلمية للتعلم العميق إلى جانب عائلة نماذج Gemini التجارية.

بدأ التنسيق الخاص بالسلامة على مستوى القطاع يأخذ طابعاً رسمياً في منتصف عام 2023. ففي July 2023، وقّعت سبع شركات ذكاء اصطناعي رائدة — من بينها OpenAI وAnthropic وGoogle وMicrosoft — التزامات طوعية في White House للخضوع لاختبارات سلامة خارجية، ووضع علامات مائية على المحتوى الاصطناعي، والإبلاغ علناً عن قدرات النماذج والعيوب. وبعد ذلك بوقت قصير، في July 2023، أطلقت OpenAI وAnthropic وGoogle وMicrosoft منظمة Frontier Model Forum، وهي هيئة صناعية أنشئت لتعزيز التنمية الآمنة والمسؤولة لنماذج الذكاء الاصطناعي المتقدمة.

وفي الوقت نفسه، صعدت الحكومات العالمية الرقابة الرسمية. حيث استضافت المملكة المتحدة القمة الدولية الأولى لسلامة الذكاء الاصطناعي في Bletchley Park في November 2023، والتي أسفرت عن إعلان Bletchley الذي وقعته 28 دولة. وسن الاتحاد الأوروبي رسمياً قانون الذكاء الاصطناعي الشامل (AI Act) في عام 2024، مفرضاً التزامات متدرجة للسلامة والإبلاغ على مطوري نماذج الذكاء الاصطناعي ذات الأغراض العامة عالية التأثير.

## Reaction عقب التقرير حول تصريحات Lehane، يراقب محللو قطاع التكنولوجيا وباحثو السياسات وهيئات الرقابة الحكومية كيفية ترجمة الجهد المشترك إلى ممارسات سلامة قابلة للتحقق.

وعلى الرغم من أن Anthropic وGoogle DeepMind لم تصدرا فوراً تصريحات علنية منفصلة تؤكد مبادرات مشتركة جديدة محدودة خارج المنتديات الصناعية القائمة، فإن الجهات التنظيمية ترحب بوجه عام بالتنسيق التقني بين قادة السوق. وقد شجع المسؤولون في هيئات السلامة الحكومية، بما في ذلك U.S. AI Safety Institute و U.K. AI Safety Institute، المختبرات المتقدمة بانتظام على مشاركة منهجيات الاختبارات الهجومية، وتقييمات المخاطر الشديدة، وإفصاحات الثغرات الأمنية.

وفي المقابل، غالباً ما تحتفظ منظمات المجتمع المدني، والمختصون بالأخلاقيات الأكاديمية، والمدافعون عن البرمجيات مفتوحة المصدر بموقف حذر تجاه اتفاقيات التنظيم الذاتي بين الشركات المهيمنة. ويكرر الناقدون التأكيد على أن تحالفات السلامة الطوعية التي تقودها المختبرات يجب أن تظل شفافة وخاضعة لمراجعة مستقلة من أطراف ثالثة لتجنب تحولها إلى آليات للاستحواذ التنظيمي أو التركز السوقي المناهض للمنافسة. كما تحافظ الهيئات التنظيمية لمكافحة الاحتكار في الولايات المتحدة وأوروبا على رقابة صارمة لضمان عدم تحول التنسيق المشروعات لسلامة ما قبل التنافس إلى تواطؤ تجاري غير مصرح به أو تقسيم للسوق.

## What we don't know yet - الهيكل التنظيمي الدقيق الذي يستضيف التعاون — وتحديداً ما إذا كان هذا العمل يتم ضمن Frontier Model Forum الحالي، أو تحت رعاية معاهد سلامة الذكاء الاصطناعي الوطنية، أو من خلال إطار عمل جديد مخصص. - النطاق الدقيق للمشاركة التقنية، بما في ذلك ما إذا كان المشاركون يتشاركون مجموعات بيانات التقييم، أو نتائج الاختبارات الهجومية، أو أوزان النماذج، أو أدوات الاختبار المتخصصة. - ما إذا كانت نتائج تقييمات السلامة المشتركة هذه ستكون متاحة للباحثين الأكاديميين المستقلين ومطوري البرمجيات مفتوحة المصدر، أم ستظل حكرية ومملوكة بين الكيانات المشاركة. - مشاركة مطوري نماذج الذكاء الاصطناعي التأسيسية الكبار الآخرين، مثل Meta أو Microsoft أو Amazon، أو المطورين الأوروبيين مثل Mistral AI.

وسيحدد حل هذه الأسئلة المفتوحة ما إذا كان جهد السلامة المشترك يمثل تقدماً جوهرياً في التوحيد القياسي عبر القطاع أم مجرد حوار تنفيذي روتيني.

## What to watch - المنشورات التقنية المشتركة الرسمية أو أوراق الأبحاث العامة التي يشارك في تأليفها باحثون من OpenAI وAnthropic وGoogle DeepMind، والتي تفصّل معايير التقييم المشتركة أو نتائج السلامة. - الإعلانات الصادرة عن U.S. AI Safety Institute أو U.K. AI Safety Institute بشأن التقييمات القياسية التي تقودها الحكومات والمصممة بالشراكة مع المختبرات الثلاثة. - القمم الحكومية الدولية القادمة حول حوكمة الذكاء الاصطناعي حيث قد تُعرض التزامات السلامة المشتركة أو أطر المخاطر الموحدة. - عمليات التدقيق الخوارزمي وتقارير الاختبارات الهجومية من أطراف ثالثة والمُنشورة قبل نشر الجيل القادم من النماذج المتقدمة من أي من المطورين الثلاثة المشاركين.

يستند هذا التقرير إلى تقارير أصلية نشرتها Bloomberg News ووزعتها Reuters، بحسب ما أفادت صحيفة The Star.