أنتثروبيك وأكسنتشر: تقييم مستقل لسلامة الذكاء الاصطناعي

في خطوة لافتة، تتعاون أنتثروبيك مع أكسنتشر لتقييم نماذج الذكاء الاصطناعي، سعيًا لإبطاء وتيرة التطوير وضمان السلامة في ظل المخاوف المتزايدة من التقدم السريع للذكاء الاصطناعي وتداعياته المحتملة.

خلفية المبادرة: دعوات إبطاء سباق الذكاء الاصطناعي

لم تعد المخاوف بشأن سرعة تطور الذكاء الاصطناعي محصورة في أوساط الأكاديميين أو الروائيين، بل أصبحت على طاولة كبار الرؤساء التنفيذيين في الصناعة. تأتي هذه الشراكة في أعقاب مقترح قدمه داريو أمودي، الرئيس التنفيذي لشركة أنتثروبيك، في الثاني عشر من سبتمبر الماضي، والذي دعا فيه إلى اتباع نهج من ثلاث خطوات لإبطاء وتيرة تطوير الذكاء الاصطناعي. حذر أمودي من أن التطور السريع وغير المنضبط قد يؤدي إلى "تحسين ذاتي متكرر" للذكاء الاصطناعي، حيث يصبح قادرًا على بناء أجياله التالية بسرعة تفوق قدرتنا على الفهم والتحكم، مما يطرح مخاطر كارثية محتملة. لاقى هذا المقترح ترحيبًا من شخصيات بارزة مثل سام التمان، الرئيس التنفيذي لـ OpenAI، وإيلون ماسك، بينما عبر جنسن هوانغ، الرئيس التنفيذي لـ Nvidia، عن رأي مخالف.

أكد أمودي أن الخطوة الأولى في مقترحه تتمثل في الاستعانة بمقيّمين مستقلين يتمتعون بصلاحيات واسعة، تشبه صلاحيات الموظفين الداخليين، وهو التزام كانت أنتثروبيك قد أعلنته من جانب واحد. تعتبر هذه الشراكة مع أكسنتشر بمثابة تجسيد عملي لهذا الالتزام. تهدف أنتثروبيك من خلال هذه الخطوة إلى تمهيد الطريق أمام إرساء ضوابط أمان فعالة، تضمن أن التقدم التقني لا يتعارض مع مبادئ السلامة والأخلاق. يرى محللون أن هذه المبادرات، وإن كانت لا تزال في مراحلها الأولية، تعكس تحولًا في تفكير قادة الصناعة نحو تحمل مسؤولية أكبر تجاه التداعيات المحتملة لتقنياتهم، مما قد يشكل سابقة لمستقبل حوكمة الذكاء الاصطناعي.

أبعاد الشراكة: تقييم عميق وتأثير محتمل

تعلن أنتثروبيك عن اختيار أكسنتشر كأول مقيّم مستقل "مضمن" (embedded evaluator)، مع توقع الإعلان عن شركاء آخرين في الأسابيع المقبلة. ستتولى وحدة Faculty التابعة لأكسنتشر، والمعروفة بخبرتها في اختبار وتقييم النماذج المعقدة وبناء أنظمة ذكاء اصطناعي آمنة وأخلاقية، مهامًا حيوية تشمل "تقييم النماذج واختبارها الأحمر (red-teaming)، وإجراء تقييمات للمواءمة (alignment assessments)، واختبار ضمانات النماذج". هذه الشراكة ليست مجرد تعاقد عادي، بل تتضمن استثمارًا مشتركًا بقيمة مليار دولار على مدى السنوات الخمس القادمة من كلا الشركتين، مما يؤكد جدية الالتزام وحجم التحدي. من المهم الإشارة إلى أن مفهوم التقييم المضمن لا يزال جديدًا، وتفاصيل آليات عمله قيد التطوير، مما يتطلب ابتكار أساليب جديدة للتحقق والتدقيق.

يمثل هذا التعاون نقطة تحول محتملة في صناعة الذكاء الاصطناعي، حيث يسلط الضوء على الحاجة الملحة لآليات تمويل مستدامة للتقييم المستقل، والتي اقترح أمودي أن تأتي من مصادر مجمعة أو حكومية على المدى الطويل، على الرغم من أن أنتثروبيك ستمول عمل أكسنتشر بشكل مباشر في الوقت الراهن. بالنسبة لجمهورنا المهتم بالعملات الرقمية والتقنيات اللامركزية، فإن مبدأ التقييم المستقل والمراجعات الأمنية العميقة ليس غريبًا؛ فالمشاريع الكبرى في عالم البلوك تشين غالبًا ما تخضع لتدقيقات صارمة لضمان سلامة العقود الذكية والبروتوكولات. هذا التوازي يؤكد أن السعي نحو الشفافية والتحقق الخارجي هو ركيزة أساسية لبناء الثقة في أي تقنية متطورة، سواء كانت ذكاءً اصطناعيًا أو عملات رقمية. تشير هذه الخطوة إلى أن الصناعة قد بدأت تدرك ضرورة الموازنة بين الابتكار السريع والتطوير المسؤول، مما قد يشكل سابقة لمستقبل حوكمة الذكاء الاصطناعي.

الخلاصة

في الختام، تعكس شراكة أنتثروبيك مع أكسنتشر إقرارًا متزايدًا داخل صناعة الذكاء الاصطناعي بضرورة التعامل بجدية مع المخاطر المحتملة للتطور السريع وغير المقيد. إنها خطوة استباقية من لاعب رئيسي في المجال نحو إرساء معايير للسلامة والمسؤولية، من خلال الاستعانة بتقييمات مستقلة ومتعمقة. بينما لا تزال آليات التقييم المضمن وتمويلها طويل الأجل قيد البحث والتطوير، فإن هذا التحرك يمثل مؤشرًا قويًا على أن النقاش حول سلامة الذكاء الاصطناعي قد انتقل من التنظير إلى التطبيق العملي. يبقى أن نرى كيف ستتطور هذه المبادرات وما إذا كانت ستنجح في إبطاء وتيرة السباق نحو الذكاء الاصطناعي العام، أو على الأقل في توجيهه نحو مسار أكثر أمانًا للبشرية. هذه التطورات تستحق المتابعة الدقيقة من كل مهتم بمستقبل التكنولوجيا وتأثيرها على مجتمعاتنا، دون تقديم أي نصيحة استثمارية مباشرة.