هل يجب على شركات الذكاء الاصطناعي اختبار نماذج بعضها البعض؟

يتطور الذكاء الاصطناعي بوتيرة استثنائية، ومع تزايد قوة نماذج الذكاء الاصطناعي، يبرز سؤال مهم: من يجب أن يختبر هذه التكنولوجيا قبل وصولها إلى الجمهور؟

خلال قمة All-In التي عُقدت هذا الأسبوع في لوس أنجلوس، طرح إيلون ماسك مقترحًا لافتًا يتمثل في السماح لشركات الذكاء الاصطناعي باختبار نماذج بعضها البعض قبل إطلاقها. ويشمل المقترح شركات الذكاء الاصطناعي الرائدة، ومنها xAI وOpenAI وAnthropic وGoogle وMeta، إلى جانب عدد من شركات الذكاء الاصطناعي الصينية، لاستخدام إطار موحّد للاختبارات بهدف تحديد المخاطر المحتملة المتعلقة بالسلامة والأمن.

ويستند مقترح ماسك إلى فكرة بسيطة: لا ينبغي أن تكون الشركات هي الجهة الوحيدة التي تقيّم تقنياتها الخاصة. فقد تتمكن الشركات المنافسة من اكتشاف نقاط ضعف أو سلوكيات غير متوقعة أو مخاطر أمنية قد لا تظهر خلال الاختبارات الداخلية.

طبقة جديدة من أمان الذكاء الاصطناعي
يأتي هذا المقترح في وقت يحظى فيه موضوع أمان الذكاء الاصطناعي باهتمام متزايد في قطاع التكنولوجيا. فقد دعا أيضًا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إلى تعزيز إجراءات السلامة، بما في ذلك إجراء تقييمات مستقلة لأنظمة الذكاء الاصطناعي المتقدمة وزيادة التعاون بين شركات القطاع.

ويمكن للاختبارات المستقلة أو المشتركة بين الشركات أن توفر طبقة إضافية من الحماية بين تطوير الذكاء الاصطناعي وإطلاقه أمام الجمهور. فبدلًا من الاعتماد فقط على التقييمات التي تجريها الشركة المطوّرة، يمكن إخضاع النماذج لمراجعة خارجية تعتمد أساليب اختبار ووجهات نظر مختلفة.

 

لكن هناك تحديات
تطرح هذه الفكرة أيضًا مجموعة من الأسئلة العملية. فشركات الذكاء الاصطناعي تتنافس بشكل كبير، وإتاحة نماذج متقدمة للمنافسين قد تثير مخاوف تتعلق بالملكية الفكرية والسرية والميزة التنافسية. كما سيكون من الضروري الاتفاق على ما يجب اختباره، وكيفية التعامل مع النتائج، وما الإجراءات التي ينبغي اتخاذها عند اكتشاف مشكلة خطيرة.

وفي الوقت الحالي، لا يزال مقترح ماسك مجرد مقترح قيد النقاش، ولم تتفق شركات الذكاء الاصطناعي الكبرى على اعتماد هذا النظام.

الصورة الأكبر
سواء أصبح هذا المقترح واقعًا أم لا، فإن النقاش حوله يعكس تحولًا مهمًا في طريقة تطوير الذكاء الاصطناعي: أصبحت الاختبارات والسلامة جزءًا أساسيًا من النقاش إلى جانب الابتكار والأداء.

ومع تزايد اندماج الذكاء الاصطناعي في الشركات والمواقع الإلكترونية والتطبيقات والخدمات الرقمية اليومية، لم يعد السؤال يقتصر على: «ماذا يستطيع الذكاء الاصطناعي أن يفعل؟» بل أصبح أيضًا: «كيف نضمن أن يقوم بذلك بطريقة آمنة ومسؤولة؟»

قد يعتمد مستقبل الذكاء الاصطناعي، بالتالي، ليس فقط على تطوير نماذج أكثر قدرة، بل أيضًا على تطوير طرق أفضل لاختبارها وتقييمها ومراقبتها قبل وصولها إلى العالم الحقيقي وبعد ذلك.