وقع أكثر من 1000 من العاملين في كبرى شركات الذكاء الاصطناعي على خطاب مفتوح يدعو إلى وضع ضوابط تسمح بإبطاء التطور السريع للذكاء الاصطناعي إذا لزم الأمر، محذرين من تطور هذه التكنولوجيا بأسرع من قدرة البشر على فهمها أو السيطرة عليها.

وحث الخطاب الذي وقعه 1171 باحثا ومسؤولا من شركات التكنولوجيا مثل أوبن أيه.آي وانثروبك وجوجل وميتا الحكومة الأمريكية على الانضمام إلى جهد دولي لتطوير إجراءات فنية وتنظيمية للسيطرة على وتيرة تطور الذكاء الاصطناعي.

وقال الموقعون إن أنظمة الذكاء الاصطناعي قد تصبح قادرة على تحسين نفسها دون تدخل بشري.

يأتي ذلك في حين يجري توليد أجزاء كبيرة من شفرة البرامج في شركات التكنولوجيا باستخدام الذكاء الاصطناعي تحت إشراف بشري. وينظر إلى النقطة التي تصبح فيه برامج الذكاء الاصطناعي قادرة على تطوير نفسها بصورة تلقائية باعتبارها نقطة تحول محتملة.

ورغم صعوبة التنبؤ بمدى تسارع التقدم في هذا المجال، إلا أن هناك "خطراً حقيقياً" يتمثل في أن وتيرة تطور الذكاء الاصطناعي "تتجاوز قدرتنا على فهم الأنظمة الناتجة أو التحكم بها"، وفقا لما جاء في الخطاب.

وأكد الموقعون على الخطاب ضرورة اتخاذ إجراءات دولية منسقة، نظرا للضغوط التنافسية التي تواجهها الحكومات ومطورو الذكاء الاصطناعي، والتي تدفعهم إلى عدم إبطاء وتيرة التطوير،فى الوقت الذى أشار فيه الموقعون أيضا إلى أن الأدوات التقنية والأطر التنظيمية اللازمة لإدارة مثل هذا السيناريو غير متوفرة حاليا..

تأتي هذه الرسالة في أعقاب حادثة تتعلق بنموذج من نماذج شركة أوبن أيه.آي الأمريكية، اعتبرها الكثيرون في قطاع التكنولوجيا بمثابة جرس إنذار. فخلال اختبار، تمكن نموذج الذكاء الاصطناعي من الوصول إلى الإنترنت المفتوح، ثم اخترق بشكل مستقل أنظمة حاسوب تابعة لشركة أخرى متخصصة في الذكاء الاصطناعي، مستغلاً ثغرات أمنية لم تكن معروفة سابقا.