مسودة قانون أمريكي تسعى إلى توفير الحماية من كوارث الذكاء الاصطناعي

أثار ظهور الذكاء الاصطناعي آمالا بشأن إمكانياته لحل المشاكل، ومخاوف بشأن تأثيراته المدمرة المحتملة في حال إساءة استخدامه، مما أدى إلى طرح نحو 200 مشروع قانون في أنحاء الولايات المتحدة تقترح وضع قيود على التكنولوجيا الناشئة القوية.

وذكرت شبكة “باي اريا نيوز غروب”، أكبر ناشر للصحف اليومية والأسبوعية في منطقة خليج سان فرانسيسكو، في تقرير لها أن من أبرز مسودات القوانين التي تم طرحها ما تم طرحه في كاليفورنيا، حيث من شأن مثل هذا القانون أن يؤثر على العشرات من الشركات في الولاية التي تعد مهد الابتكار. وأثارت مسودة القانون غضب الشركات الكبرى في وادي السيليكون، بما في ذلك “غوغل” وشركة “ميتا” المالكة لتطبيق “فيسبوك” والشركة الناشئة “واي كومبيناتور”.

وقال السيناتور الديمقراطي بسان فرانسسكو بولاية كاليفورنيا، سكوت وينير، إن “الهدف هنا هو استباق المخاطر بدلا من انتظار قدومها، وهو ما نقوم به دائما”.

وأشار محللون تشريعيون إلى أنه على الرغم من أن الذكاء الاصطناعي يتمتع بإمكانيات لتحقيق منافع من إحراز تقدم في مجالات الطب وعلوم المناخ إلى تحسن التوقعات الخاصة بحرائق الغابات وتطوير الطاقة النظيفة، فإنه ينطوي أيضا على مخاطر كبيرة.

وهناك مخاوف واسعة النطاق من إمكانية استخدام الذكاء الاصطناعي لتطوير أسلحة مستقلة يمكن أن تختار وتصيب الأهداف بدون تدخل بشري، من خلال طائرات الدرون المعززة بالذكاء الاصطناعي، التي تُستخدم في الهجمات الإرهابية أو نقل المخدرات.

وتستخدم الخوارزميات المدعومة بالذكاء الاصطناعي في هجمات التصيد الاحتيالي والبرامج الخبيثة، بما فيها برنامج الفدية “وانا كراي” 2017، الذي استغل نقطة ضعف في نظام “مايكروسوفت ويندوز” وتسبب في أضرار بمليارات الدولارات. كما أن الخوارزميات الآلية المتعلقة بالتداول يمكن أن تؤدي إلى التلاعب بالأسواق مثل واقعة “فلاش كراش” 2010، التي تسببت في فقدان مؤشر “داو جونز” 1000 نقطة خلال دقائق قبل أن يعود إلى طبيعته.

ومن شأن مسودة القانون التي طرحها السيناتور وينير تنظيم “تطوير ونشر نماذج الذكاء الاصطناعي المتطورة” من خلال تشكيل هيئة تنظيمية جديدة يطلق عليها “فرونتير موديل ديفيجن”. كما من شأن مسودة القانون إنشاء برنامج مجموعة الحوسبة الممولة من القطاع العام يطلق عليه “كال كومبيو”، الذي سوف يركز على تطوير نماذج الذكاء الاصطناعي على نطاق واسع وتقديم الخبرة التشغيلية ودعم المستخدم وتعزيز الابتكار “العادل” في مجال الذكاء الاصطناعي .

ويقول معارضو مسودة القانون إن من شأنه تقييد الابتكار وعرقلة تطوير الذكاء الاصطناعي مفتوح المصدر. وأضاف المعارضون أن مسودة القانون “تسيئ بصورة جذرية تفسير” كيفية بناء أنظمة الذكاء الاصطناعي المتطورة، كما تفرض “التزامات غير متناسبة” على مطوري النماذج، مما من شأنه أن يضر باقتصاد التكنولوجيا المنتعش في كاليفورنيا.

وقال روب شيرمان، نائب الرئيس ورئيس قسم الخصوصية بشركة “ميتا” في خطاب إلى وينير يعود إلى 25 يونيو الماضي إن أنظمة الذكاء الاصطناعي” يتم بناؤها من جانب عدة أطراف ذات وظائف مختلقة”. وهذا يشمل “مطور النموذج الذي يطرح النموذج في السوق، ومن يقوم بنشر الذكاء الاصطناعي، الذي يدمج النماذج في الأنظمة لتقديم الخدمة والتحكم في استخدام النموذج، والمستخدم النهائي الذي يستفيد من هذه الأنظمة”.

وكتب شيرمان “عيب مسودة القانون الرئيسي هو أنها تخفق في أخذ النظام البيئي في الاعتبار وتحديد المسؤولية وفقا لذلك، مما يفرض التزامات غير متناسبة على مطوري النماذج بالنسبة لأجزاء من النظام البيئي لا يملكون السيطرة عليها”.

ويعارض وينير، الذي قبل تعديلات كثيرة أثناء العمل مع شركات التكنولوجيا والمدافعين عن سلامة الذكاء الاصطناعي بشأن مشروع القانون، ما جاء في الخطاب.

وقال وينير: “إنه مطلب أساسي للغاية أن تتم تأدية تقييمات السلامة التي التزمت هذه المختبرات الكبيرة بالفعل بتنفيذها”. وأضاف “في حال تم رصد خطورة كبيرة تتعلق بحدوث ضرر كارثي، على المطورين اتخاذ خطوات للحد من هذه الخطورة، مما يصعب تحقق هذه المخاطر ويجعل حدوثها أقل ترجيحا”.

وأضاف وينير أن مسودة القانون تنطبق فقط على مطوري الذكاء الاصطناعي الذين ينتجون نماذج ذكاء اصطناعي واسعة النطاق، خاصة المطورين الذين يمتلكون قوة حاسوبية تقدر بأكثر من 100 مليون دولار لتطبيق بروتوكولات السلامة والأمن.

وعلاوة على ذلك، ربما تفرض مسودة القانون عقوبات على الشركات التي تخفق في الإبلاغ عن الحوادث المتعلقة بسلامة الذكاء الاصطناعي، بما فيها الأحداث التي تفاقم خطورة الضرر الجسيم، والنماذج التي تتورط في سلوك غير مسموح به، والإخفاق في منع استخدام الذكاء الاصطناعي ذو القدرات الخطيرة.

ويمكن أن يواجه منتهكو القانون عقوبات بناء على شدة الانتهاك. ووفقا لمسودة القانون، فإن المحكمة ربما تأمر بإلغاء نموذج ذكاء اصطناعي وبياناته في حال ما شملت واقعة الانتهاك الموت أو الإيذاء البدني أو الضرر المادي أو السرقة أو خطورة على السلامة العامة.

ووفقا لمسود القانون، فإن المدعي العام في كاليفورنيا هو وحده من سيتمكن من تقديم الدعوى ضد هذه الانتهاكات.

وقد تم تمرير مسودة القانون في مجلس الشيوخ في مايو الماضي، بعد أن وافقت عليه لجنتا الخصوصية وحماية المستهلك والقضاء، ويتوجه حاليا إلى لجنة المخصصات، كما سيخضع للتصويت قبل أن يصل إلى مكتب حاكم الولاية.