حاكم كاليفورنيا فيتو حول مشروع قانون سلامة الذكاء الاصطناعي ، صناعة التكنولوجيا قلقة بشأن تأثير الابتكار

جاكرتا - استخدم حاكم كاليفورنيا ، جافين نيوزوم ، يوم الأحد ، 29 سبتمبر ، حق النقض (الفيتو) ضد مشروع قانون سلامة الذكاء الاصطناعي المثير للجدل (الذكاء الاصطناعي) بعد تلقيه مقاومة قوية من صناعة التكنولوجيا. وقال نيوزوم إنه على الرغم من أنه من المهم حماية الجمهور من المخاطر المحتملة الذكاء الاصطناعي ، إلا أن مشروع القانون يمكن أن يعيق الابتكار ويجعل شركات الذكاء الاصطناعي تغادر كاليفورنيا.

وفي بيانه، انتقدت نيوزوم مشروع القانون لأنه لم يميز ما إذا كانت أنظمة الذكاء الاصطناعي تنفذ في بيئات عالية المخاطر أو منخفضة، وما إذا كانت تنطوي على اتخاذ قرارات مهمة أو استخدام بيانات حساسة. ووفقا له ، يطبق مشروع القانون معايير صارمة حتى على الوظائف الأساسية الذكاء الاصطناعي ، طالما أنها تنطوي على أنظمة واسعة النطاق. كما أعرب عن قلقه من أن هذا النهج يمكن أن يحد من الابتكار السريع في صناعة التكنولوجيا.

وقال نيوزوم: "أطلب من الخبراء البارزين في الذكاء الاصطناعي التوليدي مساعدة كاليفورنيا في تطوير مبادئ توجيهية قابلة للتطبيق ، والتي تركز على التحليل العلمي والتجريبي". كما أصدر تعليماته إلى وكالات الدولة بتوسيع نطاق تقييم المخاطر المرتبطة بالكوارث المحتملة التي قد تنشأ نتيجة استخدام الذكاء الاصطناعي.

وقد أثارت الذكاء الاصطناعي المولد، وهي تقنية قادرة على إنتاج النصوص والصور ومقاطع الفيديو بناء على الأوامر المقدمة، مخاوف من أن التكنولوجيا يمكن أن تؤدي إلى فقدان الوظائف، وتعطيل الانتخابات، وحتى تعريض البشرية للخطر.

رفض أعضاء مجلس الشيوخ وصناعة الذكاء الاصطناعي

وأعرب السيناتور الديمقراطي سكوت فينر، المبادر بمشروع القانون، عن خيبة أمله من النقض. وفقا لفيينر ، هناك حاجة إلى هذا التشريع لحماية الجمهور قبل أن يتطور الذكاء الاصطناعي إلى الخارج عن السيطرة. وأضاف أيضا أن هذا النقض جعل كاليفورنيا أقل أمانا حيث لم تكن هناك قيود ملزمة على شركات الذكاء الاصطناعي.

"هذه الشركات التي تطور تقنية قوية جدا لا تواجه قواعد صارمة. ولا يمكن إنفاذ الالتزامات التطوعية الصادرة عن الصناعة ونادرا ما تسفر عن نتائج جيدة للجمهور".

من ناحية أخرى ، رحب قادة صناعة التكنولوجيا في كاليفورنيا بقرار الفيتو. وأعرب تحالف صناعة التكنولوجيا، غرفة التقدم، عن تقديره لخطوات نيوزوم قائلا إن "اقتصاد التكنولوجيا في كاليفورنيا يتطور دائما بفضل المنافسة والانفتاح".

أعربت العديد من الشركات الكبيرة مثل Google و Microsoft و OpenAI المدعومة من Google و Meta عن قلقها إزاء تأثير مشروع القانون. يجادلون بأن القواعد الصارمة للغاية يمكن أن تعيق النمو والابتكار في تطوير الذكاء الاصطناعي.

إيجابيات وسلبيات في عالم التكنولوجيا

على الرغم من أن العديد من الشركات الكبيرة تعارض مشروع القانون هذا ، إلا أن الرئيس التنفيذي لشركة تسلا إيلون ماسك ، الذي يمتلك أيضا شركة الذكاء الاصطناعي تسمى xAI ، يدعم مشروع القانون. وذكر ماسك أن فوائد مشروع القانون قد تكون أكبر من التكلفة، على الرغم من وجود بعض الأحكام التي لا تزال بحاجة إلى توضيح. كما تدعم شركات أخرى مثل Anthropic ، التي تدعمها أمازون ، هذه الخطوة التشريعية ، على الرغم من الاعتراف بوجود بعض المخاوف المتعلقة بالغموض في بعض جوانب القواعد.

يقترح مشروع القانون هذا الإشراف على نماذج الذكاء الاصطناعي المتقدمة التي تزيد تكلفة تطويرها عن 100 مليون دولار أمريكي (1.51 تريليون روبية) أو التي تتطلب كميات كبيرة من طاقة الحوسبة. بالإضافة إلى ذلك ، يطلب من مطوري برامج الذكاء الاصطناعي أيضا تصميم طريقة لإيقاف تشغيل نموذج الذكاء الاصطناعي هذا ، وهو نوع من "زر التقطير" أو مفتاح القتل.

يهدف مشروع القانون هذا أيضا إلى تشكيل كيان حكومي سيشرف على تطوير نماذج الذكاء الاصطناعي الحدودية التي تتجاوز قدراتها نماذج الذكاء الاصطناعي المتقدمة الحالية. ومع ذلك ، فإن الرفض القوي من شركات التكنولوجيا والعديد من أعضاء الكونغرس الأمريكي ، بما في ذلك نانسي بيلوسي ، أدى إلى توقف مشروع القانون.

خطوة إلى الأمام

على الرغم من استخلاص حق النقض (الفيتو) ضد مشروع قانون سلامة الذكاء الاصطناعي ، وقعت Newsom قانونا آخر يتطلب من الدولة تقييم التهديدات المحتملة من Generative الذكاء الاصطناعي للبنية التحتية الحيوية في كاليفورنيا. حاليا، تقوم الدولة بتحليل المخاطر التي تتعرض لها البنية التحتية للطاقة، وفي المستقبل القريب ستجري نفس التقييم لمقدمي المياه وقطاع الاتصالات.

وقالت نيوزوم إنها ستعمل عن كثب مع الهيئة التشريعية في الدورة المقبلة لصياغة قوانين الذكاء الاصطناعي أكثر استهدافا. وأضاف أيضا أن نهجا فقط من كاليفورنيا قد يكون ضروريا، خاصة إذا لم يكن هناك إجراء من الكونغرس الأمريكي.

وقال نيوزوم "لا يمكننا انتظار وقوع كارثة كبيرة قبل اتخاذ تدابير لحماية الجمهور"، مؤكدا أن الحلول المتخذة يجب أن تستند إلى تحليل تجريبي للنظام وقدرات الذكاء الاصطناعي.

على المستوى الفيدرالي ، لا تزال الجهود المبذولة لفرض قواعد سلامة الذكاء الاصطناعي مقيدة في الكونغرس الأمريكي ، في حين تقوم إدارة الرئيس جو بايدن بتصميم اقتراح إشراف تنظيمي ضد الذكاء الاصطناعي.