جاكرتا في الوقت الذي يتنافس فيه الجميع على إنشاء نموذج لغة كبيرة (LLM) أو ذكاء اصطناعي (الذكاء الاصطناعي) ، تحذر وكالات الاستخبارات البريطانية من التهديدات الأمنية المحتملة ل ChatGPT وغيرها من روبوتات الدردشة المنافسة.
نشر المركز الوطني للأمن السيبراني (NCSC) التابع لمقر الاتصالات الحكومية في المملكة المتحدة (GCHQ) منشورا على المدونة الرسمية ، مشيرا إلى أنه حقق في آليات الذكاء الاصطناعي التوليدية.
على الرغم من أنها تقول إن LLM الخاص بهم مثير للإعجاب بلا شك ، إلا أنه ليس ذكاء عاما اصطناعيا ويحتوي على بعض العيوب الخطيرة.
توصي NCSC المستخدمين بعدم تضمين معلومات شخصية أو حساسة في البرامج ، سواء كانت من صنع OpenAI أو غيرها.
وفقا ل NCSC ، هناك احتمال لتسرب الخصوصية والاستخدام غير القانوني للبيانات من قبل مجرمي الإنترنت. لأنه ، يتم تدريب LLMs على مجموعات البيانات الكبيرة (الإنترنت بالكامل) ، ولكن بمجرد هضم هذه المعلومات ، فإنها لا تستمر في التعلم من التعليمات التي أدخلها المستخدم ، حيث يتلقى ChatGPT ملايين المعلومات يوميا.
حاليا ، لا يوجد بالفعل خطر من تكرار روبوتات المحادثة لاستفسارات المستخدم كجزء من الإجابات على الآخرين ، يتم تخزين جميع الاستعلامات من قبل مطوريها.
ولكن في يوم من الأيام ، يجادل NCSC ، يمكن للمطورين استخدام هذه الاستعلامات المحفوظة لمواصلة تطوير نماذج LLM.
"قد يكون السؤال حساسا لأن البيانات مضمنة في الاستعلام ، أو بسبب من طرح السؤال (ومتى). تذكر أيضا تجميع المعلومات عبر استعلامات متعددة باستخدام نفس بيانات الاعتماد»، قال NCSC، كما نقلت عن DailyMail، الخميس 16 مارس.
بالإضافة إلى استخدامها من قبل المطورين ، فمن الأخطر أن يتم أيضا اختراق الاستعلامات أو تسريبها أو نشرها عن طريق الخطأ. على الرغم من أن متصفحات الويب عادة ما تخزن محفوظات الاستعراض وتكون عرضة لمواقف مماثلة ، يمكن للمستخدمين حذف عمليات البحث السابقة.
في حالات الاستخدام الأكثر شناعة ، تنص NCSC أيضا على أن روبوتات الدردشة المستندة إلى LLM ستكون قادرة على مساعدة المتسللين أو المحتالين على إنشاء رسائل بريد إلكتروني أكثر إقناعا للتصيد الاحتيالي بلغات متعددة.
بالإضافة إلى ذلك ، يمكن للأداة أيضا مساعدة المهاجمين في كتابة برامج ضارة أكثر تعقيدا مما جربوه من قبل. بالإضافة إلى ذلك ، يمكن للمهاجمين الأقل مهارة أيضا إنشاء برامج ضارة عالية القدرة من خلال LLM.
حول نقاط الضعف في LLM بدلا من الذكاء الاصطناعي العام ، يسلط مطور NCSC Holy Grail الضوء على عدد من القضايا ، بما في ذلك الروبوتات التي ترتكب أخطاء وتهلوس الحقائق الخاطئة ، والإشارة إلى التحيزات والسذاجة ، وإقناعها بإنشاء محتوى سام.
قال جريل: "إن LLM مثيرة للإعجاب بلا شك بسبب قدرتها على إنتاج كمية كبيرة من المحتوى المقنع بمجموعة متنوعة من اللغات البشرية والحاسوبية".
منذ إطلاقه في نوفمبر من العام الماضي ، تم استخدام ChatGPT من قبل ملايين الأشخاص حول العالم ، وتبناه تلاميذ المدارس والشركات ، والمساعدة في الواجبات المنزلية ، وخلق الشعر.
ثم سرعان ما ظهر لاعبون كبار مثل Microsoft الذين قاموا بدمج ChatGPT في محرك بحث Bing. سيتضمن متصفح الويب Edge الخاص به قريبا شريطا جانبيا ل ChatGPT.
في فبراير ، أطلقت Google أيضا روبوت الدردشة LLM الخاص بها ، Bard. وبالمثل ، لدى Meta دردشة LLaMA مخصصة فقط لاستخدامها من قبل أولئك الموجودين في مجتمع الذكاء الاصطناعي. الآن ، تعمل الشركة على روبوت محادثة عام.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
العلامات الأكثر شيوعًا
#رضوان كامل #فلسطين #برامونو أنونغ #حزب الله #الانتخابات المحلية 2024 #p diddyجمع
