الذكاء الإصطناعي يثير مخاوف جديدة بشأن تطوير الأسلحة الكيميائية والبيولوجية

الرئيسية تكنولوجيا / Ecco Watan

الكاتب : محرر الصفحة

Aug 28 26|18:14PM :نشر بتاريخ

حذرت دراسة أمنية من أن تطور الذكاء الاصطناعي، خصوصا النماذج مفتوحة المصدر، قد يسهل على جهات خبيثة الوصول إلى معلومات لتطوير أسلحة كيميائية وبيولوجية.

وبحسب تقرير أعدته مجموعة الأبحاث Crimson Flare، فإن بعض نماذج الذكاء الاصطناعي المتاحة تجاريا يمكن تعديلها لإزالة أنظمة الحماية المدمجة فيها، بما يسمح لها بالإجابة عن أسئلة ترفض النماذج الأصلية التعامل معها.

ويحذر باحثون أمنيون من أن هذه التطورات قد تخفض الحواجز التقنية أمام أشخاص لا يمتلكون خبرة متخصصة، بعدما كانت المعرفة اللازمة للتعامل مع مواد شديدة الخطورة محصورة إلى حد كبير بين العلماء والمتخصصين.

ويعرف أحد الأساليب المستخدمة لتجاوز قيود السلامة في نماذج الذكاء الاصطناعي بشكل غير رسمي باسم "التدمير"، ويهدف إلى إزالة أجزاء من النموذج مسؤولة عن رفض بعض الطلبات. وبحسب التقرير، يمكن تنفيذ هذه العملية خلال فترة قصيرة وباستخدام أدوات متاحة على الإنترنت ومعرفة أساسية بالبرمجة.

ولا يقتصر الخطر على إمكانية تعديل النماذج، إذ يمكن أيضا العثور على نسخ معدلة مسبقا وتحميلها من الإنترنت. وقالت صحيفة "ديلي ميل" إنها تمكنت خلال دقائق من العثور على عدة نسخ توصف بأنها "غير خاضعة للرقابة" من نماذج متاحة للاستخدام.

ويشير التقرير إلى أن بعض هذه النماذج لا يقدم سوى معلومات عامة، فيما قد تقدم نماذج أخرى إجابات أكثر تفصيلا، وهو ما يثير مخاوف بشأن إمكانية استخدامها في أنشطة خطرة.

ويحذر التقرير من أن نماذج اللغة الكبيرة مفتوحة المصدر، والقوية وغير الخاضعة للرقابة، قد تمثل تهديدا متزايدا للأمن القومي، خصوصا عندما يمكن تشغيلها محليا دون الحاجة إلى الاتصال بخوادم الشركات المطورة.

وتختلف هذه النماذج عن خدمات الذكاء الاصطناعي التي تعمل عبر الإنترنت، إذ يستطيع المستخدم تنزيل النموذج وتشغيله مباشرة على جهازه. وهذا يجعل مراقبة استخدامه أكثر صعوبة، بحسب الباحثين، لأن البيانات والطلبات لا تمر بالضرورة عبر خوادم خارجية يمكن للشركات أو الجهات المختصة مراقبتها.

ويرى التقرير أن هذا التطور يمثل تغيرا مهما مقارنة بالسنوات الماضية، عندما كانت القدرة الحاسوبية اللازمة لتشغيل نماذج الذكاء الاصطناعي المتقدمة محليا محدودة ومتاحة لعدد قليل من المستخدمين.

ويقدر الباحثون أن نحو 87٪ من الأسر أصبحت قادرة على تشغيل بعض أنظمة الذكاء الاصطناعي محليا باستخدام المعدات المتاحة لديها حاليا، ما يعني أن الوصول إلى هذه التقنيات لم يعد مقتصرا على المؤسسات الكبيرة أو المختبرات المتخصصة.

وقال البروفيسور أليستر هاي، عالم السموم البريطاني والخبير في الحرب الكيميائية، إن الذكاء الاصطناعي يخفض مستوى الخبرة التقنية المطلوبة للتعامل مع مواد خطرة، بعدما كانت المعرفة اللازمة لذلك تشكل حاجزا أمام غير المتخصصين.

وأضاف هاي أن تطور المختبرات السحابية وأدوات الذكاء الاصطناعي قد يسمح بتفويض جزء من المعرفة والخبرة اللازمة إلى الأنظمة الرقمية.

وبعد الاطلاع على إجابات قدمها أحد نماذج الذكاء الاصطناعي، قال هاي للباحثين إن المعلومات التي وفرها النموذج تشبه "وصفة"، معتبرا أنها تقترب من مستوى المعرفة التي يمتلكها طلاب المختبرات.

ومع ذلك، يؤكد التقرير أن خطر تنفيذ هجوم إرهابي باستخدام أسلحة كيميائية أو بيولوجية لا يزال منخفضا، بسبب العوائق التقنية والعملية الكبيرة المرتبطة بإنتاج هذه الأسلحة والتعامل معها.

لكن الباحثين يحذرون من أن تطور الذكاء الاصطناعي قد يغير طبيعة هذه المخاطر مستقبلا، عبر تسهيل الوصول إلى المعرفة التي كانت تتطلب في السابق تدريبا علميا متخصصا، وهو ما يفرض تحديات جديدة أمام الحكومات وشركات التكنولوجيا لمنع إساءة استخدام هذه النماذج.