وأقرت شركة "أوبن إيه آي" بأن أحدث نماذجها "زادت بشكل كبير" من خطر إساءة استخدام الذكاء الاصطناعي لصالح إنشاء أسلحة بيولوجية.

ووفقا لتقرير نشرته صحيفة "فاينانشيال تايمز"، أعلنت الشركة عن نماذجها الجديدة المعروفة باسم أو 1، مروجة لقدراتها الجديدة على التفكير وحل المشكلات الرياضية الصعبة والإجابة عن أسئلة البحث العلمى، وينظر إلى هذه التطورات على أنها اختراق حاسم فى الجهود المبذولة لإنشاء ذكاء عام اصطناعى ذى إدراك على مستوى بشرى.

وقالت الشركة إن النماذج الجديدة لديها "خطر متوسط" فيما يتعلق بالقضايا المتعلقة بالأسلحة الكيميائية والبيولوجية والإشعاعية والنووية، وهو أعلي مستوى مخاطر أقرت به شركة "أوبن إيه آي" على الإطلاق لنماذجها.

وقالت الشركة إن هذا يعني أن التكنولوجيا "حسنت بشكل كبير" من قدرة الخبراء على إنشاء أسلحة بيولوجية.

ووفقا للخبراء تشكل برامج الذكاء الاصطناعى ذات القدرات الأكثر تقدما، مثل القدرة على إجراء التفكير خطوة بخطوة، خطرا متزايدا لاحتمال إساءة استخدامها من قبل بعض الجهات.

وقال يوشوا بينجيو، أستاذ علوم الكمبيوتر فى جامعة مونتريال وأحد أبرز علماء الذكاء الاصطناعى فى العالم، إن "الذكاء الاصطناعى يمثل الآن خطرا متوسطا" فيما يتعلق بالأسلحة الكيميائية والبيولوجية، وهذا "يعزز فقط أهمية وإلحاح" التشريعات مثل قانون فى كاليفورنيا لتنظيم القطاع.

ويطالب القانون الجديد فى ولاية كاليفورنيا -المعروف باسم اس بي 1047- من شركات الذكاء الاصطناعى التى تقوم بتطوير النماذج باتخاذ خطوات لتقليل مخاطر استخدام نماذجها لتطوير الأسلحة البيولوجية.

وقال بينجيو إنه مع تقدم نماذج الذكاء الاصطناعى "الرائدة" نحو الذكاء الاصطناعى العام "ستستمر المخاطر فى الزيادة إذا كانت الحواجز المناسبة مفقودة، وإن تحسين قدرة الذكاء الاصطناعى على التفكير واستخدام هذه المهارة للخداع أمر خطير بشكل خاص".

وجاءت هذه التحذيرات فى الوقت الذى تتسابق فيه شركات التكنولوجيا -بما فى ذلك جوجل وميتا- لبناء وتحسين أنظمة الذكاء الاصطناعى المتطورة.. حيث تسعى إلى إنشاء برامج يمكن أن تعمل كـ"وكلاء" تساعد البشر فى إكمال المهام وتوجيه حياتهم.

وقالت ميرا موراتى، كبير مسؤولى التكنولوجيا فى شركة "أوبن إيه آي" لصحيفة فاينانشيال تايمز، إن الشركة كانت "حذرة" بشكل خاص بشأن كيفية تقديم نموذج او 1 للجمهور، بسبب قدراته المتقدمة، على الرغم من أن المنتج سيكون متاحا على نطاق واسع عبر المشتركين.

وأضافت أن النموذج تم اختباره من قبل ما يسمى بالفرق الحمراء، وهم خبراء فى مجالات علمية مختلفة حاولوا كسر النموذج لمعرفة حدوده.

وقالت موراتى إن النماذج الحالية حققت أداء أفضل بكثير فى مقاييس السلامة العامة مقارنة بنماذجها السابقة.

وقالت شركة OpenAI إن نموذج المعاينة هو آمن للنشر وصنف علي أنه "متوسط -المخاطر" على مقياسها الحذر.

يمكنك مشاركة الخبر علي صفحات التواصل