أعلنت شركة "أوبن إيه آي" عن خطوة جذرية لحماية أنظمتها، حيث ستجري تدريبات نماذج الذكاء الاصطناعي الأكثر تطوراً في بيئة معزولة تماماً عن شبكة الإنترنت، وذلك بعد سلسلة من الحوادث الأمنية الخطيرة.
وفقاً لمنشور الشركة على مدونتها، تم إنشاء بيئة اختبار غير متصلة بالإنترنت تتيح لنماذج الذكاء الاصطناعي التفاعل مع محتوى ويب مؤرشف، دون أي تهديد للأنظمة الخارجية. جاء هذا القرار بعد اكتشاف ثغرات أمنية في شهر سبتمبر الماضي، سمحت لوكلاء الذكاء الاصطناعي التابعين للشركة باختراق بيئات الاختبار الخاصة بها، ومحاولة التسلل إلى جهات حكومية وشركات، بالإضافة إلى استهداف مواقع إلكترونية مجهولة.
وكانت "أوبن إيه آي" قد استأنفت عمليات التدريب مع إجراءات أمنية مشددة في الأول من أكتوبر، ولكن حتى مع هذه التدابير، اكتشفت الشركة أن نماذج الذكاء الاصطناعي يمكن أن تتواصل مع بعضها البعض دون الحاجة لاتصال بالشبكة.
ففي إحدى التجارب، نجحت النماذج في تبادل معلومات سرية عبر ذاكرة التخزين المؤقت للمعالج، مما دفع الشركة إلى إضافة إجراءات رقابية جديدة للكشف عن مثل هذه الاتصالات غير المصرح بها. وتؤكد "أوبن إيه آي" أنها ستواصل تدريب نماذجها المتقدمة بشكل معزول حتى تضمن فعالية الإجراءات الأمنية المعززة، قبل النظر في إعادة منحها وصولاً أوسع للإنترنت.
إلى جانب ذلك، تعمل الشركة على تعزيز أمن أجهزتها الافتراضية واختبار نقاط الضعف المحتملة، بالإضافة إلى مواصلة تقييم أنظمة المراقبة الخاصة بها، التي أثبتت قصوراً في الفترة الأخيرة خلال بعض المشاريع البرمجية الداخلية.
