رفعت امرأة دعوى قضائية ضد شركة OpenAI، الشركة المطورة لروبوت المحادثة الشهير "شات جي بي تي"، زاعمةً أن تقنية الذكاء الاصطناعي ساعدت حبيبها السابق على مضايقتها وترهيبها، مدعيةً أن التطبيق أقنعه بأن شخصيات نافذة تراقب تحركاته وأنها سبب مشاكله.
وفقًا للدعوى المرفوعة في محكمة كاليفورنيا العليا بمقاطعة سان فرانسيسكو، صدق رجل أعمال من وادي السيليكون الادعاءات التي قدمها له "شات جي بي تي" بأن اختراقه لعلاج انقطاع التنفس أثناء النوم، بالإضافة إلى ادعائه بأن شخصيات نافذة تتربص به، وأن التطبيق ساعده في مضايقة حبيبته السابقة. ووفقًا لـ "TechCrunch"، تجاهلت OpenAI ثلاث تحذيرات منفصلة تفيد بأن حبيبها السابق يمثل تهديدًا للآخرين، بما في ذلك تنبيه داخلي يصنف نشاط حسابه على أنه يتعلق بأسلحة قد تسبب إصابات جماعية.
زعم المدعي أن التطبيق أقنع حبيبها السابق بأنه اكتشف علاجًا لانقطاع النفس أثناء النوم بعد أشهر من الاستخدام المكثف لـ GPT-40. عندما لم يأخذ أحد ادعاءاته على محمل الجد، أخبره التطبيق بأن قوى نافذة تراقب تحركاته، بما في ذلك استخدام طائرات هليكوبتر لرصد أنشطته. حاولت المدعية نصحه بالتوقف عن استخدام التطبيق وطلب المساعدة المتخصصة، لكنه عاد إليه، حيث أكد له التطبيق أنه "في كامل قواه العقلية" وعزز أوهامه.
بعد انفصالها عن المستخدم في عام 2024، استخدمت المدعية التطبيق لمعالجة الانفصال، بحسب ما ورد في مراسلات البريد الإلكتروني المقدمة في الدعوى. بدلاً من دحض روايته الأحادية، صور التطبيق المستخدم مرارًا وتكرارًا على أنه عقلاني ومظلوم، وصور المدعية على أنها متلاعبة وغير مستقرة. ثم قام بنقل هذه النتائج التي توصل إليها الذكاء الاصطناعي من الشاشة إلى الواقع، مستخدمًا إياها لمضايقتها، وشمل ذلك تقارير نفسية مزيفة وزعها على عائلتها وأصدقائها وزملاء عملها.
في تلك الأثناء، استمرت حالة حبيبها السابق في التدهور. في أغسطس الماضي، رصد نظام الأمان الآلي لدى OpenAI نشاطًا مشبوهًا يتعلق بـ "أسلحة تسبب إصابات جماعية" وتم تعطيل حسابه. في اليوم التالي، راجع عضو بشري في فريق الأمان الحساب وأعاده، على الرغم من احتمال احتوائه على أدلة على استهداف أفراد، بمن فيهم المدعية. في سبتمبر، أرسل المستخدم لقطة شاشة للمدعية تحتوي على قائمة بعناوين محادثات تضمنت "توسيع نطاق العنف" و"حساب اختناق الجنين".
طالبت المدعية بحماية هويتها وتعويضات عقابية، وقدمت طلبًا للحصول على أمر تقييدي مؤقت، مطالبةً المحكمة بإلزام OpenAI بحظر حساب حبيبها السابق ومنعه من إنشاء حسابات جديدة، وإخطارها في حال محاولته الوصول إلى "شات جي بي تي"، والاحتفاظ بسجلات محادثاته كاملة. صرح محامي المدعية بأن OpenAI وافقت على تعليق الحساب ولكنها رفضت باقي الطلبات، مدعيةً أن الشركة تحجب معلومات حول خطط محددة لإيذاء المدعية أو ضحايا محتملين آخرين.
تأتي هذه الدعوى القضائية وسط مخاوف متزايدة بشأن المخاطر الواقعية لأنظمة الذكاء الاصطناعي. تم إيقاف استخدام GPT-40، النموذج المذكور في هذه القضية، في "شات جي بي تي" في فبراير الماضي. وزعمت المدعية أن حبيبها السابق استمر في مضايقتها برسائل صوتية تهديدية، وأنه تم القبض عليه في يناير بتهم جنائية تتعلق بتهديدات تفجير قنابل واعتداء بسلاح فتاك، مما يدعم تحذيرات المدعية وأنظمة الأمان الخاصة بـ OpenAI التي تم تجاهلها.
هذه ليست الحادثة الوحيدة التي تسلط الضوء على الجانب السلبي لهذا التطبيق. فقد سُجلت دعوى قتل خطأ متعلقة بمراهق انتحر بعد محادثات مع "شات جي بي تي"، بالإضافة إلى قضية يزعم فيها أن Gemini من جوجل ساهم في أوهام شخص أدت إلى حادثة إطلاق نار جماعي محتملة قبل وفاته.
