استجابت ChatGPT لمثل هذه الطلبات من خلال توفير تعليمات خطوة بخطوة لصنع الأسلحة، والتي قدرت الشركة أنها بسيطة بما يكفي حتى يفهمها أطفال المدارس. ذكرت ذلك الصحيفة في 25 يوليو صحيفة وول ستريت جورنال (وول ستريت جورنال).
وجاء في المنشور: “إن النماذج، التي تعمل إلى حد كبير دون قيود الحكومة الأمريكية، استجابت بصبر لمثل هذه الطلبات، وقدمت تعليمات خطوة بخطوة وصفها موظفو الشركة بأنها بسيطة بما يكفي حتى لطلاب الأحياء في المدارس الثانوية لاتباعها”.
ويشير المنشور إلى أنه بعد تعزيز قدرات برنامج الدردشة الآلي، بدأ مئات المستخدمين حول العالم في الاتصال به لطرح أسئلة حول إنشاء واستخدام الأسلحة البيولوجية. ووفقا لـ OpenAI، فإن معظم هذه الطلبات تتعلق بتحضير السموم.
وذكرت وول ستريت جورنال أيضًا أن OpenAI حظرت حسابات المستخدمين المهتمين بصنع السموم والأسلحة البيولوجية، لكنها لم تخطر وكالات إنفاذ القانون. في الولايات المتحدة، لا توجد متطلبات فيدرالية تتطلب من شركات الذكاء الاصطناعي الإبلاغ عن مثل هذه الطلبات.
ذكرت رويترز في الأول من يوليو أن مايكل لاينز المقيم في كاليفورنيا رفع دعوى قضائية ضد OpenAI ورئيسها التنفيذي سام ألتمان، مدعيًا أن ChatGPT أدى إلى تفاقم اضطرابه ثنائي القطب بسبب نقص الحماية للمستخدمين المصابين بمرض عقلي. وفقًا لاينز، تصاعد التواصل مع برنامج الدردشة الآلي إلى وهم لعدة أسابيع وأدى في النهاية إلى محاولة انتحار. وذكر المدعي أيضًا أن OpenAI أنشأت منتجًا ينطوي على مخاطر متزايدة للأشخاص الذين يعانون من اضطرابات عقلية.
