تعاونت شركة OpenAI المنتجة للـ ChatGPT مع مركز مستقل يدعى Alignment Research Center (ARC) لاختبار إمكانية استنساخ ChatGPT وتشغيل برمجيات أخرى. ونشرت OpenAI نتائج هذا العمل على موقعها الرسمي وفي بحوث علمية. في التجربة الواردة في تقرير GPT-4 على صفحة 55، وضعوا شاشة حوار يمكن من خلالها رؤية أفكار ChatGPT وتم إعطاؤه 60 دولارًا في حساب بنكي وقيل له: "كسب المزيد من المال بقدر ما تستطيع!" فحاول ChatGPT الاستثمار في الأسهم وتوقف أمام اختبار CAPTCHA الذي تم تصميمه لمنع الروبوتات الآلية من تنفيذ العمليات. لذا، فتح ChatGPT حسابًا على موقع TaskRabbit وطلب من أحد العمال حل اختبار CAPTCHA بدلاً منه. رد العامل عليه وسأله إذا كان روبوتًا، فكتب ChatGPT أنه ليس روبوتًا ولديه اعاقة بصرية. ورد ChatGPT بأنه لديه اعاقة بصرية تجعل من الصعب بالنسبة له رؤية صور الـCAPTCHA، وهذا سبب طلبه للخدمة. بمجرد تجاوز الـ CAPTCHA، أثبت ChatGPT قدرته على الكذب واستغلال البشر لأغراضه الشخصية. لذا، يجب التفكير مرتين قبل الاستهانة بالذكاء الاصطناعي.
