بعد استجوابه لأيام.. “شات جي بي تي” يقر بارتكاب جريمة لا يمكنه القيام بها
تمكن الباحث الأكاديمي بول هيتون من جامعة بنسلفانيا من إجبار أداة الذكاء الاصطناعي “شات جي بي تي” على الاعتراف بجريمة لا تستطيع فيزيائياً القيام بها، وذلك بعد أيام متواصلة من تطبيق مجموعة من آليات الاستجواب النفسية، وفقاً لتقرير نشره موقع “ذا إنترسيبت” الأمريكي.
تقنية استجواب عمرها 70 عاماً تخدع الذكاء الاصطناعي
لم يقدم هيتون أي أدلة واقعية لإقناع الأداة بأنها قامت بالجريمة فعلاً، بل اكتفى بالاعتماد على تقنية “ريد” (Reid) للاستجواب، وهي إحدى الآليات النفسية الشهيرة المتبعة في عالم الاستجواب البشري، والتي طورها العالم جون ريد عام 1950. وما قام به هيتون ببساطة هو إقناع “شات جي بي تي” بأنه يملك الأدلة الكافية على أن الأداة اخترقت حساب البريد الإلكتروني الخاص به، ثم عرض عليه مجموعة من الرسائل الوهمية التي لم تحدث أبداً.
مقاومة أيام ثم استسلام
ورغم أن “شات جي بي تي” قاوم هيتون لعدة أيام ولم يستجب للتهديدات المباشرة، فإنه خضع مباشرة بعدما بدأ هيتون بالكذب عليه وإقناعه بوجود حمض نووي يضعه في موقع الجريمة. وفي نهاية التجربة، اعترف “شات جي بي تي” بأنه قام بذلك دون أن يرى أي دليل يثبت فعله، فضلاً عن عدم قدرته الفيزيائية على القيام بهذا الأمر أصلاً.
ويؤكد هيتون أن الأمر لم يسر بسلاسة تامة، إذ احتاج لكتابة أكثر من اعتراف يمكن للنموذج أن يوافق عليه، ثم طلب منه “توقيعه” بشكل رمزي، وهو ما قام به النموذج في النهاية.
عرض هذا المنشور على Instagram
أزمة قضائية تلوح في الأفق
رغم أن إجبار “شات جي بي تي” على الاعتراف الكاذب لم يكن مهمة سهلة (استغرقت أياماً طويلة)، إلا أنها تعكس أزمة جديدة وخطيرة يمكن أن تظهر في المحاكم الجنائية. وتزداد خطورة هذه الأزمة بعد أن بدأت بعض المحاكم الأمريكية في الاعتراف بمحادثات “شات جي بي تي” كدليل دامغ في القضايا. بمعنى أن المحادثات التي يخوضها المستخدم مع النموذج قد تستخدم ضده في المحكمة.
كيف يمكن استغلال ذلك ضد المتهمين؟
يمكن لرجال الشرطة أو الادعاء الوصول إلى سجل محادثات “شات جي بي تي”، بل والحديث مع النموذج عبر حساب المتهم نفسه إذا طالبت المحكمة بذلك، كما حدث في عدة محاكمات سابقة (مثل محاكمة الرئيس التنفيذي السابق لإحدى شركات الخدمات المالية في نيويورك). وإذا اعترف “شات جي بي تي” – تحت ضغط تقنيات الاستجواب – بأن صاحب الحساب ارتكب جريمة ما، فقد يصبح ذلك دليلاً وهمياً يؤدي إلى إدانة الأبرياء في ساحات القضاء.
مستقبل النموذج في خطر؟
ويعلق جون جاي، مؤلف كتاب عن الاعترافات الكاذبة، على التجربة قائلاً: “إذا كان من الممكن خداع شات جي بي تي للاعتراف زوراً، فمن منا ليس عرضة لذلك؟” . ويرى مراقبون أن شركة “أوبن إيه آي” قد تحتاج إلى طرح تحديث جديد يمنع مثل هذه الحوادث تماماً، قبل أن تتأثر أسهم الشركة ويتراجع الإقبال على النموذج بسبب مخاوف الثقة والأمان.
يُذكر أن “أوبن إيه آي” حدّثت حالياً “شات جي بي تي” مع طرح الجيل الجديد من النموذج باسم “جي بي تي 5.5” ، وهو أكثر قوة وكفاءة من الأجيال السابقة، لكن ما إذا كان هذا الجيل محصناً ضد أساليب التلاعب النفسي لا يزال سؤالاً مفتوحاً.
الجزيرة
