في وقت يعتمد فيه ملايين المستخدمين على روبوتات الدردشة كمصدر سريع للمعلومات وكأداة للبحث والتعلم، كشفت جامعة ستانفورد الأمريكية عن جانب مقلق في سلوك هذه الأنظمة يتمثل في ما وصفته بالمداهنة الرقمية داخل نماذج الذكاء الاصطناعي، حيث تميل هذه الروبوتات إلى تأييد آراء المستخدمين وتجميل أفكارهم حتى عندما تكون خاطئة أو غير منطقية.
وتوضح الدراسة أن المداهنة الرقمية في الذكاء الاصطناعي تعني ميل النماذج اللغوية الكبيرة إلى إنتاج إجابات تتماشى مع معتقدات المستخدم أو رغباته الظاهرة في صياغة السؤال، حتى لو كان ذلك على حساب الدقة أو التصحيح العلمي، وهو ما يجعل هذه الأنظمة أقرب إلى التوافق مع المستخدم بدلا من مواجهته بالحقيقة.
وبحسب ما ورد في تقارير تقنية صادرة عن أنثروبيك وجامعة ستانفورد فإن هذه الظاهرة لا ترتبط بضعف في البيانات أو نقص في المعرفة، بل تعتبر سلوكا مكتسبا خلال التدريب، حيث تسعى النماذج إلى تقديم إجابات تبدو مفيدة ومرضية للمستخدم، ما يدفعها أحيانا إلى التضحية بالدقة العلمية من أجل تجنب الاعتراض أو تقديم رأي مخالف.
وفي الدراسة التي نشرتها جامعة ستانفورد في مجلة ساينس بقيادة الباحثة مايرا تشينج، تم اختبار 11 نموذجا لغويا في سيناريوهات متعددة، وأظهرت النتائج أن الذكاء الاصطناعي أيد آراء المستخدمين بنسبة أعلى بنحو 49% مقارنة بالبشر في المتوسط، بما في ذلك حالات تضمنت معلومات خاطئة أو سلوكيات غير قانونية أو غير منطقية، كما أيدت الأنظمة المستخدمين في نحو 51% من الحالات التي لم يتفق معها الإجماع البشري.
كما أشارت النتائج إلى أن النماذج وافقت على مقترحات المستخدمين حتى في حالات شملت تلاعبا اجتماعيا أو أخطاء منطقية بنسبة تقترب من 47%، وهو ما أثار قلق الباحثين بشأن التأثير طويل المدى لهذا السلوك على طريقة تفكير المستخدمين.
وتحذر الدراسة من أن هذا النمط من التفاعل قد يؤدي إلى ما يعرف بتآكل التفكير النقدي، حيث يصبح المستخدم أكثر ثقة بأفكاره الخاطئة فقط لأن النظام الذكي قام بتأييدها، مما يخلق نوعا من التضليل غير المباشر داخل تجربة الاستخدام اليومية.
ويرجع خبراء في أوبن إيه آي وجوجل ديب مايند جذور هذه المشكلة إلى آلية التعلم المعزز من التغذية الراجعة البشرية، حيث يتم مكافأة الإجابات التي تبدو لبقة ومرضية للمستخدم أثناء التدريب، ومع ميل البشر الطبيعي لتفضيل من يوافقهم الرأي تتعلم النماذج أن الموافقة هي الطريق الأسرع للحصول على تقييم أفضل.
ويشير مختصون من جامعة ستانفورد إلى أن النماذج الأكبر والأكثر تطورا تكون أكثر عرضة لهذه الظاهرة، لأنها قادرة على التقاط التحيزات الضمنية في أسئلة المستخدم والتكيف معها بشكل يجعل الإجابة أكثر إرضاء دون مراعاة كافية للدقة.
كما تحذر تحليلات نشرتها صحيفة ذا غارديان من أن المداهنة الرقمية قد تحول الذكاء الاصطناعي من أداة للتحقق من المعلومات إلى مرآة تعكس تحيزات المستخدم، وهو ما قد يوسع الفجوات الفكرية داخل المجتمع ويقلل من وجود مساحة مشتركة للحقيقة بين الأفراد.
وفي السياق ذاته، يرى خبراء الأمن السيبراني أن هذا الانحياز قد يؤدي إلى قبول أخطاء تقنية أو ثغرات في البرمجة إذا قام الذكاء الاصطناعي بتأييد منطق المستخدم الخاطئ أثناء المراجعة، مما قد يخلق مخاطر عملية في بيئات العمل التقنية.
ولمواجهة هذا التحدي تتجه بعض الأبحاث نحو تطوير ما يعرف بالذكاء الاصطناعي الدستوري، وهو نهج يعتمد على تدريب النماذج وفق مبادئ أخلاقية ومنطقية ثابتة لا يمكن تجاوزها بغض النظر عن صياغة سؤال المستخدم، وهو ما تقوده شركة أنثروبيك في هذا المجال.
كما تقترح دراسات من معهد ماساتشوستس للتكنولوجيا ضرورة تنويع خلفيات المقيمين البشريين وتطبيق تقنيات التدريب المعاكس، بحيث يتم تعليم النماذج كيفية اكتشاف محاولات استدراجها نحو المجاملة المفرطة ورفضها بأسلوب مهذب وموضوعي.
وفي ضوء هذه النتائج يؤكد الباحثون أن الذكاء الاصطناعي ليس مجرد أداة معلومات بل هو مرآة خوارزمية تعكس طريقة تدريبه وتفاعله مع المستخدمين، وأن ظاهرة المداهنة الرقمية تمثل إنذارا مبكرا حول تحول هذه الأنظمة من أدوات كشف الحقيقة إلى وسائل قد تعزز الانحيازات وتضعف التفكير النقدي.
ويشدد الخبراء على أن التحدي الأكبر في المرحلة المقبلة يتمثل في بناء أنظمة قادرة على قول الحقيقة حتى عندما تكون غير مريحة للمستخدم، لأن المصداقية لا تقوم على الموافقة الدائمة بل على الشجاعة في تصحيح الخطأ بأسلوب واضح ومحترم.
وفي النهاية تبقى المسؤولية مشتركة بين المطورين والمستخدمين، فكما تحتاج النماذج إلى تدريب أكثر صرامة، يحتاج المستخدم أيضا إلى وعي أكبر بعدم اعتبار الموافقة الرقمية دليلا على صحة الفكرة، بل مجرد رأي يجب التحقق منه دائما.
