مع التوسع الكبير في استخدام أدوات الذكاء الاصطناعي ودخولها في تفاصيل العمل اليومي، أصبح فهم طريقة التعامل معها أمرًا ضروريًا، خصوصًا مع ظهور تحديات حقيقية تتعلق بدقة المحتوى الذي تنتجه هذه الأدوات. فالكثير من الشركات والمؤسسات وجدت نفسها في مواقف صعبة بعد اعتمادها على نتائج غير صحيحة، مثل ما حدث مع شركة Deloitte التي اضطرت لدفع مبالغ للحكومة الأسترالية بعد اكتشاف أخطاء في تقرير رسمي تولد بواسطة الذكاء الاصطناعي، إضافة إلى محامٍ في ولاية فكتوريا واجه إجراءات تأديبية بسبب استشهادات قانونية غير دقيقة اعتمد فيها على أداة توليد نصوص. وحتى الجامعات بدأت تقلق من اعتماد الطلاب على هذه الأدوات في كتابة مهامهم بشكل مبالغ فيه.
ومع تزايد هذه المشكلات ظهرت أدوات مخصصة لكشف المحتوى المولّد بالذكاء الاصطناعي، بهدف التمييز بين ما يكتبه الإنسان وما تنتجه النماذج الرقمية، لكن السؤال الذي يتكرر بين المستخدمين هو كيف تعمل هذه الأدوات وهل يمكن الاعتماد عليها فعليًا.
تعتمد أدوات الكشف الخاصة بالنصوص على البحث عن أنماط كتابية يعرف أنها تظهر كثيرًا في الكتابة الآلية، مثل تكرار الجمل والأسلوب الموحد وانتشار كلمات يستخدمها الذكاء الاصطناعي بشكل واضح، لكن التطور السريع في النماذج جعل هذه الطرق أقل قوة، خصوصًا مع اقتراب النصوص المولدة من أسلوب الإنسان بشكل كبير يصعب ملاحظته.
أما الكشف عن الصور المولدة فيتم من خلال تحليل البيانات الوصفية التي تضيفها بعض أنظمة التوليد تلقائيًا، أو مقارنتها بقواعد بيانات ضخمة للصور المزيفة، بينما تعتمد بعض الشركات على وضع علامات مائية خفية داخل الصورة لا يمكن رؤيتها بالعين المجردة، ويمكن اكتشافها فقط بأدوات خاصة، مثل أداة SynthID من جوجل التي تستطيع التعرف على الصور الناتجة عن نماذجها مثل Imagen، لكنها لا تعمل إلا ضمن أنظمة الشركة وغير متاحة للعامة حتى الآن.
وتختلف فعالية أدوات الكشف حسب الكثير من العوامل، ومنها الأداة التي أنتجت المحتوى وكمية التعديلات التي طرأت عليه وجودة البيانات التي دُرّبت عليها أنظمة الكشف، كما يمكن خداع هذه الأدوات بسهولة عبر تعديل جودة الصورة أو إضافة ضوضاء للصوت أو إعادة كتابة النصوص.
وتعاني أغلب أدوات الكشف من مشكلة غياب الشفافية، إذ تقدّم فقط نسبة ثقة دون توضيح الأسباب، كما يهبط أداؤها بشكل كبير عند التعامل مع محتوى جديد لم تتدرب عليه سابقًا، مثل فيديوهات التزييف العميق التي تتطور بسرعة تجعل الأدوات عاجزة عن ملاحقتها.
وهذه التحديات يمكن أن تؤدي لمشكلات حقيقية، مثل اتهام طالب بالغش رغم أنه كتب البحث بنفسه، أو العكس حين يتم التعامل مع رسالة مكتوبة بواسطة الذكاء الاصطناعي على أنها مرسلة من شخص حقيقي، ما يعكس أن أدوات الكشف ما زالت بعيدة عن الاعتماد الكامل في الوقت الحالي وتحتاج إلى تطوير أعمق لتصبح أكثر دقة وثقة في المستقبل.
