كشف المحتوى المولد بالذكاء الاصطناعي

سؤالان يخلط بينهما دائما

السؤال الأول: هل صنعت آلة هذا الملف؟ والثاني: هل كتبت آلة هذا النص؟ يبدوان متشابهين وهما ليسا من جنس واحد أصلا. فللأول أحيانا جواب آلي، لأن الصانع ربما وضع داخل الملف علامة يستطيع أحدهم أن يذهب ويجدها. أما الثاني فلا جواب آلي له، ولم يقدم أحد جوابا له حتى اليوم.

ومن هنا يبدأ كل الالتباس في هذا المجال. فالسوق يبيع السؤال الثاني ويسلم في أحسن الأحوال جزءا من الأول. والأداة التي تقول لك إن احتمال الذكاء الاصطناعي اثنان وثمانون بالمئة لا تجيب عن السؤال الثاني؛ إنها تسلمك درجة تشابه إحصائي وأنت تقرؤها حكما.

وموقفنا في هذا الدرس واضح منذ البداية. إن كنت ستتخذ قرارا استنادا إلى شيء، فذلك الشيء يجب أن يكون قابلا للعرض: علامة داخل الملف، أو مصدر يفتح، أو رقم يبقى الرقم نفسه في موضعه الأصلي. أما درجة لا تستطيع فتحها وتتبع مصدرها فلم تصنع لاتخاذ قرار.

لماذا أغلقت أوبن إيه آي كاشفها الخاص

كاشف النص المولد بالذكاء الاصطناعي برنامج يقرأ كتابة ما ويخمن إن كانت من آلة أم من إنسان. وفي يناير 2023 أطلقت أوبن إيه آي واحدا من صنعها. وفي يوليو من العام نفسه ظهرت ملاحظة أعلى تلك الصفحة نفسها: «اعتبارا من 20 يوليو 2023، لم يعد المصنف متاحا بسبب انخفاض معدل دقته».

قف عند هذه الجملة، فهي تحمل معظم هذا الدرس. فالشركة التي بنت النموذج، وكانت تملك بيانات تدريبه، وكتبت مجزئ رموزه، وتستطيع توليد ما تشاء من مخرجاته، لم تستطع بناء كاشف ترضى أن تقف خلفه. وكل من يبيعك اليوم أداة كهذه يملك وصولا أقل مما ملكته تلك الشركة، لا أكثر. وكاشف النصوص الإحصائي هو الأداة الوحيدة في هذا المجال التي أغلقها صانعها نفسه.

وقد حملت النسخة الأولى من تلك الصفحة أرقام دقة أيضا. ولم نطبعها هنا، لأن نطاق أوبن إيه آي يعيد 403 لهذا الخادم، ونحن لا ننشر رقما لم نقرأه عند مصدره. أما جملة الإيقاف نفسها فطابقناها مع تقريرين مستقلين، ورابط الصفحة الأصلية في ذيل هذا الدرس لتفتحه بنفسك. وإن بدا لك غريبا أن تترك صفحة تعليمية رقما كان في متناولها، فتلك هي القاعدة نفسها التي شرحناها في درس هلوسة الذكاء الاصطناعي.

ماذا يفعل الكاشف بكتابة من ليست الإنجليزية لغته الأم

اختبرت دراسة نشرت في مجلة Patterns عدة كواشف واسعة الاستعمال على عينات كتابية من ناطقين أصليين بالإنجليزية وغير أصليين. والنتيجة صريحة: صنفت الكواشف عينات غير الأصليين على أنها مولدة بالذكاء الاصطناعي تصنيفا خاطئا ومتكررا، بينما تعرفت على عينات الأصليين تعرفا صحيحا. ويخلص المؤلفون إلى أن هذه الأدوات قد تعاقب دون قصد كتابا ذوي تعبير لغوي أضيق، ويحذرون من استعمالها في سياقات التقييم والتعليم.

وينبغي التدقيق هنا لأن إغراء التعميم كبير. فتلك الدراسة عن الكتابة الإنجليزية لغير الأصليين لا عن الفارسية. ونحن لم نر أي تقييم منشور لهذه الأدوات على النص الفارسي ولن ندعي ذلك. لكن الآلية وراء تلك النتيجة ليست مرتبطة بلغة بعينها: فهذه الأدوات مضبوطة على توزيع، وكل كتابة تقع خارج ذلك التوزيع ترفع عليها راية.

وجملة أخرى من المقالة نفسها تنقل أقل: أظهر المؤلفون أن استراتيجيات مطالبة بسيطة تقلل هذا التحيز وتتجاوز الكواشف تماما. ولن نقول ما تلك الاستراتيجيات، لا هنا ولا في أي موضع آخر من هذا الموقع. ولا حاجة إلى ذلك؛ فالخلاصة سطر واحد. الضابط الذي يهزمه أمر بسيط ليس ضابطا. فمن يريد العبور يعبر، ومن يقع في الشرك هو الكاتب الذي لم يكن يعلم أن هناك ما ينبغي عبوره.

كيف تقرأ الرقم الذي يعطيك إياه الكاشف

افترض أن لديك مئة نص، عشرة منها مولدة آليا، وكاشفا يصيب تسع مرات من كل عشر في الاتجاهين. سيمسك تسعة من النصوص العشرة الآلية. لكن معدل الخطأ نفسه يجري على النصوص التسعين البشرية فيتهم تسعة أشخاص آخرين. أي أن من بين الرايات الثماني عشرة المرفوعة، تسعا منها إنسان كتب عمله بنفسه. وهذان الرقمان مثال حسابي لا قياس لأي منتج. والذي يبقى مهما كانت الأرقام الحقيقية هو هذا: كلما كان ما تبحث عنه أندر، كبرت حصة الأبرياء بين الممسوكين.

والآن ضع كلفة الخطأين جنبا إلى جنب، فهما ليستا متساويتين. إن أفلت منك نص آلي، فقد نشرت صفحة عادية. وإن اتهمت كاتبا ظلما، فقد وصفت إنسانا بالكذب. ولا يمكن ضبط هاتين الحالتين بعتبة واحدة، وحيثما كانت الكلفتان غير متماثلتين وجب أن تكون العتبتان كذلك.

فماذا تفعل عمليا. درجة الكاشف في أقصى حالاتها إشارة إلى أن تنظر عن قرب، وليست نتيجة أبدا. فإن كانت الدرجة مرتفعة، اذهب إلى ما يمكن التحقق منه فعلا: افتح ادعاءات النص، واقرأ مصادره، واسأل الكاتب كيف وصل إلى تلك النتيجة. فما يخرج من هذه المحادثة قابل للدفاع عنه. أما الرقم فلا.

العلامات التي يمكن التحقق منها فعلا

الطرف الأخضر من الطيف هو حيث وضع الصانع علامة عمدا. وله عائلتان والفرق بينهما مهم: العلامة المائية تدمج داخل المحتوى نفسه، أما شهادة المحتوى فحزمة معلومات تلصق بالملف. وكلتاهما مكتوبة داخل الملف نفسه، ومن يملك الملف يستطيع أن يبحث عنها.

وSynthID لغوغل ديب مايند، وبحسب صفحتهم يشمل الصورة والفيديو والصوت والنص: الصورة والفيديو والنص في تطبيق Gemini ونسخته على الويب، والصوت في Lyria وفي خاصية البودكاست بـ NotebookLM. وتذكر وثائق ضمانات غوغل نفسها حدوده في الموضع ذاته وهي جديرة بالقراءة. فتطبيق العلامة أقل فعالية على الأجوبة الواقعية، لأن المجال أضيق للتعديل دون المساس بالدقة. وإعادة الكتابة الشاملة أو الترجمة إلى لغة أخرى تؤدي إلى انخفاض كبير في درجات الثقة لدى الكاشف. والطريقة صامدة أمام قص أجزاء من النص وتغيير بضع كلمات وإعادة صياغة خفيفة. وبعبارتهم هم، لم يصمم SynthID Text ليوقف مباشرة خصما مصمما على الإضرار. وثمة تنفيذ بمستوى الإنتاج متاح في مكتبة Transformers من هاغينغ فيس منذ الإصدار 4.46.0، أي أن هذه التقنية لم تعد خلف أبواب مغلقة.

والعائلة الثانية هي C2PA، معيار مفتوح لإلصاق شهادة موقعة بالملف. ويوم كتبنا هذا الدرس كانت صفحة العضوية تدرج إحدى عشرة مؤسسة في اللجنة التوجيهية، منها أدوبي وأمازون وبي بي سي وغوغل وميتا ومايكروسوفت وأوبن إيه آي وسوني وتيك توك. أما كيف تقرأ شهادة ملف على جهازك، وما ظهر حين أجرينا ذلك على مكتبة وسائط هذا الموقع، ففي درس العلامة المائية لصور الذكاء الاصطناعي وSynthID مع الأمر نفسه.

والآن الحد الذي يصنع هذا الطرف كله: كل علامة تغطي النماذج التي تضعها فقط. فالنموذج الذي لا يضع علامة مائية لا يترك أثرا أصلا، والشهادة الملصقة بالملف تسقط بلقطة شاشة بسيطة. لذا غياب العلامة لا يثبت شيئا. هذه العلامات تتكلم في اتجاه واحد فقط، وذلك الاتجاه الواحد غنيمة على أي حال.

إن كنت ناشرا: ماذا تفعل بدل الجري وراء الكواشف

هيئة تحرير تنفق وقتها في تجاوز الكواشف تكون قد بنت عمليتها حول الشيء الخطأ. وثمة ثلاثة أمور في نشرك أنت قابلة للتحقق فعلا: شخص مسمى يقف خلف المادة ويجيب عنها، وادعاءات لها روابط مصادر تفتح حقا، وإفصاح حيثما كان جهله يغير ما يستنتجه القارئ. ولا يحتاج أي من الثلاثة إلى أداة.

وهذا لا يصادم سياسة غوغل أيضا، لأن سياسة غوغل ليست عن الأداة أصلا؛ بل عن إنتاج صفحات بالجملة لا تضيف شيئا لأحد. وأين يقع ذلك الخط وماذا يقول النص الرسمي، فذلك في درس محتوى الذكاء الاصطناعي والسيو مع روابط السياسات.

وقاعدة صارمة كتابتها أسهل من تطبيقها: لا تتهم كاتبا بدرجة كاشف. فإن كنت لا ترضى بفصل أحد بناء على ذلك الرقم، فلا ترفض عمله به أيضا. وإن كنت مرتابا حقا، فافعل ما يفعله المحرر دائما: اجلس واسأل عن العمل نفسه. فمن يفهم الموضوع سيجيب.

إن كنت القارئ: إلى أي شيء تنظر

حدسك هنا أسوأ دليل، لأنه حساس لشيء لا علاقة له بالمنشأ: الطلاقة. فالكتابة الطلقة قد تكون آلة وقد تكون كاتبا جيدا، والكتابة المتعثرة قد تكون إنسانا وقد تكون نموذجا ضعيفا. والطلاقة هي بالضبط ما حسنت هذه النماذج من أجله، فليست إشارة أصلا.

انظر بدلا من ذلك إلى أربعة أشياء بهذا الترتيب. هل تذكر الصفحة اسم شخص يجيب عنها. وهل تحمل ادعاءاتها روابط، وهل تفتح تلك الروابط فعلا وتقول الشيء نفسه. وهل الرقم المنقول هو الرقم نفسه في مصدره الأصلي. وإن كان ملفا، فهل يحمل شهادة. لا يخبرك أي من الأربعة من كتبه، ولا يفترض به ذلك؛ بل تخبرك هل تقف الصفحة خلف ما تقوله، وهذا هو السؤال الذي يقوم عليه قرارك فعلا.

وحد هذا الدرس بصراحة: لن تتعلم هنا كيف تكتب نصا يعبر الكاشف، ولن تتعلم كيف تتهم أحدا. فهما خطأ واحد من طرفين متقابلين، وكلاهما مبني على المقدمة الخاطئة نفسها: أن ذلك الرقم يعرف شيئا. إنه لا يعرف.