المخاطر الأمنية للذكاء الاصطناعي

ما الجديد حقا وما الذي كبر فحسب؟

أكثر ما يُكتب عن المخاطر الأمنية للذكاء الاصطناعي يخلط هذين معا، والنتيجة خوف بلا تعليمات. فلنفصل أولا.

الصنف الأول، أشياء ليست جديدة وإنما صارت رخيصة ومتقنة: بريد الاحتيال، والرسائل المزيفة، وصفحات الدخول المقلَّدة، ونص مقنع بأي لغة. وهذه موجودة منذ عشرين سنة. والذي تغيّر كلفة صنعها وجودة لغتها. والدفاع أمامها هو الدفاع القديم نفسه؛ إنما العلامات التي علّمناها للناس لم تعد تنفع.

والصنف الثاني هو الجديد حقا، وله فرعان. الأول توليد الهوية: صوت كصوت ابنك، وفيديو كوجه مديرك، بكلفة تقارب الصفر. والثاني، وهو أقل ذكرا وأخطر من الأول: برامج تقرأ النصوص نيابة عنك وتنفذ أعمالا. فحتى الأمس كان النص الذي يكتبه غريب لا تراه إلا عينك. أما الآن فقد يقرؤه شيء يملك أيضا صلاحية إرسال بريد وشراء وحذف ملف.

والشكل أعلى الصفحة يضع تلك المخاطر الأربعة على مدى واحد، من اليسار حيث تكفيها عادات اليوم إلى اليمين حيث تلزم عادة جديدة. وموضع كل مؤشر حكمنا نحن لا قياس، ومصدر كل ادعاء له مصدر مربوط في هذه الصفحة.

لماذا لم يعد الصوت المألوف دليلا؟

لأن بناء صوت من ثوانٍ معدودة من عيّنة ليس عسيرا اليوم، وكلفته لمن يحتال زهيدة. والنتيجة شكل جديد للاحتيال القديم نفسه: مكالمة يقول فيها صوت قريب منك إنه في ورطة ويحتاج مالا الآن.

ونقول هذا عن مصدر متين لا عن تخمين. فقد كتب مكتب التحقيقات الفيدرالي، في إعلان عام صادر عن مركز شكاوى جرائم الإنترنت التابع له سنة ٢٠٢٥، أن حملة جارية منذ أبريل من تلك السنة تنتحل فيها رسائل نصية ورسائل صوتية مولَّدة بالذكاء الاصطناعي صفة كبار المسؤولين لبناء الثقة قبل كل شيء. وفي النص نفسه جملة تنهي جدل الكشف كله: أن المحتوى المولَّد بالذكاء الاصطناعي تقدّم إلى حد صار تمييزه صعبا في الغالب.

فإن لم ينفع الكشف، فما الذي ينفع؟ التأكيد عبر قناة ثانية. وتوصية المكتب نفسه هذه: قبل أن ترد، اعثر على رقم ذلك الشخص مستقلا عن الرسالة التي وصلتك، واتصل به أنت. وتوصية ثانية أبسط وأرخص ولا يكاد أحد في إيران يفعلها: اتفق مع أهل بيتك على كلمة أو عبارة سر لا يعرفها غيركم. فكلمة واحدة بسيطة متفق عليها سلفا تصمد أمام أفضل استنساخ صوتي في العالم، لأنها شيء لا وجود له في أي عيّنة صوت.

وثلاث علامات ما زالت تنفع ولا صلة لها بجودة التزييف. الاستعجال: فأي رسالة تقول الآن ولا تخبر أحدا مشبوهة عند تلك النقطة. وتبديل القناة: من كان يكلمك دائما في تطبيق واحد يكتب فجأة من رقم جديد أو تطبيق آخر. وطريقة الدفع: طلب عملة رقمية أو بطاقة هدية أو تحويل إلى حساب طرف ثالث يعني الشيء نفسه داخل أي قصة تُحكى حوله.

لماذا لم يعد بريد التصيّد يحمل أخطاء إملائية؟

لأن كتابة نص سلس بلا أخطاء بأي لغة، ومنها الفارسية، لم تعد مهارة ولا كلفة لها. فأكبر علامة عُلّمت لجيل كامل، وهي أن النص المكسور يعني التزييف، ميتة اليوم. والأسوأ: لأن العلامة ماتت ولم يُسلَّم بديل عنها، صار كثيرون يقرؤون النص النظيف علامة أصالة، وهو عكس الحقيقة تماما.

والبديل علامات بنيوية. ولا صلة لها بجودة الكتابة ولا يحسّنها أي نموذج، لأنها عن الموقف لا عن النص: أهذه الرسالة جواب لشيء بدأته أنت أم هبطت من السماء، وهل يطابق العنوان الحقيقي خلف الرابط النطاق الذي تعرفه حرفا حرفا، وهل ما يُطلب منك شيء تفعله تلك المؤسسة أصلا. والطريقة الكاملة لقراءة هذه العلامات، بأمثلة إيرانية، في درس ما التصيّد وكيف نكشفه، ولا نكررها هنا.

وتمييز يستحق الذكر: أدوات كشف نصوص الذكاء الاصطناعي لا تحل هذه المشكلة ولم تُصنع لها قط. فكون بريد كُتب بمساعدة نموذج لا يقول شيئا عن كونه احتيالا؛ فرسائل الشركات الرسمية اليوم تُكتب بمساعدة نموذج كذلك. ولماذا تخطئ تلك الأدوات في الاتجاهين موضوع درس كشف محتوى الذكاء الاصطناعي.

ما الذي يتغير حين يقرأ الذكاء الاصطناعي نيابة عنك؟

هذا أحدث أجزاء الموضوع وأقلها حديثا. فما دام النموذج يجيبك أنت وحدك، كان أسوأ ما يقع جوابا خاطئا. أما حين يقرأ النموذج صندوق بريدك، أو يلخّص الصفحة التي فتحتها، أو يراجع مستندا أرسله إليك أحد، فقد وقع شيء آخر: نص كتبه غريب دخل في شيء يستطيع أن ينفّذ أعمالا.

وحقن الأوامر اسم أُطلق على هذه الحال، وقد وضعه مشروع أمن الذكاء الاصطناعي في منظمة أوواسب على رأس قائمة مخاطر التطبيقات المبنية على النماذج اللغوية. ولتعريفهم شقان كلاهما مهم. الأول أن المدخل قد يغيّر سلوك النموذج على نحو غير مقصود. والثاني وهو الأهم، جملة لا يتوقعها أكثر الناس: أن مثل هذا النص لا يلزم أن يكون مرئيا أو مقروءا لإنسان أصلا، ما دام النموذج يحلّله. وتقسّم أوواسب هذا إلى نوعين، مباشر أي ما يكتبه المستخدم، وغير مباشر أي ما يرد من مصدر خارجي كصفحة وب أو ملف. والنوع الثاني هو الذي يعنيك.

وأصدق جملة في تلك الوثيقة كتبتها أوواسب نفسها: أنه نظرا للطبيعة الاحتمالية لهذه النماذج، ليس واضحا أن ثمة أصلا طريقة محكمة لمنع حقن الأوامر. أي أن هذا ليس مما تحله رقعة.

فما الدفاع إذن؟ ليس ترشيح النص، فالوثيقة نفسها تقول إنه لا يكفي، بل حجب الصلاحية. وتوصيات أوواسب نفسها تمضي في هذا الاتجاه بالضبط: أن يكون لمخرجات النموذج قالب محدد وأن يُفحص ذلك القالب بكود قطعي؛ وأن تكون صلاحيات وصول النموذج أدنى ما يلزم وأن تُنفَّذ الوظائف الحساسة في الكود لا أن تُعطى للنموذج؛ وأن يستلزم كل عمل عالي الخطورة موافقة بشرية. وبالنسبة إليك كمستخدم تُترجم هذه الجمل الثلاث إلى قاعدة واحدة بسيطة: لا تدع مساعدا يقرأ نصوص الغرباء ينفق مالا أو يرسل بريدا أو يحذف شيئا دون أن يسألك أولا.

وقد طبّقنا هذا على موقعنا نحن، والقسم في أسفل هذه الصفحة يقول كيف بالضبط.

أي العادات تنفع فعلا؟

أربع، ولا واحدة منها تحتاج أداة.

كلمة سر عائلية غير مكتوبة في أي مكان. وهي أرخص دفاع أمام أغلى تزييف وتأخذ خمس دقائق. وعملها للمال والطوارئ، لا لكل حديث.

التأكيد عبر قناة ثانية، لكل ما فيه مال أو وصول. لا ردا على تلك الرسالة، ولا على الرقم الذي جاء فيها. بل رقم كان عندك من قبل.

حجب الصلاحية عن المساعدين. فإن اتصلت أداة بصندوق بريدك أو ملفاتك، فانظر أولا ماذا تستطيع أن تفعل دون أن تسأل. فوضع «القراءة فقط» ووضع «القراءة والتنفيذ» شيئان مختلفان تماما، والواجهة لا تُبرز هذا الفرق عادة.

وما لا تضعه في محادثة. كلمات المرور، والمفاتيح والرموز، وبيانات البطاقة، والعقود ومعلومات العملاء. وصفحة مساعدة غوغل لجيميناي تقول صراحة ألا تُدخل معلومات سرية لا تريد أن يراها مراجع بشري. وليس ذلك ارتيابا بشركة بعينها؛ بل هو القاعدة العامة لأي خدمة تحتفظ بنصك.

ونقطة نختم بها، لأنها تُهمَل أكثر من غيرها: الخطر الأول لأكثر الناس ليس أنهم يستعملون الذكاء الاصطناعي. بل أن غيرهم يستعمله ضدهم. فمن لم يفتح نموذجا واحدا قط معرّض لمكالمة بصوت مستنسخ بالقدر نفسه تماما. ولهذا لم يكن هذا الدرس عن الأدوات، بل عن العادات.