حریم خصوصی در ابزارهای هوش مصنوعی

وقتی یک پرامپت را می فرستید چه اتفاقی می افتد

متن شما از مرورگر یا اپ روی یک اتصال رمزگذاری شده به سرور فروشنده می رود، آنجا رمزگشایی می شود، به مدل داده می شود و جواب برمی گردد. تا اینجا هیچ چیز غیرعادی نیست و دقیقا همان کاری است که هر فرم دیگری روی اینترنت می کند. تفاوت از جایی شروع می شود که آن متن، بعد از ساخته شدن جواب، پاک نمی شود.

سه سرنوشت جدا برای همان متن وجود دارد، و بیشتر بحث های حریم خصوصی چون این سه را روی هم می ریزند بی نتیجه می مانند. اول نگهداری: نسخه ای از گفت و گو در حساب شما و در سیستم فروشنده می ماند تا فردا بتوانید بازش کنید. دوم بازبینی: بخشی از گفت و گوها را آدم می خواند، برای سنجش کیفیت یا بررسی تخلف. سوم آموزش: متن به داده ای تبدیل می شود که نسل بعدی مدل روی آن آموزش می بیند.

همه نگران سومی هستند و اتفاقا سومی تنها موردی است که معمولا کلید خاموش دارد. دو تای اول کلید ندارند، چون سرویس بدون آن ها اصلا کار نمی کند: چیزی که ذخیره نشده را نمی شود فردا باز کرد، و تخلفی که کسی نمی بیند جلویش گرفته نمی شود.

«حذف» هم آنقدر که به نظر می رسد قطعی نیست. صفحه راهنمای خود گوگل درباره جمنای می نویسد گفت و گوهایی که یک بازبین انسانی خوانده با حذف تاریخچه شما پاک نمی شوند و تا سه سال نگه داشته می شوند، چون دیگر به حساب گوگل شما وصل نیستند. یک جمله است و بیشتر تصورها را عوض می کند.

هر فروشنده با داده شما چه می کند

جدول زیر از صفحه خود هر فروشنده خوانده شده، نه از خلاصه های دست دوم. تاریخ بررسی بالای همین درس نوشته شده و این صفحه ها واقعا عوض می شوند؛ اگر امروز تصمیم مهمی می گیرید، لینک ها را باز کنید.

الگویی که از این جدول بیرون می آید کمتر جایی صریح گفته می شود: خط جداکننده، پولی بودن نیست، نوع قرارداد است. حساب مصرفی یک محصول است و داده اش سوخت بهبود همان محصول؛ حساب تجاری یک قرارداد است و طرف مقابل در آن تعهد داده. برای همین سهمیه رایگان Gemini API با همان مدل کار می کند ولی شرایطش صریحا می گوید اطلاعات محرمانه نفرستید، و سهمیه پولی همان API چنین جمله ای ندارد.

درباره پلن های مصرفی ChatGPT اینجا ادعایی نمی نویسیم. دامنه openai.com و صفحه راهنمای داده شان به این سرور خطای ۴۰۳ می دهند؛ تنها چیزی که از اینجا باز می شود مستندات توسعه دهنده است که فقط درباره API حرف می زند. سیاست پلن مصرفی را باید در بخش Data Controls همان حساب ببینید، و ما جمله ای را که نخوانده ایم نقل نمی کنیم.

چه چیزهایی را هرگز نچسبانید

فهرست کوتاه است و به تنظیمات هیچ فروشنده ای وابسته نیست، چون خطرش از مسیر آموزش نمی آید. یک متن، همین که از دستگاه شما بیرون رفت، روی دستگاهی است که شما مدیرش نیستید.

کلیدها و رمزها. رمز عبور، کلید API، توکن دسترسی، رشته اتصال دیتابیس، محتوای فایل wp-config. اگر یکی از این ها را چسبانده اید، پاک کردن گفت و گو کار را درست نمی کند: آن کلید سوخته است و باید عوض شود. این تنها بند فهرست است که واکنشش فوری است.

داده هویتی مشتری. کد ملی، شماره کارت، نشانی منزل، پرونده پزشکی، فهرست مشتریان با شماره تماس. اینجا موضوع فقط ریسک شما نیست؛ داده متعلق به کسی است که به شما اعتماد کرده و اجازه این انتقال را نداده.

سندی که هنوز مال بیرون نیست. قرارداد امضا نشده، پیش نویس قیمت که فردا قرار است به مشتری بدهید، صورت مالی، متن حقوقی در حال مذاکره.

کد و پیکربندی سازمانی. مخزن بسته کارفرما، فایل پیکربندی سرور، قاعده های فایروال. اینجا یک مرز ظریف هست: چسباندن یک تابع بیست خطی برای رفع اشکال معمولا مسئله ای ندارد؛ چسباندن کل مخزن به بهانه «تا کامل ببیند» چیز دیگری است.

محکی که در عمل جواب می دهد و به هیچ سیاستی وابسته نیست: اگر همین متن روی تخته سفید یک کافه نوشته می شد و شما ناراحت می شدید، نچسبانیدش. موضع ما هم روشن است: بحث «کدام ابزار امن تر است» تقریبا همیشه زودتر از موقع شروع می شود. اول تصمیم بگیرید چه چیزی اصلا نباید از دستگاه بیرون برود؛ بعد از آن انتخاب ابزار مسئله کوچکی است.

یک آژانس کوچک چه سیاستی بنویسد

سیاست حریم خصوصی هوش مصنوعی برای یک تیم پنج نفره باید در یک صفحه جا شود، وگرنه کسی نمی خواندش. پنج بند کافی است.

یک) حساب مشترک ممنوع. حساب مشترک یعنی تاریخچه گفت و گوی همه جلوی چشم همه، و یعنی هر کسی که ایمیل حساب را دارد می تواند رمز را عوض کند و همه چیز را بخواند. اگر بودجه محدود است، تعداد حساب ها را کم کنید نه اینکه یکی را بین چند نفر پخش کنید.

دو) فهرست چیزهایی که اجازه رفتن دارند، نه فهرست ممنوع ها. فهرست ممنوع همیشه ناقص است. فهرست مجاز کوتاه است و قابل حفظ: متن عمومی سایت، محتوای منتشر شده، کد نمونه بدون کلید، داده ای که خودتان ساخته اید.

سه) یک مرحله پاک سازی پیش از چسباندن. اسم مشتری، شماره، ایمیل و نشانی با برچسب جایگزین شوند. این کار روی دستگاه خودتان انجام می شود، نه با کمک همان مدلی که قرار است متن را ببیند. بخش مسیر سریع همین درس یک نسخه دو دقیقه ای اش را می دهد.

چهار) واکنش به لغزش، بدون مجازات. اگر کسی کلیدی را چسباند باید بتواند بدون ترس بگوید، چون کاری که لازم است فوری انجام شود عوض کردن همان کلید است. تیمی که لغزش را پنهان می کند، کلید سوخته را روی سرور نگه می دارد.

پنج) یک تاریخ بازبینی. همان جدول بالا در شش ماه عوض می شود. تاریخ بگذارید و در همان روز صفحه های فروشنده ها را دوباره باز کنید.

بندی که معمولا از قلم می افتد و از همه مهم تر است: تعیین کنید کار مشتری روی کدام حساب انجام شود. حساب مصرفی برای کار خودتان، و برای کاری که داده مشتری در آن هست، حسابی که پشتش قرارداد باشد. این تفاوت را نه یک تنظیم، که نوع اشتراک تعیین می کند.

از ایران، مسئله یک لایه بیشتر دارد

بیشتر این ابزارها از ایران مسیر رسمی ندارند. ایران در هیچ کدام از دو فهرست کشورهای پشتیبانی شده انتروپیک نیست، و صفحه خود گوگل جمنای را در بیش از دویست و سی کشور و منطقه اعلام می کند که ایران در آن فهرست نیست. این دو را از صفحه خود همان شرکت ها خوانده ایم و در بخش مرجع هوش مصنوعی با تاریخ ثبت شده اند.

نتیجه عملی اش این است که خیلی ها با حساب خریداری شده یا حساب کسی در کشور دیگر کار می کنند، و اینجاست که بحث حریم خصوصی شکل دیگری پیدا می کند. وقتی حساب مال شما نیست، سه چیز همزمان از دست می رود: تاریخچه گفت و گوهایتان زیر دست کسی است که ایمیل حساب را دارد؛ تنظیم آموزش مدل را او تعیین می کند نه شما؛ و اگر روزی داده ای بد استفاده شد، شما مشتری آن شرکت نیستید و شکایتی هم ندارید که جایی ثبت شود.

ما نه حساب می فروشیم و نه راه دور زدن پیشنهاد می کنیم. آنچه می شود صادقانه گفت این است: تا وقتی حساب مال شما نیست، داده مشتری نباید داخلش برود، و این حکم به هیچ تنظیمی وابسته نیست. برای کاری که واقعا محرمانگی می خواهد دو راه باقی می ماند که هر دو واقعی اند: API با قرارداد از طریق کسی که رسما به آن دسترسی دارد، یا مدلی با وزن باز که روی سخت افزار خودتان اجرا شود و اصلا چیزی از دستگاه بیرون نرود.

راه دوم را دست کم نگیرید. وزن باز یعنی هیچ فهرست کشور پشتیبانی شده ای در کار نیست، چون چیزی برای اجازه دادن وجود ندارد؛ این یک واقعیت معماری است و نه راه دور زدن تحریم. در عوض کیفیت پایین تر و سخت افزار گران تر است، و برای متن فارسی این فاصله محسوس است. مسئله هزینه و راه پرداخت هم سر جای خودش می ماند.