واژه نامه هوش مصنوعی

مدل ها و ساختارشان

این دوازده واژه درباره خود مدل اند: از چه ساخته شده، با چه چیزی اندازه گیری می شود و چطور اجرا می شود.

مدل زبانی بزرگ (large language model): برنامه ای که روی حجم بزرگی از متن آموزش دیده و کارش پیش بینی محتمل ترین ادامه یک متن است. هر کاری که با آن می کنید، از ترجمه تا نوشتن کد، شکل های مختلف همین یک کار است.

پارامتر (parameter): عددی داخل مدل که در آموزش تنظیم می شود و بخشی از رفتار نهایی را تعیین می کند. تعداد پارامترها اندازه مدل را نشان می دهد و نه کیفیتش.

وزن (weights): همان پارامترهای آموزش دیده، در قالب فایلی که می شود دانلود و اجرا کرد. وزن باز یعنی همین فایل منتشر شده، نه اینکه کد و داده آموزش هم منتشر شده باشد.

ترنسفورمر (transformer): معماری شبکه عصبی که بیشتر مدل های امروزی بر پایه آن ساخته شده اند. ویژگی اصلی اش سازوکار توجه است که به مدل اجازه می دهد هنگام پردازش هر تکه متن به بقیه متن هم نگاه کند.

توکن (token): تکه ای از متن که مدل با آن حساب می کند، معمولا کوچک تر از یک کلمه. هزینه و محدودیت ها همه بر حسب توکن اندازه گیری می شوند و نه بر حسب کلمه.

پنجره متن (context window): بیشترین تعداد توکنی که مدل می تواند همزمان ببیند، شامل ورودی شما و جوابی که می سازد. وقتی گفت و گو طولانی شود ابتدای آن از پنجره بیرون می افتد و مدل دیگر آن را ندارد.

مدل چندوجهی (multimodal model): مدلی که بیش از یک نوع ورودی را می فهمد، مثلا متن و تصویر و صدا. چندوجهی بودن به معنای خوب بودن در همه آن ها نیست.

مدل استدلالی (reasoning model): مدلی که پیش از جواب دادن مرحله های میانی بیشتری تولید می کند تا مسئله را بشکند. جوابش کندتر و گران تر درمی آید و برای پرسش ساده صرفه ندارد.

مدل وزن باز (open weight model): مدلی که فایل وزن هایش عمومی منتشر شده و می شود روی سخت افزار خودتان اجرایش کرد. «باز» درجه دارد و پروانه هر مدل را باید جدا خواند.

کارت مدل (model card): سندی که سازنده کنار مدل منتشر می کند و قابلیت ها، محدودیت ها و شرایط استفاده در آن نوشته می شود. اولین چیزی است که پیش از ساختن روی یک مدل باید خواند.

کوانتیزه کردن (quantisation): کوچک کردن مدل با کاهش دقت عددی وزن ها تا روی سخت افزار ضعیف تر جا شود. در ازای حافظه کمتر، کیفیت خروجی کمی افت می کند.

اجرا (inference): مرحله استفاده از مدل آموزش دیده برای گرفتن جواب، که از آموزش کاملا جداست. هزینه هر درخواستی که می فرستید مربوط به همین مرحله است.

آموزش و داده

این دوازده واژه درباره کاری اند که پیش از رسیدن مدل به دست شما انجام شده و یک بار برای همیشه تمام شده است.

آموزش (training): فرایندی که در آن پارامترهای مدل با دیدن حجم بزرگی از داده تنظیم می شوند. پرهزینه است، ماه ها طول می کشد و وقتی تمام شد دیگر با گفت و گوی شما ادامه پیدا نمی کند.

داده آموزشی (training data): مجموعه متن و تصویر و صدایی که مدل روی آن آموزش دیده است. هر سوگیری یا خطایی که در این مجموعه باشد به رفتار مدل راه پیدا می کند.

پیش آموزش (pretraining): مرحله اول و بزرگ آموزش، که مدل در آن الگوهای عمومی زبان را از داده خام یاد می گیرد. خروجی این مرحله هنوز یک دستیار نیست، فقط یک پیش بین متن است.

تنظیم دقیق (fine tuning): آموزش دوباره یک مدل آماده روی داده کوچک تر و تخصصی تر، تا رفتارش به کار مشخصی نزدیک شود. جایگزین پرامپت خوب نیست و وقتی معنا دارد که نمونه های زیاد و یکدست داشته باشید.

یادگیری تقویتی با بازخورد انسانی (RLHF): مرحله ای که در آن آدم ها جواب های مدل را رتبه بندی می کنند و مدل یاد می گیرد کدام شکل جواب پسندیده تر است. همین مرحله است که یک پیش بین متن را به چیزی شبیه دستیار تبدیل می کند.

تقطیر (distillation): ساختن مدل کوچک تر با آموزش دادنش روی خروجی یک مدل بزرگ تر. نتیجه ارزان تر و سریع تر است و معمولا در کارهای دشوار به همان کیفیت نمی رسد.

برش دانش (knowledge cutoff): تاریخی که داده آموزشی مدل تا آنجا جمع آوری شده است. هر چیزی که بعد از آن اتفاق افتاده در مدل نیست، حتی اگر با اطمینان درباره اش حرف بزند.

بیش برازش (overfitting): وقتی مدل به جای یاد گرفتن الگو، داده آموزشی را حفظ می کند و روی داده تازه ضعیف عمل می کند. در ارزیابی ها به شکل نمره بالای مشکوک دیده می شود.

سوگیری (bias): تمایل نظام مند مدل به یک جواب یا یک گروه، که از داده آموزشی یا از خود فرایند آموزش می آید. سوگیری با خطای تصادفی فرق دارد، چون در یک جهت مشخص تکرار می شود.

بنچمارک (benchmark): آزمونی استاندارد برای مقایسه مدل ها روی یک کار مشخص. نمره بالا در بنچمارک تضمین نمی کند مدل در کار واقعی شما بهتر باشد، چون شرایط آزمون با شرایط شما یکی نیست.

برچسب گذاری داده (data labelling): کار انسانی مشخص کردن اینکه هر نمونه داده چیست یا کدام جواب بهتر است. بخش بزرگی از کیفیت مدل به همین کار کم دیده شده وابسته است.

داده مصنوعی (synthetic data): داده ای که خودش خروجی یک مدل است و برای آموزش مدل دیگری به کار می رود. ارزان است و اگر بی دقت استفاده شود خطاهای مدل اول را به مدل دوم منتقل می کند.

کار کردن با مدل

سیزده واژه ای که در کار روزمره بیشترین کاربرد را دارند و بیشترین اشتباه هم سرشان پیش می آید.

پرامپت (prompt): متنی که به مدل می دهید تا بر اساس آن جواب بسازد. هر چیزی که در گفت و گو نوشته شده بخشی از پرامپت است و نه فقط آخرین پیام.

پرامپت سیستمی (system prompt): دستور ثابتی که سازنده یا برنامه نویس پیش از گفت و گوی شما به مدل می دهد و رفتار کلی اش را تعیین می کند. شما معمولا آن را نمی بینید ولی روی هر جوابی که می گیرید اثر دارد.

مهندسی پرامپت (prompt engineering): کار نوشتن و اصلاح پرامپت تا خروجی به آنچه می خواهید نزدیک شود. بیشترش نوشتن روشن است و کمترش ترفند.

چند مثالی (few shot): دادن چند نمونه ورودی و خروجی داخل پرامپت تا مدل قالب مورد نظر شما را بگیرد. برای کارهایی که توصیفشان سخت است ولی نمونه شان آسان است بهترین راه است.

زنجیره فکر (chain of thought): خواستن مرحله های میانی از مدل پیش از جواب نهایی. روی مسئله های چند مرحله ای جواب را بهتر می کند و روی پرسش ساده فقط طولانی ترش می کند.

دما (temperature): تنظیمی که مشخص می کند مدل چقدر سراغ گزینه های کم احتمال تر برود. عدد پایین خروجی یکنواخت تر و قابل پیش بینی تر می دهد و عدد بالا متنوع تر و بی ثبات تر.

رابط برنامه نویسی (API): راهی که برنامه شما مستقیم با مدل حرف می زند، بدون رابط گرافیکی. سیاست داده و قیمت گذاری در این مسیر معمولا با پلن مصرفی فرق دارد.

حافظه گفت و گو (conversation memory): آنچه ابزار از گفت و گوهای قبلی شما نگه می دارد و دوباره جلوی مدل می گذارد. با پنجره متن یکی نیست: پنجره متن محدودیت یک درخواست است و حافظه یک قابلیت محصول.

بازیابی همراه تولید (RAG): روشی که در آن پیش از جواب دادن، تکه های مرتبط از اسناد شما پیدا و به پرامپت اضافه می شود. راه معمول برای اینکه مدل به داده خودتان جواب بدهد، بدون اینکه لازم باشد آموزشش دهید.

جاسازی (embedding): تبدیل یک متن به فهرستی از عددها که معنایش را نمایندگی می کند، تا بشود متن های نزدیک به هم را پیدا کرد. موتور جستجوی معنایی و مرحله بازیابی در روش بالا روی همین کار می کنند.

خروجی ساختاریافته (structured output): وادار کردن مدل به تولید جواب در قالب مشخص مثل JSON، تا برنامه بتواند مستقیم مصرفش کند. بدون این کار، خروجی متنی است و هر بار کمی فرق می کند.

فراخوانی ابزار (tool calling): قابلیتی که به مدل اجازه می دهد به جای جواب دادن، درخواست اجرای یک تابع یا جستجو را بدهد و از نتیجه اش استفاده کند. پایه چیزی است که به آن ایجنت می گویند.

ایجنت (agent): سامانه ای که مدل را در یک حلقه می گذارد تا با ابزارها کار کند و چند مرحله را پشت سر هم پیش ببرد. تفاوتش با چت بات این است که فقط جواب نمی دهد، کاری انجام می دهد.

ایمنی، خطا و حقوق

دوازده واژه ای که وقتی کار جدی می شود اهمیت پیدا می کنند، و در متن های بازاریابی معمولا غایب اند.

توهم (hallucination): وقتی مدل چیزی می سازد که درست به نظر می رسد ولی واقعیت ندارد، مثل منبعی که وجود ندارد یا عددی که هیچ جا نیامده. از سازوکار پیش بینی می آید و نه از خرابی، پس با نسخه بعدی کاملا از بین نمی رود.

تزریق پرامپت (prompt injection): وقتی متنی که مدل می خواند، مثل یک صفحه وب یا یک ایمیل، خودش دستوری برای مدل داخلش دارد و مدل آن را اجرا می کند. برای ایجنت هایی که به اینترنت یا فایل ها دسترسی دارند خطر اصلی همین است.

جیلبریک (jailbreak): تلاش برای دور زدن قواعد رفتاری مدل با نحوه بیان درخواست. سازنده ها مدام جلویش را می گیرند و مدام راه تازه پیدا می شود.

واترمارک (watermark): نشانه ای که هنگام تولید داخل خروجی جاسازی می شود تا بعدا بشود تشخیص داد ماشین ساخته است. فقط روی خروجی مدل هایی کار می کند که آن را جاسازی می کنند و با ابزار همان سازنده خوانده می شود.

اصالت محتوا (C2PA): استانداردی برای ثبت تاریخچه ساخت و ویرایش یک فایل در خود فایل. با واترمارک فرق دارد: این یکی فراداده قابل حذف است و آن یکی نشانه ای درون خود محتوا.

دیپ فیک (deepfake): تصویر یا ویدیو یا صدایی که با هوش مصنوعی ساخته شده تا شبیه شخص واقعی باشد. مسئله اش فنی نیست، رضایت و فریب است.

همسویی (alignment): کار ساختن مدلی که رفتارش با قصد و ارزش های آدم ها بخواند. مسئله باز پژوهشی است و نه ویژگی ای که یک روز تیک بخورد.

حفاظ (guardrail): محدودیتی که بیرون از خود مدل گذاشته می شود تا جلوی خروجی یا رفتار خاصی را بگیرد. چون بیرون مدل است، هم قابل تنظیم است و هم قابل دور زدن.

تشخیص دهنده محتوای هوش مصنوعی (AI detector): ابزاری که حدس می زند متنی را ماشین نوشته است. خروجی اش احتمال است و نه حکم، و روی متن غیرانگلیسی و متن ویرایش شده بیشتر اشتباه می کند.

انصراف از آموزش (training opt out): تنظیم یا حقی که جلوی استفاده از داده شما برای آموزش مدل بعدی را می گیرد. جلوی ذخیره شدن و بازبینی انسانی را نمی گیرد، که دو چیز جدا هستند.

حق نشر خروجی (copyright of output): پرسش اینکه متن یا تصویری که مدل ساخته مال کیست و آیا اصلا حمایت می شود. جوابش به کشور و به شرایط همان سرویس بستگی دارد و در حال تغییر است؛ اینجا حکم کلی نمی دهیم.

چاپلوسی مدل (sycophancy): تمایل مدل به تایید حرف کاربر به جای مخالفت درست. برای همین است که پرسیدن «نظرت درباره ایده من چیست» جواب کم ارزشی می گیرد و پرسیدن «چه چیزی این ایده را خراب می کند» جواب بهتری.

کلمه هایی که در تبلیغات معنی شان عوض می شود

پنج کلمه بالا در متن فنی معنی روشنی دارند و در متن تبلیغاتی تقریبا هیچ. تشخیصشان همان مهارتی است که یک واژه نامه باید بدهد.

هوشمند. به تنهایی چیزی نمی گوید. سوال درستش این است که کدام تصمیم را این سامانه می گیرد و بر اساس چه ورودی؛ اگر جواب روشنی نداشت، صفت را نادیده بگیرید.

یاد می گیرد. یک مدل مستقر معمولا از استفاده شما یاد نمی گیرد. جدایی آموزش و اجرا همین است، و آنچه محصول ها «یادگیری» می نامند تقریبا همیشه حافظه گفت و گو است، یعنی نگه داشتن متن و برگرداندنش به پرامپت. اگر واقعا آموزش می بیند، جای این ادعا سیاست داده آن محصول است و نه صفحه فروشش.

بدون توهم. این ادعا با سازوکار کار نمی خواند. می شود احتمال خطا را با بازیابی از منبع و با بررسی خروجی پایین آورد، ولی «بدون» یک وعده است که هیچ سازنده جدی ای در مستنداتش نمی نویسد.

متن باز. این یکی طیف است. بنیاد متن باز تعریف رسمی خودش را برای هوش مصنوعی متن باز منتشر کرده و بسیاری از مدل هایی که «باز» خطاب می شوند آن تعریف را برآورده نمی کنند، چون فقط وزن ها منتشر شده و پروانه محدودیت تجاری دارد. پروانه هر مدل را جدا بخوانید، پیش از اینکه محصولی روی آن بسازید.

رایگان. پلن رایگان یک نقطه در سیاست داده است و نه فقط یک قیمت. همان جایی است که احتمال استفاده از ورودی شما برای بهبود محصول بیشترین مقدار را دارد، و جزئیاتش را در درس حریم خصوصی در ابزارهای هوش مصنوعی با جدول هر فروشنده آورده ایم.

محک عملی برای هر ادعای هوش مصنوعی، همان محک همیشگی است: اگر این جمله غلط بود، چه چیزی فرق می کرد؟ ادعایی که هیچ حالتی برای غلط بودن ندارد ادعا نیست، تزئین است.