گراک ۴.۵

پله ای که با یک توکن فعال می شود

صفحه قیمت ایکس ای آی برای هر مدل دو ستون دارد: زمینه کوتاه و زمینه بلند. گراک ۴.۵ در ستون اول ۲ و ۶ دلار است و در ستون دوم ۴ و ۱۲ دلار. جمله ای که زیر جدول نوشته شده مهم تر از خود جدول است: مدل هایی که قیمت زمینه بلند دارند، به محض اینکه پرامپت یک درخواست به آستانه برسد، همه توکن های آن درخواست را با نرخ بلند حساب می کنند.

یعنی این پله نیست، پرتگاه است. پرامپت ۱۹۹۹۹۹ توکنی ۰.۴۰ دلار ورودی خرج برمی دارد و پرامپت ۲۰۰ هزار توکنی ۰.۸۰ دلار. یک توکن اضافه، دو برابر صورتحساب، و خروجی همان درخواست هم از ۶ به ۱۲ دلار می رود. اگر بار کاری تان دور و بر همین عدد نوسان می کند، هزینه واقعی تان بین دو نرخ بالا و پایین می پرد و میانگین گرفتن از آن هیچ چیزی به شما نمی گوید.

استدلال را نمی شود خاموش کرد

راهنمای استدلال ایکس ای آی سه سطح برای پارامتر reasoning_effort روی گراک ۴.۵ فهرست می کند، پیش فرض را high می گذارد و یک جمله صریح دارد: استدلال قابل غیرفعال کردن نیست. توکن های استدلال هم مثل هر توکن خروجی دیگری حساب می شوند.

این را کنار قیمت بگذارید. برای کار سنگین چیز خوبی است، ولی اگر بار کاری تان جواب های کوتاه و پرتعداد است، مدل قبل از هر جواب توکن خروجی خرج فکر کردن می کند و شما نمی توانید جلویش را بگیرید. گراک ۴.۳ همان پارامتر را با مقدار none هم قبول می کند. یعنی مدل ارزان تر آن خانواده لغو کردن استدلال را اجازه می دهد و مدل پرچمدار نه.

پرچمداری که اجرای دسته ای قبولش نمی کند

ایکس ای آی برای گراک ۴.۳ و سه مدل خانواده ۴.۲۰ روی اجرای دسته ای بیست درصد تخفیف می دهد. مستندات Batch API درباره گراک ۴.۵ یک هشدار جدا دارد: این مدل پشتیبانی نمی شود و درخواستش رد می شود. پس تنها مدلی از کاتالوگ که برای کار حجیم می خواهیدش، همان یکی است که مسیر ارزان حجیم را ندارد.

این دقیقا همان الگویی است که در فیبل ۵ هم دیدیم: مدل گران تر از فهرست امکان دسته ای بیرون مانده بود. جالب است که هر دو سازنده این را در مستندات خودشان نوشته اند و در هیچ صفحه فروشی تکرارش نکرده اند.

در جدول ما کجا می نشیند

در دسته کدنویسی امتیازش ۱۰.۸ از صد است و هفتمین و آخرین ردیف رتبه دار جدول می شود. تقریبا همه این عدد از یک ستون می آید: بلوغ ابزار، ۱۰ از ۱۵ وزن. در سه ستون دیگر صفر می گیرد، چون کف هر سه خودش است: لیدربورد توسعه وب، لیدربورد متن عمومی و پنجره متن.

و یک نکته علیه روش خودمان، چون بهتر است ما بنویسیمش تا کسی از بیرون پیدایش کند. فاصله گراک با دیپ سیک وی۴ فلش در لیدربورد توسعه وب ۳۱ امتیاز است، ۱۵۵۴ در برابر ۱۵۸۵. دیپ سیک از آن ستون چهل وزنی ۹ امتیاز می گیرد و گراک صفر. نرمال سازی کمینه بیشینه به کف جدول صفر می دهد، هر قدر هم که فاصله اش با یکی مانده به آخر کم باشد. پس عدد ۱۰.۸ را باید «آخرین در جدولی از هفت مدل رده بالا» خواند و نه «ضعیف».

و یک تناقض ظاهری که تناقض نیست: در توسعه وب دوازدهم از ۱۱۳ است و در لیدربورد متن عمومی سی وچهارم از ۳۸۹، جایی که گراک ۴.۲۰ بتا۱ خود ایکس ای آی با ۱۴۷۵ بالاتر از آن نشسته. مستندات خود سازنده هم همین را می گوید: گراک ۴.۵ را «مدل پرچمدار ما برای کد و هر چیز دیگر» معرفی کرده اند. برای کد ساخته شده و در گفتوگوی عمومی نسخه قبلی خودش را رد نکرده است.