فکر کردن پیش از پاسخ
بعضی برنامه‌های هوش مصنوعی پیش از پاسخ یادداشتِ کوچکی نشان می‌دهند: «۱۲ ثانیه فکر کرد»، گاهی با خلاصه‌ای از فکرهایش که می‌شود بازش کرد. عامل‌ها هم این کار را می‌کنند، اغلب خیلی طولانی‌تر. مدل در آن چند ثانیه چه می‌کند، و چرا این کمک می‌کند؟
لیلا ۱۷ ضربدر ۲۴ چند می‌شود؟ حساب نکن، فقط اولین عددی را که به ذهنت می‌رسد بگو.
امید چیزی حدودِ... چهارصد؟ دارم حدس می‌زنم.
لیلا و اگر بتوانی بنویسی؟
امید ۱۷ ضربدر ۲۰ می‌شود ۳۴۰. ۱۷ ضربدر ۴ می‌شود ۶۸. ۳۴۰ به‌اضافه‌ی ۶۸ می‌شود ۴۰۸.
لیلا پس کاغذ لازم داشتی.
امید گام‌ها را لازم داشتم. حالا به مدل فکر کن. وقتی یک توکن می‌نویسد، برای همان یک توکن چقدر کار انجام می‌دهد؟
لیلا یک گام کار. گفتی هر توکن یک بار گذشتن از کلِ مدل است.
امید برای هر توکن تقریباً همان مقدار کار، چه توکن «و» باشد، چه پاسخِ یک حسابِ سخت. پس اگر بپرسی «۱۷ ضربدر ۲۴ چند می‌شود؟ فقط عدد را بگو»، مدل روی خودِ مسئله چقدر کار می‌کند؟
لیلا به اندازه‌ی یک توکن. مثلِ وقتی که تو یک‌دفعه گفتی «چهارصد».
امید و اگر بخواهی گام‌به‌گام حلش کند؟
لیلا آن‌وقت گام‌ها را می‌نویسد، و هر گام توکن‌های بیشتری است، یعنی کارِ بیشتر. و می‌تواند گام‌های خودش را دوباره بخواند، چون حالا جزوِ متن‌اند. متن را مثلِ کاغذ به کار می‌برد!
امید دقیقاً همین است. نوشتنِ راه‌حل به مدل هم گام‌های کاریِ بیشتری می‌دهد و هم جایی برای نگه داشتنِ چیزهایی که تا آن لحظه فهمیده.
توکن‌های فکر کردن
سال‌ها مردم با اضافه کردنِ «گام‌به‌گام فکر کن» به پرامپتشان پاسخ‌های بهتری می‌گرفتند. مدل‌های امروزی این کار را خودشان می‌کنند. پیش از نوشتنِ پاسخ، توکن‌های فکر کردن (thinking tokens) می‌نویسند: بخشی برای حل کردن، که به آن استدلال (reasoning) هم می‌گویند. برنامه می‌ریزند، راهی را امتحان می‌کنند، متوجهِ اشتباهی می‌شوند، دوباره امتحان می‌کنند، و فقط بعد از آن پاسخی را می‌نویسند که شما می‌بینید.
برنامه‌ها معمولاً فکر کردن را پنهان می‌کنند، یا خلاصه‌ی کوتاهی از آن نشان می‌دهند. ولی این متنِ واقعی است که مدل نوشته، و دو نکته درباره‌اش مهم است:
- توکن‌های فکر کردن توکنِ خروجی‌اند. همان‌طور که نوشته می‌شوند منتظرشان می‌مانید و مثلِ هر خروجیِ دیگری هزینه‌شان را می‌دهید، حتی وقتی آن‌ها را نمی‌بینید.
- فکرِ بیشتر در مسئله‌های سخت بیشترین کمک را می‌کند: کد، برنامه‌ریزی، ریاضی، معما، هر چیزی که چند گام دارد. برای «پایتختِ فرانسه کجاست؟» فقط وقت و هزینه اضافه می‌کند و هیچ فایده‌ای ندارد.
میزانِ تلاش
چون فکر کردن وقت و پول خرج می‌کند، خیلی از مدل‌ها اجازه می‌دهند انتخاب کنید چقدر فکر کنند. در Claude به این میزانِ تلاش (effort) می‌گویند، با سطح‌هایی از کم تا بیشترین. عاملی مثل Claude Code اجازه می‌دهد وسطِ کار آن را عوض کنید.
تلاشِ کم به کارهای سریع و ساده می‌خورد: عوض کردنِ یک نام، مرتب کردنِ قالبِ یک متن، یک پرسشِ کوتاه. تلاشِ زیاد وقتی می‌ارزد که کار سخت است و پاسخِ اشتباه گران تمام می‌شود: اشکالی پیچیده در کد، برنامه‌ای برای یک تغییرِ بزرگ، یک تحلیلِ دقیق.
مراقب باشید
وسوسه‌انگیز است که فکرهای نمایش‌داده‌شده را گزارشِ دقیقی از راهِ رسیدنِ مدل به پاسخ بدانید. چنین تضمینی وجود ندارد. پژوهشگران مواردی پیدا کرده‌اند که استدلالِ نوشته‌شده‌ی مدل چیزی را جا انداخته بود که آشکارا بر پاسخش اثر گذاشته بود. فکرها را طرحی مفید از کارِ مدل بخوانید، نه دلیلی بر درستیِ آن.
لیلا پس وقتی عاملم پیش از دست زدن به هر چیزی «دو دقیقه فکر می‌کند»، دارم پولِ توکن می‌دهم.
امید بله، و اغلب پولِ خوب‌خرج‌شده‌ای است: برنامه‌ای که پیش از عمل ریخته شود جلوی خیلی از راه‌های اشتباه را می‌گیرد. ولی اگر برای عوض کردنِ نامِ یک فایل سخت فکر می‌کند، میزانِ تلاش را پایین بیاور.
امتحان کنید
یک معمای کوچک از یک دستیار گفت‌وگو بپرسید، مثلاً «یک چوبِ بیسبال و یک توپ روی هم ۱٫۱۰ دلار قیمت دارند. چوب ۱ دلار از توپ گران‌تر است. توپ چند است؟ فقط عدد را بگو، بدونِ راه‌حل.» بعد در یک گفت‌وگوی تازه همین را بپرسید، ولی بگویید «گام‌به‌گام حلش کن». اگر برنامه‌تان گزینه‌ای برای فکر کردن یا استدلال دارد، یک بار روشن و یک بار خاموش امتحانش کنید و مقایسه کنید هر کدام چقدر طول می‌کشد.
درست به کار بردن
- میزانِ تلاش را با کار جور کنید. برای مسئله‌های سختی که پاسخِ اشتباهشان برایتان گران است بالا ببریدش، و برای کارهای سریع و روزمره پایین. پاسخ‌های سریع‌تری می‌گیرید و کمتر خرج می‌کنید.
- برای کارهای سخت، اول برنامه یا راه‌حل را بخواهید. حتی با فکر کردنِ درونی، اینکه پیش از نتیجه روشِ کار را ببینید کمک می‌کند راهِ اشتباه را زود بگیرید.
- فکرها را تضمین ندانید. خودِ پاسخ را بررسی کنید، نه فقط اینکه استدلالش معقول به نظر می‌رسد یا نه.
واژه‌های این درس
- توکن‌های فکر کردن - توکن‌هایی که مدل پیش از نوشتنِ پاسخ می‌نویسد تا مسئله را حل کند؛ به آن‌ها استدلال هم می‌گویند
- استدلال - راه‌حلی که مدل پیش از پاسخ به شکلِ متن می‌نویسد و برنامه اغلب پنهانش می‌کند یا خلاصه‌اش را نشان می‌دهد
- میزانِ تلاش - تنظیمی برای اینکه مدل چقدر فکر کند: تلاشِ بیشتر یعنی توکن‌های فکرِ بیشتر، وقت و هزینه‌ی بیشتر، و معمولاً پاسخ‌های بهتر در مسئله‌های سخت
ایده‌ی اصلی
مدل برای هر توکن تقریباً همان مقدار کار انجام می‌دهد، پس نوشتنِ راه‌حل به آن کارِ بیشتر و یک چرک‌نویس می‌دهد. توکن‌های فکر کردن همین‌اند: خروجیِ واقعی که منتظرش می‌مانید و پولش را می‌دهید، که در مسئله‌های سخت می‌ارزد و در کارهای ساده هدر می‌رود.