Knaph

عمق ۱ · ۱۶۶ ثانیه

فکر کردن روی کاغذ

وقتی مدل «۱۲ ثانیه فکر می‌کند»، چه می‌کند؟ کارش را می‌نویسد، چون برای هر توکن تقریباً همان مقدار کار می‌کند. توکن‌های فکر کردن چیست، چه هزینه‌ای دارد و میزانِ تلاش چطور تعدادشان را تعیین می‌کند.

درباره‌ی این ویدیو

۱۷ ضرب در ۲۴ چند می‌شود؟ اولین عددی را که به ذهنتان می‌رسد بگویید. بیشترِ آدم‌ها چیزی مثلِ ۴۰۰ می‌پرانند. با کاغذ آسان است: ۱۷ ضرب در ۲۰ می‌شود ۳۴۰، ۱۷ ضرب در ۴ می‌شود ۶۸، و ۳۴۰ به‌علاوه‌ی ۶۸ می‌شود ۴۰۸. هوشِ بیشتری لازم نداشتید. قدم‌ها را لازم داشتید.

مدل زبانی هم در همین وضع است. برای هر توکنی که می‌نویسد تقریباً همان مقدار کار می‌کند، چه آن توکن «و» باشد، چه پاسخِ یک ضربِ سخت. اگر از آن بخواهید فقط عدد را بگوید، کلِ مسئله به اندازه‌ی یک توکن کار می‌گیرد. اگر بخواهید حلش کند، هر قدم توکن‌های بیشتر است، پس کارِ بیشتر، و قدم‌ها در متن می‌مانند، جایی که می‌تواند دوباره بخواندشان. متن کاغذِ آن است.

سال‌ها مردم به پرامپت‌هایشان «قدم به قدم فکر کن» اضافه می‌کردند. مدل‌های امروز خودشان این کار را می‌کنند: پیش از پاسخ، توکن‌های فکر کردن می‌نویسند، که به آن استدلال هم می‌گویند؛ برنامه می‌ریزند، راهی را امتحان می‌کنند، اشتباهی را می‌بینند و دوباره امتحان می‌کنند. برنامه‌ها معمولاً فکر کردن را پنهان می‌کنند یا خلاصه‌ی کوتاهی از آن نشان می‌دهند، ولی توکن‌های فکر کردن توکن‌های خروجی‌اند. منتظرشان می‌مانید و برایشان پول می‌دهید، حتی وقتی آن‌ها را نمی‌بینید. بیشترین کمک را در مسئله‌های سخت می‌کنند، مثلِ کد، برنامه‌ریزی، ریاضی و معما، و در مسئله‌های آسان فقط زمان و هزینه اضافه می‌کنند.

برای همین خیلی از مدل‌ها می‌گذارند شما تعیین کنید چقدر فکر کنند. در Claude به این میزانِ تلاش می‌گویند، از کم تا بیشترین. تلاشِ کم برای کارهای سریع مثلِ تغییرِ نامِ یک فایل مناسب است؛ تلاشِ زیاد برای یک باگِ پیچیده یا برنامه‌ی یک تغییرِ بزرگ می‌ارزد. یک هشدار: فکرِ نمایش‌داده‌شده تضمین نمی‌کند که دقیقاً نشان بدهد مدل چطور به پاسخ رسیده. آن را طرحی کلی بدانید و خودِ پاسخ را بررسی کنید.

این ویدیو عمق ۱ از «توکن‌های فکر کردن» را نشان می‌دهد.

یادگیری توکن‌های فکر کردن

متن گفتار

  1. ۰:۰۰هفده ضرب در بیست و چهار چند می‌شود؟ همین حالا بگویید، بدونِ کاغذ. بیشترِ آدم‌ها چیزی مثلِ چهارصد می‌پرانند.
  2. ۰:۱۶با کاغذ آسان است. هفده ضرب در بیست، سیصد و چهل. هفده ضرب در چهار، شصت و هشت. روی هم، چهارصد و هشت.
  3. ۰:۳۸مدل برای هر توکن تقریباً همان مقدار کار می‌کند، چه «و» باشد چه پاسخِ یک ضربِ سخت. اگر فقط عدد را بخواهید، کلِ مسئله به اندازه‌ی یک توکن کار می‌گیرد.
  4. ۱:۰۴برای همین مدل‌های امروز اول کارشان را در توکن‌های فکر کردن می‌نویسند، بعد پاسخ را. قدم‌هایشان را دوباره می‌خوانند. متن کاغذشان است.
  5. ۱:۳۰برنامه‌ها اغلب فکر کردن را پنهان می‌کنند. ولی توکن‌های فکر کردن توکنِ خروجی‌اند. منتظرشان می‌مانید و برایشان پول می‌دهید، حتی وقتی نمی‌بینیدشان.
  6. ۱:۵۴پس می‌توانید تعیین کنید چقدر فکر کند. در Claude به این میزانِ تلاش می‌گویند. کم برای تغییرِ نامِ یک فایل. زیاد برای یک باگِ پیچیده، جایی که پاسخِ غلط گران تمام می‌شود.
  7. ۲:۲۰تلاش را با کار جور کنید. برای کارهای سخت اول برنامه را بخواهید. و فکر کردن را طرحی کلی بدانید، نه سند. خودِ پاسخ را بررسی کنید.
  8. ۲:۳۸توکن‌های فکر کردن به مدل کارِ بیشتر می‌دهند، و کاغذی برای انجامش.