Knaph
کاوش

مدل‌های زبانی

نقشه

پیکان‌ها از آنچه اول می‌آموزید به آنچه باز می‌کند اشاره دارند. نشانگر را روی یک مفهوم ببرید تا زنجیرهٔ آن و جایی که عمیق‌تر برمی‌گردد روشن شود. برای دیدن درس‌ها و داستان‌های یک مفهوم، روی آن راست‌کلیک کنید (یا انگشت خود را روی آن نگه دارید).

  • ثابت‌شده تا عمق123
  • باز
  • قفل
  • عمیق‌تر برمی‌گردد
API مدلتوکنتوکن‌های فکر کردنمدل بی‌حافظهمدل زبانیمدیریت زمینههزینه‌ی توکنپرامپت سیستمیپنجره‌ی زمینهپیش‌بینی توکن بعدیکش کردن پرامپتاحتمالدر احتمال

مسیر یادگیری

به ترتیبی که مفاهیم بر هم بنا می‌شوند.

  1. مدل زبانیآمادهبرنامه‌ای که با حجم بسیار زیادی متن آموزش دیده تا پیش‌بینی کند بعد از یک متن چه می‌آید. متن می‌گیرد و متن می‌دهد. آنچه یاد گرفته به شکل میلیاردها عدد در آن ذخیره شده، نه به شکل صفحه‌هایی که بتواند در آن‌ها جست‌وجو کند. هر کار دیگری که یک سامانه‌ی هوش مصنوعی می‌کند، کار برنامه‌ی دور آن است.
  2. توکنقفلتکه‌ای از متن که مدل زبانی می‌خواند یا می‌نویسد: یک کلمه‌ی رایج، بخشی از یک کلمه، یک نشانه‌ی نگارشی یا تکه‌ای از یک عدد، برگرفته از واژگانِ ثابتِ یک توکن‌ساز. هر توکنِ انگلیسی حدود چهار حرف است. فارسی معمولاً توکن‌های بیشتری می‌گیرد. سرعت، محدودیت‌ها و قیمت همه با توکن شمرده می‌شوند.باز می‌شود پس از: مدل زبانی
  3. API مدلقفلراهی که یک برنامه با آن از یک مدل زبانی استفاده می‌کند. برنامه درخواستی را از راه اینترنت می‌فرستد (کدام مدل، بلندترین پاسخِ مجاز و گفت‌وگو) و پاسخی می‌گیرد (بلوک‌های محتوا، دلیلِ ایستادن و توکن‌های مصرف‌شده). هزینه برای هر توکن حساب می‌شود و برنامه با یک کلیدِ مخفی (API key) نشان می‌دهد کیست. چیزِ دیگری همراهش نیست. حافظه، ابزارها و حلقه کارِ خودِ برنامه است.باز می‌شود پس از: مدل زبانی, توکن
  4. پیش‌بینی توکن بعدیقفلتنها کاری که مدل زبانی می‌کند: به هر توکنی که ممکن است بعد بیاید یک احتمال می‌دهد. یک توکن انتخاب می‌شود (نمونه‌گیری)، به متن اضافه می‌شود و کل متن دوباره به مدل داده می‌شود، و این کار تکرار می‌شود تا به توکنِ پایان یا سقف طول برسد. برای همین پاسخ‌ها کم‌کم ظاهر می‌شوند، از یک بار تا بار دیگر فرق می‌کنند و اشتباهِ اولِ کار معمولاً ادامه پیدا می‌کند.باز می‌شود پس از: توکن, احتمال
  5. توکن‌های فکر کردنقفلتوکن‌هایی که مدل پیش از نوشتنِ پاسخ می‌نویسد تا مسئله را حل کند، که به آن استدلال هم می‌گویند. این توکن‌ها به مدل گام‌های کاریِ بیشتر و یک چرک‌نویس می‌دهند که دوباره بخواند. توکنِ خروجی‌اند: منتظرشان می‌مانید و هزینه‌شان را می‌دهید، حتی وقتی پنهان‌اند. تنظیمِ میزانِ تلاش تعیین می‌کند مدل چقدر فکر کند.باز می‌شود پس از: پیش‌بینی توکن بعدی
  6. مدل بی‌حافظهقفلمدل زبانی از یک درخواست تا درخواست بعدی هیچ چیزی نگه نمی‌دارد. یک گفت‌وگو فقط به این دلیل به نظر می‌رسد که یادش هست که برنامه با هر درخواست کل تاریخچه‌ی گفت‌وگو را می‌فرستد. پس آنچه مدل «می‌داند» دقیقاً همان چیزی است که در درخواست آمده است.باز می‌شود پس از: پیش‌بینی توکن بعدی
  7. پنجره‌ی زمینهقفلزمینه هر چیزی است که در یک درخواست به مدل می‌رسد: دستورها، شرح ابزارها، گفت‌وگو، و هر چه عامل خوانده یا اجرا کرده است. پنجره‌ی زمینه بیشترین تعداد توکنی است که می‌تواند در خود جا دهد، با خودِ پاسخ؛ برای مدل‌های فعلیِ Claude در اواخر ۲۰۲۶ حدود یک میلیون توکن.باز می‌شود پس از: مدل بی‌حافظه, توکن
  8. هزینه‌ی توکنقفلهزینه‌ی استفاده از یک مدل: توکن‌های ورودی (هر چه فرستاده می‌شود) و توکن‌های خروجی (هر چه نوشته می‌شود، با فکر کردن)، با قیمتی برای هر یک میلیون توکن، که خروجی چند برابر گران‌تر است. چون هر پیام کل گفت‌وگو را دوباره می‌فرستد، یک گفت‌وگوی طولانی یا یک جلسه‌ی کار با عامل خیلی بیشتر از آنچه طولش نشان می‌دهد هزینه دارد.باز می‌شود پس از: توکن‌های فکر کردن, توکن
  9. پرامپت سیستمیقفلدستورهایی که یک برنامه در آغازِ هر درخواست، پیش از گفت‌وگو، می‌گذارد: دستیار کیست، قاعده‌هایش چیست، چطور پاسخ دهد و چه ابزارهایی دارد. کاربران به‌ندرت آن را می‌بینند، ولی همین است که یک مدلِ یکسان در برنامه‌های مختلف این‌قدر متفاوت رفتار می‌کند.باز می‌شود پس از: پنجره‌ی زمینه
  10. کش کردن پرامپتقفلارائه‌دهنده کاری را که روی شروعِ یک درخواست (پیشوند) انجام داده چند دقیقه نگه می‌دارد، تا درخواستِ بعدی که دقیقاً با همان توکن‌ها شروع می‌شود آن بخش را با حدود یک‌دهمِ قیمت و سریع‌تر بخواند. هر تغییری نزدیکِ شروع یعنی همه‌ی بعد از آن دوباره پردازش می‌شود.باز می‌شود پس از: هزینه‌ی توکن, مدل بی‌حافظه
  11. مدیریت زمینهقفلکوچک و مرتبط نگه داشتنِ زمینه‌ی یک عامل. وقتی پنجره پر می‌شود، فشرده‌سازی تاریخچه را با یک خلاصه عوض می‌کند که اصلِ مطلب را نگه می‌دارد و جزئیات را از دست می‌دهد. یک زمینه‌ی بلند و شلوغ هم حتی پیش از پر شدن معمولاً بدتر کار می‌کند. برای هر کار یک جلسه، و تصمیم‌ها در فایل.باز می‌شود پس از: پنجره‌ی زمینه

پیوند با حوزه‌های دیگر