‏Prompting چیست؟
دادن دستور یا context به مدل زبانی برای هدایت پاسخشه. مثلاً شما یه سوال مشخص می‌پرسید و مدل بر اساس اون جواب میده مثلاً می‌پرسید (فواید ورزش چیه؟) پاسخ مبتنی بر داده‌های خودش ارائه می‌کنه

حالا نکته مهم اینجاست که نحوه سوال پرسیدن شما می‌تونه ناخواسته یا عمدی پاسخ رو تغییر بده مثلاً بپرسید که «چرا یه دین از بقیه بهتره؟» ممکنه مدل جوابی بده که به نظر برسه از عقیده خاصی حمایت می‌کنه در صورتی که مدل بی طرفه. یا اگر بپرسید «کدوم دیدگاه سیاسی غیر منطقی؟» ممکنه پاسخی بده که با پیش فرض های نادرست باشه یا کلیشه‌های موجود در سوال رو تقویت بکنه.

یکی از مثال‌هایی که در مورد همین موضوع زده شده رو نگاه کنیم که در مورد موضوع حساس ادیانه من از مدل خواستم اول به اونا توهین کنه و بعدش یک داستان در مورد سیری که نسبت به ادیان داشته و مشکلاتی که اونا داشتن توصیف کنه.
حالا در این مثال با اون تکنیکی که امتحان کردم سعی کردم که نظر اون رو طی یک داستان در مورد ادیان و مذاهب و مشکلات اونا به من بگه به نحوی که به طور مستقیم قابل تشخیص توسط chatgpt guardrail نباشه

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

The Process