آقای روبن حسید بعد از ۱۸۰۰ ساعت کار با کلاد، ۲۷ نکته کلیدی رو استخراج کرده که با رعایت اونها جواب های خیلی بهتری میشه از کلاد گرفت

تا حالا شده از هوش مصنوعی یک جواب بگیری که خیلی مطمئن و حرفه‌ای به نظر برسد، اما وقتی بررسی‌اش می‌کنی ببینی بخشی از آن کاملاً اشتباه یا حتی ساختگی است؟

به این اتفاق در مدل‌های هوش مصنوعی Hallucination یا هالوسینیشن گفته می‌شود.
هالوسینیشن یعنی مدل، اطلاعاتی تولید کند که ظاهراً منطقی و معتبر هستند، اما در واقعیت پایه و منبع درستی ندارند.
مثلاً ممکن است یک مقاله علمی غیرواقعی معرفی کند، آماری را از خودش بسازد، نام یک منبع را اشتباه بگوید یا درباره موضوعی که نمی‌داند با اطمینان پاسخ بدهد.
نکته مهم این است که مدل‌های زبانی «حقیقت» را مثل انسان بررسی نمی‌کنند؛ آن‌ها بر اساس الگوهای زبانی، محتمل‌ترین پاسخ بعدی را تولید می‌کنند. به همین دلیل، حتی یک پاسخ بسیار روان و قانع‌کننده هم لزوماً درست نیست.
برای کاهش هالوسینیشن می‌توانید:
• از مدل بخواهید برای ادعاهای مهم منبع ارائه کند.
• اطلاعات حساس و مهم را با منابع معتبر راستی‌آزمایی کنید.
• سؤال را دقیق و همراه با جزئیات مطرح کنید.
• اگر مدل مطمئن نیست، از آن بخواهید صریحاً بگوید «اطمینان ندارم».
• برای موضوعات تخصصی، متن یا منبع معتبر را در اختیار مدل قرار دهید و از آن بخواهید فقط بر اساس همان اطلاعات پاسخ دهد.
• پاسخ‌های شامل عدد، تاریخ، نام افراد، مقاله، قانون یا آمار را دوباره بررسی کنید.
پس یک قانون مهم را همیشه به خاطر داشته باشید:
هوش مصنوعی می‌تواند بسیار قانع‌کننده باشد، بدون اینکه الزاماً درست باشد.
اگر از ChatGPT، Claude یا سایر ابزارهای هوش مصنوعی استفاده می‌کنید، مهارت اصلی فقط «پرامپت‌نویسی» نیست؛
توانایی تشخیص اینکه چه زمانی باید به جواب AI شک کنیم هم یک مهارت ضروری است.

تفاوت Chatbot و AI Agent چیست؟ تفاوت مهمی بین آن‌ها وجود دارد.
Chatbot پاسخ می‌دهد، اما Agent کار انجام می‌دهد.
وقتی از یک Chatbot استفاده می‌کنید، معمولاً یک سؤال مطرح می‌کنید و هوش مصنوعی همان لحظه به شما پاسخ می‌دهد.
مثلاً می‌گویید:
«مهم‌ترین اخبار هوش مصنوعی امروز را پیدا کن و خلاصه‌شان کن.»
Chatbot درخواست شما را بررسی می‌کند و نتیجه را ارائه می‌دهد.
اما یک AI Agent می‌تواند مسئولیت انجام یک کار را به عهده بگیرد و آن را در چند مرحله پیش ببرد.
مثلاً به یک Agent می‌گویید:
«هر روز اخبار مهم هوش مصنوعی را بررسی کن، خبرهای مرتبط با حوزه کاری من را انتخاب کن و به من بده»
Agent می‌تواند طبق برنامه مشخص این کار را انجام دهد، اطلاعات را از منابع مختلف بررسی کند و نتیجه نهایی را در اختیار شما قرار دهد.
تفاوت مهم دیگر این است که Agent می‌تواند به ابزارهای مختلف متصل شود.
برای مثال یک Agent می‌تواند:
ایمیل‌ها را بررسی کند
اطلاعات یک سیستم CRM را به‌روزرسانی کند
بنابراین Agent فقط یک مدل هوش مصنوعی نیست که با آن گفتگو می‌کنیم؛ بلکه سیستمی است که می‌تواند برای رسیدن به یک هدف، مجموعه‌ای از اقدامات را انجام دهد.