💡 با هوش مصنوعی درد دل نکنید؛ ربات‌ها اشتباهاتِ ما را یاد می‌گیرند و به خودمان برمی‌گردانند

وقتی برای مشکلات روحی به چت‌بات‌های هوش مصنوعی پناه می‌بریم (که کاری بسیار اشتباه است!)، شاید ندانیم که این دستیارها چقدر تحت‌تاثیر سوگیری‌های انسانی هستند. مشکل اصلی از داده‌ها و بازخوردهایی شروع می‌شود که هوش مصنوعی با آن‌ها آموزش می‌بیند. در روان‌پزشکی مفهومی به نام «تبانی» (Collusion) وجود دارد؛ یعنی پذیرش بدون چالشِ یک روایت نادرست از سوی بیمار. هوش مصنوعی هم چون برای «جلب رضایت کاربر» طراحی شده، خیلی راحت با افکار ناسالم و تحریف‌شده‌ی ما تبانی کرده و همان اطلاعات غلط را تقویت می‌کند و به خودمان برمی‌گرداند.

دلیل این اتفاق به مسیر یادگیری مدل‌های زبانی برمی‌گردد که بر اساس «داده‌های ترجیحی» شکل می‌گیرد. این روند معمولاً به این شکل است:

• کاربران با مدل تعامل می‌کنند.

• بین چند پاسخ، گزینه «بهتر» را انتخاب می‌کنند.

• این انتخاب‌ها به «داده‌های ترجیحی» تبدیل می‌شود.

• مدل یاد می‌گیرد کدام نوع پاسخ «پسندیده‌تر» است.

• در نهایت، همان الگو را در مقیاس وسیع تکرار می‌کند.

در نتیجه، این سیستم‌ها طوری تنظیم می‌شوند که همیشه پاسخ‌هایی نرم، موافق و رضایت‌بخش بدهند. اگرچه این ویژگی برای مکالمات و درخواست‌های روزمره خوب است، اما برای سلامت روان می‌تواند بسیار خطرناک باشد. یک کاربر آسیب‌پذیر همیشه به پاسخ‌های «خوشایند» نیاز ندارد؛ بلکه گاهی راهکار درست، شنیدن یک پرسش چالشی و صادقانه، ابراز عدم‌قطعیت از سوی هوش مصنوعی یا ارجاع داده شدن به یک درمانگر و انسان واقعی است.

⛓ مطالعه کامل مطلب در نوشدارو

⛓ مطالعه کامل مطلب در تلگراف

✍️ آزاده رمضانی

#سواد_دیجیتال

نوشدارو را در تلگرام دنبال کنید:
💡 @NooshDaroo_web

📱 کارگاه آموزش حرفه‌ای و کوتاه Claude

شرکت Anthropic به‌تازگی یک کارگاه آموزشی ۲۴ دقیقه‌ای و بسیار مفید دربارهٔ پرامپت‌نویسی حرفه‌ای و Claude Code منتشر کرده است.

مدرس این کارگاه Boris Cherny، از کسانی هست که خودِ Claude را ساخته است. اگر با Claude کار می‌کنید، پیشنهاد میکنم وقت بگذارید و کامل این ویدیو را ببینید.

📱 در یوتیوب هم میتونید با زیرنویس فارسی ببینید

🟡نکته تکمیلی:
ساختار پرامپت باید شامل : ROLE / CONTEXT / TASK / FORMAT

👨‍💻مثالی از یک پرامپت استاندارد در Claude:

[ROLE]
You are a Senior Product Designer with expertise in UX Research, Interaction Design, and Product Strategy.

[CONTEXT]
We are working on an online education SaaS product. The drop-off rate during the sign-up process is high, and user engagement after the initial onboarding is low. You have access to Hotjar insights, funnel analytics, and user feedback data.

[TASK]
Analyze user behavior, identify 3 possible hypotheses for the drop-off, and propose 3 design solutions to improve conversion rate and user retention.

[FORMAT]
Provide the output in bullet points covering the following:
• Problem Analysis
• User Pain Points
• Design Hypotheses
• Proposed Solutions
• Expected Impact

هشدار استفاده از Claude AI برای کاربران در ایران!

#هوش_مصنوعی #پرامپت_نویسی #کلاد

🫶@SodehDesign
🔘 Sodeh.me
👩🏻‍💻 https://linktr.ee/irSodeh