الگوریتم‌گریزی:
چرا بعضی به الگوریتم‌ها اعتماد نمی‌کنند؟

الگوریتم‌گریزی (Algorithm Aversion) به بی‌اعتمادی افراد نسبت به الگوریتم‌ها حتی در شرایطی که دقت بیشتری نسبت به قضاوت انسانی دارند، اشاره دارد. این پدیده از باور شهودی انسان‌ها ناشی می‌شود که ماشین‌ها باید کاملاً بی‌نقص باشند. مطالعات نشان داده‌اند افراد نسبت به اشتباهات الگوریتم‌ها حساس‌ترند و این حساسیت در تصمیمات مهم‌تر، مانند استخدام یا درمان، شدت می‌یابد. کتاب‌هایی نظیر «نویز» و «تفکر، سریع و آهسته» نیز به ابعاد اخلاقی و احساسی این ترس اشاره کرده‌اند.
در عین حال، انسان‌گرایی دیجیتال بر طراحی شفاف و مسئولانه الگوریتم‌ها برای همسویی با ارزش‌های انسانی تأکید دارد.

لطفا برای مطالعه بیشتر به آدرس
https://saebi.ir/blog/algorithm-aversion
مراجعه کنید.

dighum.ir
@digitalhumanism

اول سر را بیابیم یا باید را؟!

مثلی داریم که می‌گوید: «باید چوب بالای سرش باشد تا کارش را درست انجام دهد»،
به نظرم این روزها باید بگوییم: «باید سر بالای تنه‌اش باشد تا بعد بتوان چوبی بالای آن گذاشت»

از مصادیق روشن این «سر» طراحان فرم‌ها و فرایندها و در مرحله بعدی مهندسین نرم‌افزاری هستند که آن‌ها را در «تنه» سازمان‌ها و شرکت‌ها مکانیزه می‌کنند. این فرم‌ها از شاخص‌های کلیدی «بی‌حوصلگی و خستگی و روان‌رنجوری» مدیران در بخش‌های خصوصی و دولتی و حاکمیتی به شمار می‌روند.
اصلاً منظورم مهندسی مجدد فرایند و این‌طور اسامی دهان‌پرکن که معمولاً فقط برای بالابردن قیمت مناقصه‌ها کاربرد دارد نیست، منظورم چند دقیقه تامل بر هدف از طراحی فرم است.
مثالی می‌زنم؛
- برای ثبت‌نام در رویدادهای دولتی و بعضی شرکت‌های بزرگ در صفحه اول کد ملی دریافت می‌شود و در صفحه بعد اطلاعات حریم شخصی فرد مثل تابعیت، نام پدر و آدرس محل سکونت و اقلام اطلاعاتی شخصی دیگر، آن‌هم اجباری. این اطلاعات برای ثبت‌نام در وبینار رایگانی که گواهی حضور صادر نمی‌کند و حتی اگر صادر می‌کرد، ضرورتی برای چاپ و ارسال آن نبود، دریافت می‌شود.
- برای ثبت درخواست آزمون ورودی سازمان، شرکت یا موارد مشابه به آن، در صفحه اول شماره موبایل و کد ملی فرد دریافت شده و بعد از فراخوانی اطلاعات هویتی فرد!! سایر اطلاعات، از جمله اطلاعاتی که بالاتر ذکر شد به‌علاوه اقلام اطلاعاتی نظیر معرف و مانند آن دریافت می‌شود درحالی‌که فرد هنوز آزمون اولیه را داده و اصلاً معلوم نیست قرار است چه چیزی را آزمون بدهد؟ محتوای آزمون چیست؟ منابع آزمون چیست؟ شرایط پذیرش اولیه در آزمون چیست؟ و مانند این.

در همه موارد، دریغ از یک خط توضیحات که:
۱. چه اطلاعاتی قرار است دریافت شود؟
۲. این اطلاعات به چه منظور دریافت و استفاده می‌شوند؟
۳. چه پردازش‌هایی بر روی آن‌ها انجام خواهد شد؟
۴. چه گزارش‌هایی از آن‌ها گرفته می‌شود؟
۵. این داده‌ها و اطلاعات پردازش‌شده حاصل از آن‌ها در اختیار چه مراجعی و به چه منظور قرار می‌گیرد؟
۶. گیرنده اطلاعات چگونه حفاظت از این داده‌ها و اطلاعات و حریم خصوصی فرد را ضمانت می‌کند؟

طبق مقررات حفاظت از داده‌ها (GDPR) شرح این موارد برای هر کسی که هر نوع اطلاعاتی را دریافت می‌کند، الزامی است.
الزامی یعنی:
«سر» سازمان «باید» آن‌ها را رعایت کند و
«سر» دستگاه ناظر باید بر رعایت آن نظارت کند و
«سر» دستگاه عدلیه باید به تخلفات آن رسیدگی کند و
از این دست «سر»ها که صندلی‌ها را برای چند روزی پرکرده‌اند اما بدون «باید».

بگردیم سر را بیابیم یا باید را؟!

https://saebi.ir/blog/head-or-must
dighum.ir
@digitalhumanism

چارچوب HLEG AI و ارزیابی هوش مصنوعی قابل اعتماد (ALTAI)

چارچوب HLEG AI و فهرست ارزیابی هوش مصنوعی قابل اعتماد (ALTAI) ابزارهای حیاتی برای تضمین استفاده اخلاقی و مسئولانه از هوش مصنوعی در جامعه هستند. این چارچوب، که توسط گروه کارشناسان ارشد هوش مصنوعی کمیسیون اروپا طراحی شده، چهار اصل اصلی اخلاقی احترام به استقلال انسانی، پیشگیری از آسیب، عدالت، و توضیح‌پذیری را معرفی می‌کند. علاوه بر این، ALTAI هفت الزام کلیدی برای پیاده‌سازی این اصول در سیستم‌های هوش مصنوعی ارائه می‌دهد که شامل عاملیت و نظارت انسانی، ایمنی فنی، حفاظت از حریم خصوصی و شفافیت است.
استفاده از این چارچوب در سطح دولتی و صنعتی می‌تواند به پیشگیری از مشکلاتی مانند تبعیض الگوریتمی و نقض حریم خصوصی کمک کند. پیاده‌سازی مسئولانه هوش مصنوعی با رعایت این اصول، از پیامدهای منفی آن جلوگیری کرده و می‌تواند به توسعه پایدار جوامع کمک کند.

لینک مطلب:
https://saebi.ir/blog/hlegai-altai

dighum.ir
@digitalhumanism