تلاش برای پیش بینی بورس چشماندازی دلفریب برای دانشمندان دادهای فراهم کرده است که بیش از سود مالی به مسائل چالشی علاقمند هستند. همه روزه میتوان شاهد فراز و نشیبهای بازار بورس بود و به این فکر کرد که آیا الگوهایی وجود دارند که افراد یا مدلها (یادگیری ماشین) بتوانند آنها را بیاموزند و بر اساس آنچه آموختهاند بر معاملهگرانی که مدارک تخصصی کسبوکار دارند غلبه کنند و به پیش بینی بورس بپردازند؟
«ویلیام کوهرسن» (William Koehrsen) در مطلبی با عنوان «پیش بینی بورس با پایتون» چنین میگوید: «هنگامی که من شروع به استفاده از مدلهای گوناگون برای پیشبینی سریهای زمانی کردم، مجبور بودم روشم را روی دادههای بازار بورس با سرمایههای شبیهسازی شده تست کنم. بنابراین، به ناچار به جمع کثیر افرادی پیوستم که در تلاش برای غلبه بر بازار با بهرهگیری از روشهای تحلیلی روز به روز (تحلیل دادههای روزانه) بودند و البته همه به نوعی شکست خوردند
«ویلیام کوهرسن» (William Koehrsen) در مطلبی با عنوان «پیش بینی بورس با پایتون» چنین میگوید: «هنگامی که من شروع به استفاده از مدلهای گوناگون برای پیشبینی سریهای زمانی کردم، مجبور بودم روشم را روی دادههای بازار بورس با سرمایههای شبیهسازی شده تست کنم. بنابراین، به ناچار به جمع کثیر افرادی پیوستم که در تلاش برای غلبه بر بازار با بهرهگیری از روشهای تحلیلی روز به روز (تحلیل دادههای روزانه) بودند و البته همه به نوعی شکست خوردند
محیط مجازی (virtual environment) رو نصب کنید. محیط مجازی اصن چه بدرد میخوره؟ فرض کنید در یکی از پروژههاتون از تنسورفلو نسخه ۰.۱۰ استفاده کردید و در یکی دیگه از تنسورفلو نسخه ۱.۱۰.مساله ای که خیلی متداول است اینه که اگر تنسورفلو خودتون رو به روزرسانی کنید خیلی از کدهایی که قبلا زدید اجرا نمیشن و اصلاحا کدهایی که زدید backward compatible نیستند. از طرف دیگه اگر نسخه اتون رو کاهش بدید به ۱.۱۰تبدیل کنیدخیلی از ویژگیهای جدید رو از دست میدهید.برای رفع این مشکل درپایتون معمولا از محیط مجازی یا virtual environment استفاده میکنند. به صورت پیشفرض محیط مجازی با پایتون نصب نمیشه و بخاطر همین مجبوریم که خودمون نصب کنیم.
تنسرفلو برای این که بتواند توزیع پذیری داشته باشد و performance را بالا ببرد مدل برنامه نویسی graph base را ارائه داده و محاسبات را از اجرا جدا کرده است.
مثال: با توجه به شکل دو نود برای input ، یک نود برای mul و یک نود برای add داریم. خروجی نود mul و add می توانند به یک نود add دیگر بروند. حالا می توانیم به input ها عدد بدهیم و خروجی را ببینیم.
مثال: با توجه به شکل دو نود برای input ، یک نود برای mul و یک نود برای add داریم. خروجی نود mul و add می توانند به یک نود add دیگر بروند. حالا می توانیم به input ها عدد بدهیم و خروجی را ببینیم.
دستاوردهای داده های بزرگ (Big Data)
در این پست به دستاوردهای داده های بزرگ اشاره خواهم کرد:
1️⃣ داده های بزرگ به ما کمک می کنند تا به جای یک برش زمانی از داده ها ، از جریان پایدار داده ها استفاده کنیم. این به ما کمک می کند که نتایج به روز و تصمیم گیری در لحظه داشته باشیم.
2️⃣ داده های بزرگ ما را از انحراف در تحلیل نجات می دهند. با کمک داده های بزرگ و بررسی یک موضوع از مناظر مختلف و با حجم گسترده داده متنوع می توانیم با احتمال بسیار زیاد نتایج صحیحی داشته باشیم.
3️⃣ داده های بزرگ امکان تمرکز ما را بر روی جزئی ترین مسائل افزایش می دهند. یعنی در عین نگاه کلان، نگاه بسیار دقیق و جزئی هم به ما می دهد.
در این پست به دستاوردهای داده های بزرگ اشاره خواهم کرد:
1️⃣ داده های بزرگ به ما کمک می کنند تا به جای یک برش زمانی از داده ها ، از جریان پایدار داده ها استفاده کنیم. این به ما کمک می کند که نتایج به روز و تصمیم گیری در لحظه داشته باشیم.
2️⃣ داده های بزرگ ما را از انحراف در تحلیل نجات می دهند. با کمک داده های بزرگ و بررسی یک موضوع از مناظر مختلف و با حجم گسترده داده متنوع می توانیم با احتمال بسیار زیاد نتایج صحیحی داشته باشیم.
3️⃣ داده های بزرگ امکان تمرکز ما را بر روی جزئی ترین مسائل افزایش می دهند. یعنی در عین نگاه کلان، نگاه بسیار دقیق و جزئی هم به ما می دهد.
پردازش تصویر با پایتون یکی از جدیدترین مباحث امروز در دنیای هوش مصنوعی و یادگیری ماشین به حساب می آید. به طور کلی پردازش تصویر یعنی شما با اعمال یکسری از فرآیندها بر روی تصویر مورد نظر یکسری داده و خروجی مناسب از آن دریافت می کنید.
پردازش چهره نیز بخشی از پردازش تصویر محسوب می شود و می توان از آن در اپلیکیشن ها و نرم افزارهای مختلف جهت تایید هویت کاربر و افزایش امنیت استفاده کرد. تشخیص چهره به کمک AI و یا به طور دقیق تر به کمک یادگیری ماشین حالا تبدیل به یکی از محبوب ترین فیلدهای کاری شده است
پردازش چهره نیز بخشی از پردازش تصویر محسوب می شود و می توان از آن در اپلیکیشن ها و نرم افزارهای مختلف جهت تایید هویت کاربر و افزایش امنیت استفاده کرد. تشخیص چهره به کمک AI و یا به طور دقیق تر به کمک یادگیری ماشین حالا تبدیل به یکی از محبوب ترین فیلدهای کاری شده است
چرا تحلیلگران به وب اسکرپینگ نیاز دارند؟
یک سازمان بزرگ نیاز دارد تا خود را با تغییرات اطلاعاتی که در تعداد زیادی از وبسایتها به وقوع میپیوندد به روز نگه دارد. یک وب اسکرپر هوشمند (intelligent web scraper) وبسایتهای جدیدی که باید دادهها را از آنها اسکرپ کند مییابد. رویکردهای هوشمند، دادههای تغییر یافته را تعیین کرده و آنها را بدون بیرون آوردن لینکهای غیر لازم موجود در محتوا، استخراج کرده و به منظور نظارت و استخراج اطلاعات زمان واقعی به طور موثر و کارآمدی در صفحه وب خزش میکنند. پژوهشگر میتواند به سادگی بر چندین وبسایت به طور همزمان نظارت کند، در حالیکه با فرکانس تکرارها نیز به روز است.
یک سازمان بزرگ نیاز دارد تا خود را با تغییرات اطلاعاتی که در تعداد زیادی از وبسایتها به وقوع میپیوندد به روز نگه دارد. یک وب اسکرپر هوشمند (intelligent web scraper) وبسایتهای جدیدی که باید دادهها را از آنها اسکرپ کند مییابد. رویکردهای هوشمند، دادههای تغییر یافته را تعیین کرده و آنها را بدون بیرون آوردن لینکهای غیر لازم موجود در محتوا، استخراج کرده و به منظور نظارت و استخراج اطلاعات زمان واقعی به طور موثر و کارآمدی در صفحه وب خزش میکنند. پژوهشگر میتواند به سادگی بر چندین وبسایت به طور همزمان نظارت کند، در حالیکه با فرکانس تکرارها نیز به روز است.
تکرار گرها یا iterator ها در زبان های برنامه نویسی استفاده های زیادی دارند. برنامه نویسان در هنگام استفاده از ساختمان داده های آماده مکرراً از تکرارگرها استفاده میکنند. به عبارت ساده تر، با وجود iterator هاست که میتوانیم یک لیست، آرایه یا ساختمان داده خاص دیگری را پیمایش کرده و تک تک عناصر آنرا درون یک حلقه بررسی کنیم.
تشخیص چهره انسان در تصویر یکی از موضوعات قدیمی و جذاب در حوزه پردازش تصویر است که همواره توجه بسیاری از مخاطبان و پژوهشگران را به خود جذب کرده است. تکنیک های مختلفی برای تشخیص چهره و بهبود عملکرد الگوریتم ها معرفی شدند که هر کدام از آنها دارای محاسن و معایبی بوده اند. از الگوریتم های تشخیص چهره برای کاربردهای مختلفی همچون تشخیص چهره در دوربین ها، تشخیص چهره برای سیستم حضور و غیاب و غیره استفاده می شود.
کلمه ROI مخفف region of interest هستش یعنی ناحیه مد نظر شما .تصور کنید که شما میخاید تصاویر درب ورودی یک پارکنیک را بررسی کنید تصویر ابعاد خیلی بزرگه ولی عرض آن
قسمتی که خودرو ها ازش عبور می کنند خیلی محدوده شما از این قضیه آگاه هستید آیا بهتر نیست بجای پردازش کل تصویر و موقعیت یابی پلاک در این تصویر بزرگ در ابتدا ناحیه
تقریبی محل عبور خودورو را مشخص کنید و پردازش را فقط در آن ناحیه خاص انجام بدید که تعریف ناحیه ROI باعث میشه که برنامه شما کارایی آن افزایش پیدا کنه .
توی OpenCV هم می تونید به صورت زیر عمل کنید.
Mat a=imread("test.jpg");
Mat B(Rect(10,10,49,49));
با اینکار B یک ماتریس 40*40 هستش که از نقطه 10,10 تصویر a در آن قرار داده شده.
قسمتی که خودرو ها ازش عبور می کنند خیلی محدوده شما از این قضیه آگاه هستید آیا بهتر نیست بجای پردازش کل تصویر و موقعیت یابی پلاک در این تصویر بزرگ در ابتدا ناحیه
تقریبی محل عبور خودورو را مشخص کنید و پردازش را فقط در آن ناحیه خاص انجام بدید که تعریف ناحیه ROI باعث میشه که برنامه شما کارایی آن افزایش پیدا کنه .
توی OpenCV هم می تونید به صورت زیر عمل کنید.
Mat a=imread("test.jpg");
Mat B(Rect(10,10,49,49));
با اینکار B یک ماتریس 40*40 هستش که از نقطه 10,10 تصویر a در آن قرار داده شده.