ردگیری رفتار ارزهای دیجیتال با کمک الستیک سرچ ( قسمت اول)

این روزا بحث خرید و فروش ارزهای دیجیتال به شدت داغ شده و انواع پلتفرم های موجود هم هرکدوم مشکلات خاص خودشون رو برای کاربر ایرانی دارن تصمیم گرفتم تا با کمک الستیک سرچ یک پنل کاربری ساده برای ردگیری بازار، برای کسایی که لازمش دارن راه بندازم امیدوارم که مفید باشه.من ابدا متخصص در رابطه با ارزهای دیجیتال نیستم و صرفا علاقمند به کار کردن با داده هام پس سعی میکنم مفاهیم مرتبط با ارز دیجیتال رو تا جایی که میشه بدون تغییر بیارم تا اشتباهی پیش نیاد.این رو هم باید اضافه کنم که نوشته من در دوقسمت منتشر میشه که قسمت اول مراحل ارتباط الستیک سرچ با دیتاست ورودی و در قسمت دوم تنظیمات داخل کیبانا رو توضیح میدم.ساخت data pipeline :در مرحله اول برای اینکه بتونیم پنل کاربریمون رو بسازیم نیاز به راهی داریم که بتونیم این اطلاعات رو از طریق اون بدست بیاریم، که من api لازم رو از وبسایت coinmarketcap بدست اوردم.الستیک سرچ ورودی های مختلفی رو میتونه پردازش کنه اما برای سادگی کار از فرمت json استفاده میکنم البته اینم اضافه کنم که همه چی بستگی به نوع پاسخی داره که شما از api خودتون میگیرین ولی در هرصورت فرایند کار به یک شکل انجام میشه . برای مثال یه نمونه از فرمت داده هایی رو که از api گرفتم بشکل زیر :{ &quotid&quot: &quotbitcoin&quot, &quotname&quot: &quotBitcoin&quot, &quotsymbol&quot: &quotBTC&quot, &quotrank&quot: &quot1&quot, &quotprice_usd&quot: &quot573.137&quot, &quotprice_btc&quot: &quot1.0&quot, &quot24h_volume_usd&quot: &quot72855700.0&quot, &quotmarket_cap_usd&quot: &quot9080883500.0&quot, &quotavailable_supply&quot: &quot15844176.0&quot, &quottotal_supply&quot: &quot15844176.0&quot, &quotpercent_change_1h&quot: &quot0.04&quot, &quotpercent_change_24h&quot: &quot-0.3&quot, &quotpercent_change_7d&quot: &quot-0.57&quot, &quotlast_updated&quot: &quot1472762067&quot }برای اتصال بین api و الستیگ سرچ میشه راه های محتلفی رو پیاده کرد که همش قرار دادی بین شما و طرفی که ازش api اطلاعات رو میگیرین اینجا من از پلاگین http_poller input استفاده کردم ولی شما بسته به نیازتون میتونین از ابزارهای مختلفی استفاده کنین، که براتون داده ها رو تجمیع، رمزگشایی و به url مورد نظرتون ارسال کنه.خب توی این مرحله راجع به لاگ استش و تنظیماتش توضیح میدم.ورودی لاگ استش: برای راه اندازی لاگ استش نیاز داریم که فایل logstash.conf رو بصورتی که میخوایم ایجاد کنیم، درمورد جزییات لاگ استش بعد توضیحات بیشتری میدم ولی فعلا باید تا اینجا بگم که فایل مورد نظرمون سه قسمت داره که قسمت اولش (input) برای تنظیم راه ورودی اطلاعات به داخل لاگ استش که به این صورت من اون رو نوشتم.input { http_poller{ urls => { url => &quothttps://api.coinmarketcap.com/v1/ticker&quot } request_timeout => 60 schedule => { cron => &quot0 * * * *&quot} codec => &quotjson&quot metadata_target => &quothttp_poller_metadata&quot } }بصورت کلی URL همون آدرس ورودی که قرار لاگ استش از اون دیتای مورد نظر رو بدست بیاره، request_timeout نوعی cron job که بازه زمانی دریافت اطلاعات رو مشخص میکنه و من اون رو برای ساعتی یکبار تنظیم کردم، کدکت josn و متادیتا ها هم گزینه های اختیاری هستن که برای انالیز بهتر ورودی نوشتمشون.فیلتر لاگ استش:از اونجایی که جواب API یک فایل JSON و از اونجایی که برای بهینه کردن نتایجمون نیاز به ذخیره سازی پاسخ API به فرمت دلخواه داریم که برای این کار از فیلتر mutate استفاده میکنیم لازم اشاره کنم که تمامی فیلدها رو به دیتا تایپ integer ذخیره می کنیم همچنین برای فیلد "last_updated" که اخرین وضعیت اون کوین رو برای ما مشخص میکنه رو با استفاده از دیتاتایپ date و پردازشگر UNIX نگه میداریم.filter { mutate { convert => { &quottotal_supply&quot => &quotinteger&quot } convert => { &quotrank&quot => &quotinteger&quot } convert => { &quotprice_usd&quot => &quotinteger&quot } convert => { &quotmarket_cap_usd&quot => &quotinteger&quot } convert => { &quotprice_btc&quot => &quotinteger&quot } convert => { &quotpercent_change_24h&quot => &quotinteger&quot } convert => { &quotmax_supply&quot => &quotinteger&quot } convert => { &quotpercent_change_7d&quot => &quotinteger&quot } convert => { &quotavailable_supply&quot => &quotinteger&quot } convert => { &quotpercent_change_1h&quot => &quotinteger&quot } convert => { &quot24h_volume_usd&quot => &quotinteger&quot } } date { match => [&quotlast_updated&quot,&quotUNIX&quot] target => &quotlast_updated&quot } }خروجی لاگ استش :فکر میکنم این قسمت نیاز به توضیح زیادی نداشته باشه و واضح باشه که خروجی ما قرار به الستیک سرچ منتقل بشه :output { elasticsearch { hosts => [&quotlocalhost:9200&quot] } }ترکیب هر سه قسمت بالا در فایل تنظیمات لاگ استش و اجرای اون باعث میشه که لاگ استش شروع به دریافت اطلاعات از وبسایت ارسال کننده داده ها و ارسال اون به الستیک سرچ. از اینجا به بعد زمانی که ایندکس اطلاعات داخل الستیک سرچ ساخته شد با استفاده از کوئری های الستیک سرچ می تونین شروع به کار کنین.و در نهایت خروجی کامل لاگ استش: input { http_poller { urls => { url => &quothttps://api.coinmarketcap.com/v1/ticker&quot } request_timeout => 60 schedule => { cron => &quot0 * * * *&quot} codec => &quotjson&quot } } filter { mutate { convert => { &quottotal_supply&quot => &quotinteger&quot } convert => { &quotrank&quot => &quotinteger&quot } convert => { &quotprice_usd&quot => &quotinteger&quot } convert => { &quotmarket_cap_usd&quot => &quotinteger&quot } convert => { &quotprice_btc&quot => &quotinteger&quot } convert => { &quotpercent_change_24h&quot => &quotinteger&quot } convert => { &quotmax_supply&quot => &quotinteger&quot } convert => { &quotpercent_change_7d&quot => &quotinteger&quot } convert => { &quotavailable_supply&quot => &quotinteger&quot } convert => { &quotpercent_change_1h&quot => &quotinteger&quot } convert => { &quot24h_volume_usd&quot => &quotinteger&quot } add_field => { &quottoken&quot => &quot<yourUserToken>&quot } } date { match => [&quotlast_updated&quot,&quotUNIX&quot] target => &quotlast_updated&quot } } output { elasticsearch { host => &quot[&quotlocalhost:9200&quot] } }تا اینجای کار داده های ما شروع به وارد شدن داخل الستیک سرچ کردن از اینجا به بعد باید تنظیمات داخل کیبانا رو انجام بدیم .خب همونطور که گفتم این قسمت رو همین جا تموم میکنم که نوشته بیشتر از این طولانی نشه و در قسمت بعد تنظیمات داخل کیبانا رو توضیح میدم، امیدوارم که مفید باشه . در آخر هم باید اضافه کنم خوشحال میشم جایی نقصی وجود داره بهم بگین که اون تکمیل کنم.