داده‌های گم‌شده

در آمار، داده‌های گم‌شده یا مقدارهای گم‌شده زمانی رخ می‌دهد؛ که هیچ مقدار داده‌ای برای یک متغیر در یک مشاهده ذخیره نشده باشد. داده‌های گم‌شده اتفاقی رایج است و می‌تواند اثر معنی‌داری از نتایج حاصل از داده‌ها داشته باشد.
داده‌های گم‌شده می‌توانند به‌دلیل بی‌پاسخی آماری رخ‌دهند: یعنی هیچ اطلاعاتی برای یک یا چند مورد در کل واحد («موضوع») به‌دست نیامده باشد. بعضی موارد به احتمال بیشتری بی‌پاسخی تولید می‌کنند: برای مثال مواردی که در مورد مسائل خصوصی مانند درآمد هستند. ساییدگی نوعی از دست‌رفتن که در مطالعات جغرافیایی رخ دهد. برای نمونه مطالعهٔ توسعه که اندازه‌گیری بعد از دوره‌ای از زمان تکرار شده‌است. ازدست‌رفتگی زمانی که یکی از شرکت‌کنندگان قبل از پایان مطالعه را ترک می‌کند، یا یک یا چند اندازه‌گیری از دست می‌رود، رخ می‌دهد.
داده‌ها اغلب در تحقیقات اقتصادی، جامعه‌شناسی و علوم سیاسی از بین می‌روند، زیرا دولت یا نهادهای خصوصی گزارش‌های حساس را ناقص ارائه دهند، یا کلاً ارائه ندهند، یا به این علت که داده‌ها در دسترس نیستند ارائه داده نمی‌شود. بعضی مواقع گم‌شده بودن داده‌ها به‌خاطر خود محقق است، برای مثال، هنگامی که جمع‌آوری داده‌ها نامناسب است یا [در سیستم‌های اطلاعاتی] به اشتباه وارد می‌شوند.
این شکل‌های بسته به نوع اثری که بر صحت نتیجه‌گیری‌های یک تحقیق می‌گذارند، انواع مختلفی دارند که عبارت‌اند از: به‌طور کامل ازدست‌رفته و به‌طور تصادفی ازدست‌رفته. می‌توان با داده‌های گم‌شده همانند داده‌های سانسورشده رفتار کرد.

انواع داده‌های گم‌شده

فهمیدن دلیل این‌که چرا داده‌ها گم‌شده‌اند برای مدیریت صحیح سایر داده‌ها مهم است. اگر داده‌ها کاملاً به‌تصادف گم‌شده باشند، نمونهٔ داده‌ها احتمالاً هنوز نماینده‌ای جامعه خواهد بود. اما اگه داده‌ها به شکل سیستماتیک گم‌شده باشند. تحلیل ممکن است اریب باشد. برای مثال، در مطالعهٔ ارتباط بین IQ و درآمد، اگر شرکت‌کنندگان با IQ متوسط به بالا تمایل به پاسخ ندادن به سؤال «درآمد شما چقدر است؟» نداشته باشند، تحلیلی که این مسئله را به‌عنوان یک الگوی گم‌شدن به‌صورت تصادفی (الگوی MAR) در نظر نمی‌گیرد، ممکن است در پیدا کردن همبستگی بین حقوق و IQ شکست بخورد. به‌خاطر این مشکلات، روش‌شناسان به‌طور معمول به محققان توصیه می‌کنند مطالعات را طراحی کنند تا وقوع داده‌های گم‌شده را به حداقل برسانند. مدل‌های گرافیکی می‌توانند با جزییات، سازوکار داده‌های گم‌شده را توصیف کنند.

گم‌شده به‌صورت کاملاً تصادفی

مقدارهای درون مجموعه‌داده‌ها به‌صورت کاملاً تصادفی گم‌شده (MCAR) هستند، اگر رویدادهایی که منجر به گم‌شدن هر نوع مورد-داده‌ای می‌شوند از متغیرهای قابل مشاهده و پارامترهای مورد علاقهٔ غیرقابل مشاهده مستقل باشند و به‌شکل کاملاً تصادفی رخ دهند. هنگامی که داده‌ها MCAR هستند، تحلیل انجام‌شده روی داده‌ها نااریب است، گرچه داده‌ها به ندرت MCAR هستند
در مورد MCAR، از دست‌رفتگی داده‌ها، از هر متغیر دیگر مستقل است؛ بنابراین، شرکت‌کنندگان با داده‌های کامل مشاهده‌شده در اثر، یک نمونه تصادفی از همه شرکت‌کنندگان مربوط یک مداخلهٔ خاص هستند. با MCAR، تخصیص تصادفی تیمارها، محفوظ فرض می‌شود، اما معمولاً در عمل این فرضی قوی و غیرواقع‌بینانه است.

گم‌شده به‌طور تصادفی

گم‌شده به‌طور تصادفی (MAR) هنگامی رخ می‌دهد که از دست‌رفتگی تصادفی نباشد، اما ازدست‌رفتگی می‌تواند به حساب متغیری که در آن اطلاعات کاملی باشد اطلاق شود. MAR فرضی است که تأیید آماری آن غیرممکن است، و بر فرض معقول بودن آن اعتماد می‌شود. یک مثال این است که مردها کمتر احتمال دارد که در یک مطالعه در مورد افسردگی شرکت کنند، حال آن‌که این مسئله هیچ ربطی به سطح افسردگیشان ندارد. بسته به روش تحلیل، این داده‌ها به‌دلیل خالی‌بودن شرطی سلول‌ها منجر به اریبی در تحلیل شوند (در مردها افسردگی خیلی زیاد ممکن است هیچ ورودی‌ای نداشته باشد). به‌هرحال، اگر پارامتر با برآورد درستنمایی بیشینه اطلاعات کامل برآورد شود، MAR برآوردهایی به‌طور مجانبی:نظریه مجانبی نااریب ارائه می‌دهد.

گم‌شده به‌صورت غیرتصادفی

گم‌شده به‌صورت غیرتصادفی (MNAR) (که به‌عنوان بی‌پاسخی غیرقابل چشم‌پوشی هم شناخته می‌شود) داده‌هایی هستند که نه MAR و نه MCAR باشند (برای مثال مقداری از متغیر که به دلیل مشخص گم‌شده باشد). برای توسیع مثال قبل، اگر مردان به‌خاطر سطح افسردگیشان نتوانند پرسشنامهٔ افسردگی را پرکنند.

روش‌های کار با داده‌های گم‌شده

داده‌های گم‌شده میزان نمایندهٔ جامعه بودنِ نمونه را کاهش می‌دهند، و بنابراین می‌توانند استنباط در مورد جامعه دچار مشکل کنند. به‌طور کلی، سه رویکرد کلی برای مقابله با داده‌های گم‌شده وجود دارد: جانهی -که به پرکردن جای داده‌های گم‌شده می‌گویند- حذف—که در آن نمونه‌ها با داده‌های نامعتبر از تحلیل دور انداخته می‌شوند و تحلیلی -به‌کار بردند روش‌هایی بی‌تأثیر از داده‌های گم‌شده-.
در برخی موارد کاربردی، آزمایش‌گرها می‌تواند سطح گم‌شدگی داده‌ها را کنترل کنند و از دست‌رفتگی داده‌ها قبل از جمع‌آوری داده‌ها پیش‌گیری کنند. برای مثال، در پرسشنامه‌های کامپیوتری، معمولاً جواب ندادن سؤال‌ها غیرممکن است. به این شکل که یک سؤال باید جواب داده‌شود وگرنه نمی‌توان سؤال بعدی را جواب داد؛ بنابراین گم‌شدگی داده‌ها توسط شرکت‌کنندگان با این نوع پرسشنامه ممکن نیست، اگرچه این نوع پرسشنامه ممکن است این روش در مشی اخلاقی هیئت نظارت بر آن پژوهش مجاز نباشد. در تحقیقات، چندین تلاش برای تماس با شرکت‌کنندگان، اغلب از طریق ارسال نامه، برای ترغیب افرادی که تصمیم به شرکت نکردن در مطالعه گرفته‌اند، برای تغیر تصمیمشان، در مطالعه امری مرسوم است. بااین‌حال، این روش‌ها هم می‌تواند در کاهش آثار مخرب استنباطی داده‌های گم‌شده کمک کند و هم آسیب بزند، زیرا نوع افرادی که قرار است بعد از رد اولیه شرکتشان در مطالعه برای شرکت‌کردن مجدد متقاعد شوند، به‌طور معنی‌دار متفاوت از نوع افرادیست که پس از درخواست مجدد از آن‌ها برای شرکت در مطالعه، درخواست را رد می‌کنند..
در شرایطی که وقوع داده‌های گم‌شده محتمل است، محققان معمولاً به استفاده از روش‌های آماری مقاوم در برابر گم‌شدگی داده‌ها توصیه می‌شوند. یک تحلیل وقتی مقاوم است که ما مطمئن باشیم تغییرات خفیف تا متوسط فرضیات تکنیکی کلیدی یا اریبی ایجاد نمی‌کند یا مقدار کمی اریبی ایجاد می‌کند، یا تحریف در نتایج در مورد جمعیت است.

جانهی

برخی روش‌های تجزیه و تحلیل داده‌ها در برابر داده‌های گم‌شده مقاوم نیستند و نیاز به «پر کردن»، یا جانهی مقدار گم‌شده دارند. روبین (۱۹۸۷) استدلال کرد که تکرار جانهی حتی برای تعداد اندک (۵ یا کمتر) تا حد زیادی کیفیت برآورد را بهبود می‌بخشد. برای اهداف زیادی، ۲ یا ۳ جانهی برای بسیاری از اهداف عملی ۲ یا 3 imputations تصرف بسیاری از نسبی بهره‌وری است که می‌تواند گرفته شده با تعداد زیادی از imputations. اما بیش از حد تعداد کمی از imputations می‌تواند منجر به از دست دادن قابل توجهی از آماری قدرتو برخی از محققان در حال حاضر توصیه می‌کنند ۲۰ تا ۱۰۰ یا بیشتر. هر ضرب-منسوب تجزیه و تحلیل داده‌ها باید تکرار برای هر یک از منسوب مجموعه داده و در برخی موارد مربوط به آمار باید ترکیب نسبتاً پیچیده در راه است.
الگوریتم امید ریاضی–بیشینه کردن (EM) رویکردی است که مقادیر آماره‌ها که در صورت کامل بودن یک مجموعه‌داده برآورد می‌شود (جانهی می‌شود)، با توجه به الگوی داده‌های گم‌شده. در این روی‌کرد، مقدار داده‌های گم‌شده تکی به‌طور معمول جانهی نمی‌شوند.

درون‌یابی

در شاخهٔ ریاضیاتی آنالیز عددی، درون‌یابی روش ساخت روش ساخت نقطه داده‌های جدید در یک بازهٔ مجموعه‌ای گسسته از نقاط داده‌ای شناخته شده‌است.
در مقایسه دو نمونهٔ زوجی شامل داده‌های گم‌شده، یک آماره آزمون که از همه داده‌های موجود بدون نیاز به جانهی استفاده می‌کند، آزمون تی استیودنت برای نمونه‌های به‌طور جزیی دارای هم‌پوشانی است. این آزمون تحت شرط نرمال بودن و فرض MCAR معتبر است.