الگوریتم تقسیم و حل

در علوم کامپیوتر، الگوریتم تقسیم و غلبه (چیرگی) (Divide and conquer/D-C) الگو ی طراحی الگوریتم مهمی بر اساس بازگشت چندانشعابی می‌باشد. یک الگوریتم تقسیم و حل از طریق تفکیک یک مسئله به دو یا چند زیرمسئله از یک نوع (یا انواع وابسته به هم)، به صورت بازگشتی، کار می‌کند. این تفکیک تا زمانی ادامه می‌یابد که زیرمسئله‌های حاصله به میزان کافی ساده شده باشند تا بتوان آن‌ها را مستقیما حل کرد. جواب مسئله اصلی از ترکیب جواب‌های به دست آمده برای زیر مسئله‌ها به دست می‌آید.
این تکنیک مبنای الگوریتم‌های کارآمدی برای انواع مسئله‌ها می‌باشد، به عنوان مثال، مرتب‌سازی (مثلا، مرتب‌سازی سریع و مرتب‌سازی ادغامی), ضرب اعداد بزرگ (مثلا، کاراتسوبا), تجزیه‌کننده (مثلا، تحلیلگر بالا به پایین)، و محاسبه تبدیل فوریه گسسته (تبدیل سریع فوریه).
از سوی دیگر، توانایی درک و طراحی الگوریتم‌های D-C هنری است که کسب مهارت در آن زمان زیادی می‌طلبد. به هنگام اثبات یک قضیه به کمک استقرا، غالبا نیازمند آنیم که به منظور دستیابی به یک روند بازگشتی، مسئله اصلی را با یک مسئله عمومی‌تر یا پیچیده‌تر جایگزین کنیم، و این در حالی است که روش سیستماتیکی برای یافتن تعمیم مناسب وجود ندارد.
گاهی اوقات نام «تقسیم و حل» در مورد الگوریتم‌هایی که هر مسئله را تنها به یک زیرمسئله تقلیل می‌دهند نیز به کار می‌رود، مانند الگوریتم جستجوی دودویی برای یافتن یک پرونده در یک لیست مرتب شده (و یا شبیه آن در الگوریتم‌های عددی و محاسباتی؛ الگوریتم دوبخشی برای یافتن ریشه). با وجود این تعریف جامع، هر الگوریتمی که از بازگشت یا حلقه استفاده می‌کند، از بعضی لحاظ می‌تواند به عنوان «الگوریتم تقسیم و حل» تلقی شود. از این رو، بعضی از مولفان درعوض از نام «کاهش و حل» استفاده می‌کنند. این الگوریتم‌ها می‌توانند کارآمدتر از الگوریتم‌های تقسیم و حل معمولی، پیاده‌سازی شوند. به عنوان مثال، در صورت استفاده از بازگشت دنباله‌دار، این الگوریتم‌ها می‌توانند به حلقه‌های ساده تبدیل شوند.
معمولا صحت یک الگوریتم تقسیم و حل، به کمک استقرای ریاضی، اثبات می‌شود، و هزینه محاسباتی آن نیز معمولا از طریق حل روابط بازگشتی تعیین می‌شود.
تاریخچه
ایده اصلی روش تقسیم و حل توسط Anatolii Karatsuba در سال ۱۹۶۰ در قالب الگوریتمی برای ضرب کردن دو عدد nرقمی با پیچیدگی زمانی ارائه شد. در نتیجه این الگوریتم که امروزه الگوریتم کاراتسوبا نامیده می‌شود، فرضیه Andrey Kolmogorov را که طبق آن سریع‌ترین الگوریتم ضرب دارای پیچیدگی است را نقض کرد. تلاش Kolmogorov در کنار کشف Karatsuba، کمک شایانی به آغاز مطالعه کارایی الگوریتم‌ها کرد.
مثال‌های قدیمی
جستجوی دودویی، الگوریتم تقسیم و حلی که در آن مسئله اصلی متوالیا به زیرمسئله‌هایی یکتا با اندازه تقریبی نصف مسئله اصلی تفکیک می‌شود، بیشینه دور و درازی دارد. ایده استفاده از یک لیست مرتب شده از عناصر به منظور سهولت بخشیدن در جستجو به ۲۰۰ سال پیش از میلاد، در بابل بازمی‌گردد، حال آن‌که یک توصیف واضح از الگوریتم در کامپیوترها اولین بار در سال ۱۹۴۶ در مقاله‌ای توسط جان مارچلی بیان شد. الگوریتم تقسیم و حل دیگر، با یک زیرمسئله منحصربه‌فرد، الگوریتم اقلیدس در محاسبه بزرگ‌ترین مقسوم‌علیه مشترک دو عدد (از طریق کاهش اعداد به زیرمسئله‌های کوچک‌تر، و کوچک‌تر یا مساوی) می‌باشد، که به قرنها پیش از میلاد بازمی‌گردد.
یک مثال قدیمی از الگوریتم تقسیم و حل با زیرمسئله‌های چندگانه، توصیفی بود که گاوس در سال ۱۸۰۵ از چیزی که امروزه الگوریتم Cooley-Tukey fast Fourier transform یا FFT نامیده می‌شود، ارائه داد؛ اگرچه او از لحاظ کمی، شمار عملیات این الگوریتم را تحلیل و بررسی نکرد، و FFTها شایع نشدند مگر یک قرن بعد که مجددا کشف گردیدند.
یک الگوریتم تقسیم و حل دوزیرمسئله‌ای قدیمی که به‌طور ویژه برای کامپیوترها توسعه یافته، الگوریتم مرتب‌سازی ادغامی می‌باشد که توسط جان فون نویمن در سال ۱۹۵۴ ابداع گردید.
مثال قابل توجه دیگر، الگوریتمای است که توسط کاراتسوبا در سال۱۹۶۰ ابداع گردیده و می‌تواند دو عدد nرقمی را با عمل ضرب کند. این الگوریتم، حدس اندری کولماگوراف که در سال ۱۹۵۶ بیان شد و عمل را برای انجام ضرب مذکور لازم می‌دانست را رد کرد.
به عنوان مثال دیگری از یک الگوریتم تقسیم و حل که در ابتدا کامپیوترها را شامل نمی‌شد، «ناث» متدی را ارائه داد که به‌طور نمونه در یک دفتر پست به منظور آدرس‌دهی نامه‌ها استفاده می‌شود: نامه‌ها در کیف‌های جداگانه برای مناطق مختلف جغرافیایی مرتب می‌شوند، در هر کدام از این کیف‌ها نیز، نامه‌ها در دسته‌هایی مربوط به نواحی کوچک‌تر مرتب شده‌اند، و به همین ترتیب، تا زمانی که نامه‌ها به مقصد برسند. این الگوریتم به یک مرتب‌سازی رقمی، وابسته‌است، که در سال ۱۹۲۹ برای ماشین‌های مرتب‌سازی کارت پانچ ارائه شد.
مزایا
حل مسائل دشوار
تقسیم و حل ابزاری است قدرتمند برای حل مسائل دشوار مفهومی، همانند معمای باستانی برج هانوی: همه چیزی که حل این مسئله نیاز دارد، پیدا کردن راهی است برای شکستن مسئله به چند زیرمسئله، حل حالات جزیی و ترکیب زیرمسئله‌ها به مسئله اصلی.
کارایی الگوریتم
الگوی تقسیم و حل، اغلب به یافتن الگوریتم‌های کارآمد کمک می‌نماید. برای مثال، این الگوریتم، راه‌گشای روش‌های ضرب سریع کاراتسوبا، الگوریتم‌های مرتب‌سازی سریع و ادغام، و هم‌چنین تبدیل‌های سریع فوریر بود.
در تمام این مثال‌ها، راهبرد D-C منجر به بهینه‌سازی هزینه مجانبی راه حل می‌شود. به عنوان مثال، اگر حالت‌های پایه، اندازه ثابت کران‌داری داشته‌باشند، عمل تفکیک مسئله و ترکیب جواب‌های جزیی به نسبت اندازه مسئلهn، بوده، و یک تعداد محدود p از زیرمسئله‌ها با اندازه n/p~ در هر مرحله وجود دارد، و آنگاه هزینه الگوریتم تقسیم و حل( O(n log n خواهد بود.
تطابق
الگوریتم‌های تقسیم و حل ذاتا برای اجرا در ماشین‌های چندپردازنده‌ای سازگار شده‌اند، به ویژه سیستم‌های حافظه‌اشتراکی که ارتباط داده‌ها بین پردازنده‌ها به برنامه‌ریزی پیشرفته نیازی ندارد، چرا که زیرمسئله‌های متمایز قابل اجرا بر روی پردازنده‌های مختلف می‌باشند
دسترسی به حافظه
الگوریتم‌های تقسیم و حل ذاتا به کارآمد ساختن استفاده از حافظه‌های پنهانگرایش دارند. دلیل آن هم این است که، زمانی که زیرمسئله به اندازه کافی کوچک باشد، آن زیر مسئله و تمام زیرمسئله‌های آن می‌توانند، به‌طور کلی، در داخل حافظه پنهان حل شوند، بدون اینکه به حافظه اصلی که کندتر می‌باشد دسترسی داشته باشند. الگوریتمی که به منظور بهره‌کشی این‌چنینی از حافظه پنهان طراحی می‌شود، cache oblivious (بی‌توجه به حافظه پنهان)، نامیده می‌شود، چرا که اندازه حافظه پنهان را به عنوان یک پارامتر آشکار، در برندارند.
علاوه بر این، الگوریتم‌های D-C می‌توانند برای الگوریتم‌های مهم بسیاری، همانند مرتب‌سازی، FFTها، و ضرب ماتریس‌ها، طراحی شوند، به طریقی مشابه، الگوریتم‌های بهینه «بی‌توجه به حافظه پنهان»، چنان‌که می‌توان اثبات کرد، به صورت بهینه و از دید مجانبی، صرف‌نظر از اندازه حافظه پنهان، از آن استفاده می‌کنند. در مقابل، راهبرد سنتی به‌کاربستن حافظه پنهان، بلاک‌بندی می‌باشد، که در آن، مسئله صریحا به قطعه‌هایی از اندازه‌های مقتضی تقسیم می‌شود—این الگوریتم هم‌چنین می‌تواند به‌طور بهینه از حافظه پنهان استفاده کند، ولی فقط زمانی که الگوریتم برای اندازه خاص حافظه پنهان در یک ماشین ویژه مناسب‌سازی شده باشد.
مزیت مشابهی با درنظر گرفتن سیستم‌های حافظه‌ای سلسله‌مراتبی دیگر وجود دارد، همانند NUMA یا حافظه مجازی، و نیز برای سطوح چندگانه حافظه پنهان: زمانی که یک زیرمسئله به اندازه کافی کوچک باشد، می‌تواند، بدون دسترسی به سطوح بالاتر (آهسته‌تر)، در داخل سطح مفروض از سلسله‌مراتب حل شود.
انواع پیاده‌سازی
بازگشتی
الگوریتم‌های تقسیم و حل معمولا به صورت روال‌های بازگشتی. پیاده‌سازی می‌شوند. در این حالت، زیرمسئله‌های جزیی براساس زیرمسئله‌ای که در حال حل شدن است، به صورت خودکار در پشته فراخوانی روال ذخیره می‌شوند.
روش تقسیم و حل یک روش بالا به پایین است.
حل یک نمونه سطح بالای مسئله با رفتن به جزء و بدست آوردن حل نمونه‌های کوچکتر حاصل می‌شود.
هنگام پی ریزی یک الگوریتم بازگشتی، باید:
۱- راهی برای به دست آوردن حل یک نمونه از روی حل یک یا چند نمونه کوچک‌تر طراحی کنیم.
۲- شرط (شرایط) نهایی نزدیک شدن به نمونه (های) کوچک‌تر را تعیین کنیم.
۳-حل را در حالت شرط (شرایط) نهایی تعیین کنیم
بازگشتی اجازه بیان راه حل یک مسئله را به‌طور مختصر و مفید می‌دهد. مسئله‌ای که به صورت بازگشتی حل می‌شود باید بتواند به مسائل کوچک‌تر تقسیم بشود و حل مسائل کوچک به همان روش مسئله بزرگ قابل انجام باشد. مسئله کوچک‌تر به مسئله کوچک‌تری شکسته می‌شود تا سرانجام یه کوچک‌ترین اندازه مسئله برسد که base case نامیده می‌شود که می‌تواند بدون استفاده از بازگشتی حل شود.
یک مثال متعارف الگوریتم بازشگتی ضابطه تابع فاکتوریل f(n) است:
مقدار تابع برای f(3) به صورت زیر محاسبه می‌شود:
f(3) = 3 * f(3 − 1)
= 3 * f(2)
= 3 * 2 * f(2 − 1)
= 3 * 2 * f(1)
= 3 * 2 * 1 * f(1 − 1)
= 3 * 2 * 1 * f(0)
= 3 * 2 * 1 * 1
= 6
یک الگوریتم بازگشتی توسط تابع بازگشتی پیاده‌سازی می‌شود. تابع بازگشتی (recursive function) تابعی است که خودش را فراخوانی می‌کند.
تابع بازگشتی مشابه توابع دیگر کار می‌کند. برای هر فراخوانی بازگشتی یک فریم جدید از تابع در پشته ایجاد می‌شود.
مثال(C). تابع بازگشتی محاسبه فاکتوریل یک عدد صحیح.
int Factorial (int x)
if (x<= ۱)
return 1;
return x * Factorial (x-1);
همان تابع به صورت غیر بازگشتی به صورت زیر نوشته می‌شود. توجه کنید که به د و متغیر موقت نیاز دارد.
int Factorial (int x)
int i, temp;
for (i=1; i<=x; i++)
temp*=i;
return temp;
بازگشتی در مقایسه با غیر بازگشتی
برای اینکه بازگشتی موفق باشد مسئله نیاز است یک زیرساختار بازگشتی داشته باشد. راه حل بعضی از مسائل به‌طور ذاتی بازگشتی است چون احتیاج به نگداری حالت قبلی دارند. الگوریتم پیمایش درخت(tree traversal)، تابع اکرمن(Ackermann) و الگوریتم‌های تقسیم و غلبه مانند مرتب‌سازی سریع(Quicksort) همگی به صورت بازگشتی هستند. همه این الگوریتم‌ها می‌توانند به صورت غیربازگشتی با کمک پشته هم پیاده شوند اما نیاز به پشته مزیت راه حل غیر بازگشتی را از بین می‌برد.
تابع غیر بازگشتی احتمالا در عمل کمی سریعتر از نسخه بازگشتی آن اجرا می‌شود چون تابع غیر بازگشتی سربار فراخوانی تابع (function-call) را به اندازه تابع بازگشتی ندارد و این سربار در بعضی زبان‌ها نسبتا بالا است.
یک دلیل دیگر برای ترجیح غیربازگشتی به بازگشتی این است که فضای پشته قابل دسترس کمتر از فضای قابل دسترس در حافظه آزاد heap است؛ و الگوریتم‌های بازگشتی تمایل به فضای پشته بیشتری نسبت به غیر بازگشتی دارند.
مرتب‌سازی ادغامی
ادغام یک فرایند مرتبط با مرتب‌سازی است.
ادغام دوطرفه به معنای ترکیب دو آرایه مرتب شده در یک آرایه مرتب است.
مرتب‌سازی ادغامی شامل مراحل زیر می‌شود:
۱- تقسیم آرایه به دو زیر آرایه، هر یک با n/2 عنصر.
۲- حل هر زیر آرایه با مرتب‌سازی آن.
۳- ترکیب حل‌های زیر آرایه‌ها از طریق ادغام آن‌ها در یک آرایه مرتب.
پشته کردن صریح
Dالگوریتم‌های تقسیم و حل هم‌چنین می‌توانند به واسطه یک برنامه غیربازگشتی که زیرمسئله‌های جزیی را در بعضی داده‌ساختارهای صریح همانند پشته، صف، یا صف اولویت‌دار، ذخیره می‌کند، پیاده‌سازی شوند. این راهبرد آزادی بیشتری در انتخاب زیرمسئله‌ای که در قرار است در مرحله بعد حل شود، می‌دهد، ویژگی‌ای که در بعضی از برنامه‌های کاربردی دارای اهمیت می‌باشد. همانند متد رابطه بازگشتی ابتدا در عرض در انشعاب و تحدید برای بهینه‌سازی عملکرد. این راهبرد، هم‌چنین راه‌حل استاندارد زبان‌های برنامه‌نویسی‌ای می‌باشد که از روال‌های بازگشتی پشتیبانی نمی‌کنند.
اندازه پشته
در پیاده‌سازی‌های بازگشتی الگوریتم‌های D-C، باید از وجود حافظه تخصیص داده‌شده مورد نیاز برای پشته بازگشت اطمینان حاصل شود، درغیراین‌صورت ممکن است به دلیل سرریز پشته. ، اجرا با شکست مواجه شود. خوشبختانه، الگوریتم‌های D-Cای که از لحاظ زمانی کارآمد هستند، اغلب، تا حدودی بازگشتی هستند. به عنوان مثال، الگوریتم مرتب‌سازی سریع می‌تواند طوری پیاده‌سازی شود که هرگز به بیشتر از فراخوانی بازگشتی تودرتو برای مرتب کردن عنصر نیاز نداشته‌باشد.
ممکن است اجتناب از سرریز شدن پشته، به هنگام استفاده از روال‌های بازگشتی دشوار باشد، چرا که بسیاری از کامپایلرها فرض می‌کنند که پشته بازگشت ناحیه‌ای است مجاور حافظه، و بعضی از آن‌ها یک مقدار ثابت از حافظه را برای آن تخصیص می‌دهند. هم‌چنین ممکن است کامپایلرها اطلاعاتی بیشتر از آنچه که واقعا نیاز است را در پشته بازگشت ذخیره کنند، همانند آدرس برگشت، پارامترهای تغییرناپذیر، و متغیرهای درونی روال؛ بنابراین، خطر سرریز شدن پشته می‌تواند با حداقل کردن پارامترها و متغیرهای درونی روال بازگشتی، یا با استفاده از یک ساختار پشته صریح، کاهش یابد.
انتخاب حالات پایه
در هر الگوریتم بازگشتی، آزادی قابل توجهی در انتخاب حالات پایه , (زیرمسئله‌های کوچکی که به منظور پایان دادن به بازگشت، مسیقیما حل می‌شوند) وجود دارد.
انتخاب کوچک‌ترین یا آسان‌ترین حالت پایه ممکن، مطبوع‌تر است و معمولا منجر به برنامه‌های آسان‌تر می‌شود، چرا که حالات کمتری برای رسیدگی وجود دارند که حلشان هم ساده‌تر است. به عنوان مثال، یک الگوریتم FFT زمانی می‌تواند به بازگشت پایان دهد که ورودی یک نمونه یکتا باشد، و الگورتیم مرتب‌سازی لیست «مرتب‌سازی سریع» زمانی پایان می‌یابد که ورودی، لیست خالی باشد؛ در هر دو مثال تنها یک حالت پایه برای بررسی وجود دارد، که به هیچ پردازشی هم نیاز ندارد.
از سوی دیگر، غالبا، کارایی، زمانی بهبود می‌یابد که بازگشت در حالات پایه بزرگ مرتبط پایان یابد، که هرکدام از این حالات به صورت غیربازگشتی حل می‌شوند. این راهبرد، در مجموع، از فراخوانی‌های بازگشتی‌ای که کار اندکی انجام داده یا اصلا کاری انجام نمی‌دهند، اجتناب می‌ورزد، و هم‌چنین ممکن است استفاده از الگوریتم‌های غیربازگشتی خاصی که برای آن حالات پایه کارآمدتر از بازگشت صرف می‌باشند را میسر سازد. از آن‌جایی که یک الگوریتم D-C، سرانجام، هر نمونه از مسئله یا زیرمسئله را به تعداد زیادی نمونه پایه تقلیل می‌دهد، این نمونه‌های پایه هزینه کلی الگوریتم را رقم می‌زنند، علی‌الخصوص زمانی که هزینه کلی تقسیم و ترکیب پایین باشد. توجه داشته باشید که این ملاحظات به این‌که آیا بازگشت به واسطه کامپایلر پیاده‌سازی شده‌است یا به کمک یک پشته صریح، بستگی ندارد.
بنابراین، به عنوان مثال، بسیاری از پیاده‌سازی‌های کتابخانه‌ای مرتب‌سازی سریع، تا زمانی که تعداد عناصری که قرار است مرتب شوند به اندازه کافی کوچک شود، به یک الگوریتم مرتب‌سازی درجی ساده مبتنی بر حلقه (یا چیزی شبیه آن) سوییچ می‌کنند. توجه شود که، اگر لیست خالی تنها حالت پایه بود، مرتب‌سازی یک لیست با n ورودی منجر به n+۱ فراخوانی مرتب‌سازی سریع خواهدشد که کاری انجام نداده و فورا برمی‌گردند. افزایش حالات پایه به لیست‌هایی با اندازه ۲ یا کم‌تر، بیشتر این فراخوانی‌هایی که کاری انجام نمی‌دهند را حذف خواهد کرد، و به‌طور کلی به منظور تقلیل زمان مصرفی برای فراخوانی‌ها یا دستکاری‌های پشته، معمولا از حالت پایه‌ای بزرگ‌تر از ۲ استفاده می‌شود.
هم‌چنین، می‌توان حالات پایه بزرگی را به کار بست که کماکان از الگوریتم تقسیم و حل استتفاده کنند، اما پیاده‌سازی الگوریتم برای مجموعه‌های از پیش تعیین‌شده با اندازه ثابت می‌تواند کاملا به کدی بدون هیچ‌گونه بازگشت، حلقه یا عبارات شرطی (بسته به روش ارزیابی جزئی) تبدیل شود. به عنوان مثال، این راهبرد در بعضی از پیاده‌سازی‌های کارآمد FFT که در آن‌ها حالات پایه، پیاده‌سازی‌های تبدیل‌شده الگوریتم‌های تقسیم و حل FFT برای یک مجموعه از اندازه‌های ثابت می‌باشند، مورد استفاده قرار گرفته‌است. تعداد زیاد حالات پایه جدا از هم درخور پیاده‌سازی کارآمد این راهبرد، بعضی اوقات با روش‌های تولید کد منبع ایجاد می‌شوند.
به اشتراک گذاری زیرمسئله‌های تکراری
در بعضی مسائل، بازگشت انشعابی، ممکن است به ارزیابی یک زیرمسئله در دفعات زیاد، پایان دهد. در چنین مواردی ممکن است شناسایی و ذخیره راه حل‌های این زیرمسئله‌های مشابه، خالی از لطف نباشد، که این روش به «به خاطرسپاری» معروف بوده و روشی معمول و شناخته‌شده می‌باشد. این شیوه به الگوریتم‌های تقسیم و حل از پایین به بالا مانند برنامه‌نویسی پویا و تجزیه و تحلیل نمودار منجر می‌شود.
تفرقه بینداز و حکومت کن