مسئلهٔ **بهینه‌سازی محدب** یا **بهینه‌سازی کوژ** (به انگلیسی: Convex Optimization) به یافتن مقدار حداقل یک تابع محدب (یا حداکثر یک تابع مقعر) از بین مجموعه‌ای محدب گفته می‌شود. مهمترین مزیت این نوع مسائل بهینه‌سازی در این است که هر نقطهٔ بهینهٔ محلی یک نقطه بهینهٔ سراسری نیز است و هر الگوریتم بهینه‌سازی که یک نقطه بهینهٔ محلی را یافت در حقیقت یک نقطه بهینهٔ سراسری را یافته‌است.

مسئله بهینه‌سازی شبه محدب
-------------------------

مسئله بهینه‌سازی شبه محدب، فرم استاندارد زیر را دارد:

{\displaystyle \min f\_{o}(x)\quad s.t.\quad f\_{i}(x)\leq 0\quad i=1,...m\quad ,Ax=b}

که قیود نامساوی محدب هستند و تابع هدف نیز شبه محدب می‌باشد (زمانیکه مسئله محدب باشد تابع هدف نیز محدب است). قیود شبه محدب می‌توانند با معادل محدب شان جایگزین شوند. در این نوشتار بعضی از اختلافات پایه‌ای بین مسائل بهینه‌سازی محدب و شبه محدب نشان داده خواهد شد، همچنین نشان داده می‌شود حل یک مسئله بهینه‌سازی شبه محدب چگونه می‌تواند به حل چند دنباله از مسائل بهینه‌سازی محدب کاهش یابد.

### پاسخ‌های بهینه محلی و شرایط بهینگی

مهمترین اختلاف بین بهینه‌سازی محدب و شبه محدب این است که مسائل بهینه‌سازی شبه محدب می‌توانند جواب‌های بهینه محلی داشته باشد. این پدیده می‌تواند حتی در ساده‌ترین مورد، کمینه سازی بدون قید یک تابع شبه محدب روی R دیده شود.

برای یک مسئله بهینه‌سازی محدب، x بهینه است اگر:

{\displaystyle \bigtriangledown f\_{0}(x)^{T}(y-x)\geq 0\,\,\,for\,\,\,all\,\,\,y\in X}

انواع شرایط بهینگی برای مسائل بهینه‌سازی شبه محدب با توابع هدف مشتق پذیر برقرار است. X را فضای شدنی برای مسئله بهینه‌سازی شبه محدب در نظر بگیرید، در این صورت x بهینه است اگر:

{\displaystyle x\in X,\quad \quad \bigtriangledown f\_{0}(x)^{T}(y-x)>0\,\,\,for\,\,\,all\,\,\,y\in X}

دو تفاوت مهم بین معیار فوق و معیار بهینگی برای مسائل محدب وجود دارد:

۱- معیار مسائل شبه محدب برای بهینگی پاسخ شرط کافی است و برقراری آن برای نقطه بهینه ضروری نیست اما برقراری رابطه فوق برای مسائل محدب شرط لازم و کافی برای بهینگی x می‌باشد.

۲-معیار فوق نیازمند این است که گرادیان تابع هدف غیر صفر باشد در حالی که در رابطه بهینگی مسائل محدب اینگونه نیست، در واقع زمانی که {\displaystyle \bigtriangledown f\_{0}(x)=0}، معیار بهینگی مسائل محدب صادق است و x نقطه بهینه است.

یک روش کلی برای مسائل بهینه‌سازی شبه محدب وابسته به نمایش مجموعه‌های زیرسطحی از یک تابع شبه محدب است. {\displaystyle \phi \_{t}:R^{n}\rightarrow \,\,t\in R} را به عنوان مجموعه‌ای از توابع محدب که در رابطه زیر صدق می‌کنند در نظر بگیرید.

{\displaystyle f\_{0}(x)\leq t\Leftrightarrow \phi \_{t}(x)\leq 0}

و برای هر x، {\displaystyle \phi \_{t}(x)} یک تابع غیر صعودی از t است. فرض کنید {\displaystyle p^{\*}} جواب بهینه مسئله بهینه‌سازی شبه محدب باشد.

اگر مسئله امکان‌سنجی زیر،

{\displaystyle find\quad x\quad s.t.\quad \phi \_{t}(x)\quad \leq 0,\quad f\_{i}(x)\leq 0,\quad Ax=b}

شدنی باشد سپس {\displaystyle p^{\*}\leq t} را خواهیم داشت. در طرف مقابل اگر مسئله فوق نشدنی باشد می‌توانیم نتیجه بگیریم {\displaystyle p^{\*}\geq t} خواهد بود. مسئله فوق یک مسئله امکان‌سنجی محدب است چون قیود نامساوی محدب هستند و قید تساوی نیز خطی است؛ بنابراین می‌توانیم بررسی کنیم آیا مقدار {\displaystyle p^{\*}} کمتر یا بیشتر از مقدار t ای است که با حل مسئله امکان‌سنجی فوق به دست می‌آید. اگر مسئله امکان‌سنجی شدنی باشد پس خواهیم داشت {\displaystyle p^{\*}\leq t} و هر نقطه شدنی مثل x برای مسئله شبه محدب نیز شدنی است و رابطه {\displaystyle f\_{0}(x)\leq t} را ارضا می‌کند. اگر مسئله امکان‌سنجی محدب نشدنی باشد می‌توان نتیجه گرفت {\displaystyle p^{\*}\geq t} خواهد بود.

جستارهای وابسته
---------------

* رهاسازی\_محدب
* تکمیل ماتریس
* مسئله بهینه‌سازی
* بهینه‌سازی پاوسته

منابع
-----

1. ↑  Rockafellar, R. Tyrrell. "Lagrange Multipliers and Optimality". *SIAM Review* (به انگلیسی). **35** (2): 183–238. ISSN 0036-1445.
2. ↑  Boyd، Stephen. *Convex Optimization*. صص. ۱۵۸.
3. ↑  «. Convergence and efficiency of subgradient methods for quasiconvex minimization». *Mathematical programming*. ۲۰۰۱.

* Boyd, Stephen; Vandenberghe, Lieven. *Convex Optimization* (به انگلیسی).

پیوند به بیرون
--------------

* EE364a: Convex Optimization I and EE364b: Convex Optimization II, Stanford course homepages
* 6.253: Convex Analysis and Optimization, an MIT OCW course homepage
* Brian Borchers, An overview of software for convex optimization


| * ن
* ب
* و
بهینه‌سازی: تئوری، روش‌ها، و ابتکارها |
| --- |
| 

| برنامه‌سازی نامقید غیرخطی: روش‌ها با استفاده از |
| --- |
| 

|  |  |
| --- | --- |
| … تابع‌ها | 
* Golden section search
* Interpolation methods
* Line search
* روش نلدر - مید
* Successive parabolic interpolation

 |
| … و گرادیان‌ها | 

|  |  |
| --- | --- |
| Convergence | 
* Trust region
* Wolfe conditions

 |
| Quasi–Newton | 
* روش بی‌اف‌جی‌اس and L-BFGS
* DFP
* Symmetric rank-one (SR1)

 |
| Other methods | 
* Gauss–Newton
* Gradient
* الگوریتم لونبرگ-مارکارد
* Conjugate gradient

 |

 |
| … و هشین‌ها | 
* Newton's method

 |

 |

 | The graph of a strictly concave quadratic function is shown in blue, with its unique maximum shown as a red dot. Below the graph appears the contours of the function: The level sets are nested ellipses.Optimization computes maxima and minima. |
| 

| برنامه‌سازی مقید غیرخطی |
| --- |
| 

|  |  |
| --- | --- |
| کلی | 
* Barrier methods
* روش پنالتی

 |
| مشتق‌پذیر | 
* Augmented Lagrangian methods
* Sequential quadratic programming
* Successive linear programming

 |

 |

 |
| 

| بهینه‌سازی محدب |
| --- |
| 

|  |  |
| --- | --- |
| بهینه‌سازی محدب | 
* Cutting-plane method
* Reduced gradient (Frank–Wolfe)
* Subgradient method

 |
| برنامه‌ریزی خطی ودرجه دو | 

|  |  |
| --- | --- |
| برنامه‌ریزی خطی | 
* Ellipsoid algorithm of Khachiyan
* الگوریتم کارمارکار

 |
| Basis-الگوریتم حریصانه | 
* الگوریتم غیر مرکب
* Revised simplex algorithm
* Criss-cross algorithm
* Principal pivoting algorithm of Lemke

 |

 |

 |

 |
| 

| بهینه‌سازی ترکیبیاتی |
| --- |
| 

|  |  |
| --- | --- |
| الگو‌ها | 
* الگوریتم تقریبی
* برنامه‌ریزی پویا
* الگوریتم حریصانه
* بهینه‌سازی خطی عدد صحیح
	+ شاخه و حد یا شاخه و برش

 |
| الگوریتم‌هایگراف | 

|  |  |
| --- | --- |
| درخت پوشای کمینه | 
* الگوریتم بلمن–فورد
* الگوریتم بروکا
* الگوریتم دیکسترا
* الگوریتم فلوید-وارشال
* الگوریتم جانسون
* الگوریتم کراسکال

 |

 |
| شبکه شاره | 
* الگوریتم دینیک
* الگوریتم ادموندز کارپ
* الگوریتم فورد–فالکرسون
* الگوریتم ارسال-برچسب

 |

 |

 |
| 

| الگوریتم‌های فراابتکاری |
| --- |
| 
* الگوریتم تکاملی
* الگوریتم تپه‌نوردی
* الگوریتم جستجوی محلی (بهینه‌سازی)
* الگوریتم تبرید شبیه‌سازی شده
* الگوریتم جستجوی ممنوعه

 |

 |
| 
* **رده‌ها**
	+ روش‌ها
	+ ابتکارها
* **نرم‌افزارها**

 |

| * ن
* ب
* و
بهینه‌سازی |
| --- |
| 
* بهینه‌سازی محدب
* بهینه‌سازی خطی عدد صحیح
* Quadratic programming
* برنامه‌سازی غیرخطی
* برنامه‌سازی تصادفی
* بهینه‌سازی استوار
* بهینه‌سازی ترکیبیاتی
* Infinite-dimensional optimization
* الگوریتم‌های فراابتکاریs
* Constraint satisfaction
* Multiobjective optimization

 |

| * ن
* ب
* و
آنالیز محدب و آنالیز تغییرات |
| --- |
| موضوعات (فهرست) | 
* Choquet theory
* بهینه‌سازی محدب
* دوگانگی (بهینه‌سازی)
* ضرایب لاگرانژ
* Legendre transformation
* Locally convex topological vector space
* سادک

 |
| نگاشت‌ها | 
* تابع مزدوج محدب
* تابع مقعر
* (Closed
* K-
* Logarithmically
* Proper
* Pseudo-
* تابع شبه‌محدب) تابع محدب
* Invex function
* Legendre transformation
* تابع نیم‌پیوسته
* Subderivative

 |
| نتایج اصلی (فهرست) | 
* Fenchel–Moreau theorem
* تابع مزدوج محدب
* نابرابری ینسن
* Hermite–Hadamard inequality
* Krein–Milman theorem
* Mazur's lemma
* Robinson-Ursescu
* Simons
* Ursescu

 |
| مجموعه‌ها | 
* پوش محدب
* (Pseudo-) مجموعه محدب
* Effective domain
* اپی گراف
* Hypograph
* Zonotope

 |
| سری‌ها | 
* Convex series related ((cs, lcs)-closed, (cs, bcs)-complete, (lower) ideally convex, (H*x*), and (Hw*x*))

 |

|  |  |
| --- | --- |
| آیکون خرد | این یک مقالهٔ خرد ریاضیات است. می‌توانید با گسترش آن به ویکی‌پدیا کمک کنید. |