如果一個平面 多邊形 包含連線其任意兩點的所有線段，則它是凸多邊形。例如，正五邊形是凸多邊形（左圖），而凹五邊形則不是（右圖）。不是凸多邊形的平面多邊形被稱為凹多邊形。
設一個簡單多邊形有 
個頂點 
，其中 
, 2, ..., 
，並將邊向量定義為
 |
(1)
|
其中 
被理解為等同於 
。那麼，多邊形是凸多邊形當且僅當從一個邊向量到下一個邊向量的所有轉向都具有相同的方向。因此，一個簡單多邊形是凸多邊形當且僅當
 |
(2)
|
對於所有 
，具有相同的符號，其中 
表示垂直點積 (Hill 1994)。然而，已知一種更有效的測試，它不需要預先知道多邊形是簡單的 (Moret and Shapiro 1991)。
快樂結局問題考慮凸 
邊形和最小點數 
（在一般位置），在這些點中總是可以找到一個凸 
邊形。n=3、4、5 和 6 的答案分別是 3、5、9 和 17。據推測 
，但僅證明了
 |
(3)
|
其中 
是二項式係數。
