Quando pensamos num polígono convexo, imaginamos seus vértices todos apontando para fora, ou seja, que ele não possui vértices reentrantes. Como os dois polígonos da esquerda na Figura 1.

Fig. 1. Dois polígonos convexos e dois não convexos.

Essa idéia intuitiva necessita, entretanto, uma formulação mais precisa, para poder ser usada com segurança e generalidade. Além disso, há outras maneiras de pensar num polígono convexo. Conforme o contexto, uma dessas definições pode ser mais adequada do que as outras. Por isso é conveniente conhecer as principais alternativas e saber mostrar que elas são equivalentes.

A seguir, daremos três definições diferentes de polígono convexo e provaremos a equivalência entre elas.

Chamamos polígono a uma linha poligonal fechada sem auto-interseções, isto é, cada lado tem apenas um ponto comum com o lado anterior e com o seguinte, mas não com os demais.

As vezes, a palavra "polígono" também designa a região do plano limitada por essa linha poligonal fechada sem auto-interseções. Por exemplo, quando falamos da área de um polígono, é claro que nos referimos à região poligonal, não à linha que a limita.

Um subconjunto F do plano chama-se uma figura plana convexa quando, para quaisquer dois pontos X e Y em F, o segmento de reta XY  está inteiramente contido em   F.

Fig. 2. Duas figuras planas convexas e duas não convexas.

 

Primeira definição

Um polígono diz-se convexo  quando a região por ele limitada é uma figura plana convexa.

Segue-se desta definição que toda diagonal de um polígono convexo está inteiramente contida na região por ele limitada.

Para a segunda definição, lembremos que toda reta r decompõe o plano em duas regiões que têm r como fronteira comum. Chamaremos essas regiões as  margens  de  r.

As margens de uma reta são figuras planas convexas. Se os pontos X e Y estão em margens opostas da reta r, o segmento de reta  XY  corta  r.

Diz-se que r é uma reta de apoio do polígono P quando P tem pelo menos um ponto em comum com r e situa-se inteiramente numa das margens de  r.

Fig. 3.  r é a reta de apoio dos polígonos P₁ e P₂ mas não de P₃ e P₄.

Um polígono chama-se convexo  quando a reta que contém qualquer dos seus lados é uma reta de apoio.

Por exemplo, dos polígonos na Figura 3, apenas   P₄   é convexo.

Para formular a terceira definição de polígono convexo, definimos um ziguezague ABCD como uma poligonal com três lados, AB, BC e CD, dispostos de modo que AB e CD se situem em margens opostas da reta (que contém o segmento)   BC.

Fig. 4. A poligonal ABCD é um ziguezague mas A'B'C'D' não é.

Um polígono diz-se  convexo   quando não contém ziguezagues.

Notemos que se   ABCD   é um ziguezague contido no polígono P,  então um dos vértices   B, C  é saliente e o outro reentrante.

Fig. 5. No ziguezague ABCD, o vértice C é saliente paia o polígono P e reentrante para Q. O contrário ocorre com o vértice B.

Para demonstrar a equivalência entre estas três definições de polígono convexo, usaremos a noção de "ponta" de um polígono.

Sejam A, B, C vértices consecutivos do polígono P. Diz-se que B é uma ponta de P quando o segmento AC é uma diagonal interna desse polígono.

Fig. 6. Os vértices B e D (mas não A e C) são pontas de ABCD.

Todo polígono tem pelo menos uma ponta.

Demonstração:

Um polígono P, de n lados, decompõe-se, mediante diagonais internas, em n 2 triângulos justapostos (RPM 18, p. 36). Cada um dos n lados de P pertence a pelo menos um desses n 2  triângulos. Pelo princípio da casa dos pombos (RPM 8, p. 21) há 2 lados de P no mesmo triângulo. O vértice comum a esses dois lados é uma ponta de  P.

0 teorema seguinte estabelece a equivalência entre as três definições de polígono convexo dadas acima.

Teorema 1

Cada uma das seguintes afirmações a respeito de um polígono P implica, as demais:

1)    A região limitada por P é uma figura plana convexa;

2)    A reta que contém qualquer lado de  P  é uma reta de apoio;

3)    P não possui ziguezagues.

Demonstração

Provaremos as implicações  1) 2) 3)   1).

1)     2).   Admitindo   1),  suponhamos, por absurdo, que  2)  seja falsa, isto é, que exista um lado AB do polígono P e pontos X, Y da região  F  limitada por   P  situados em margens opostas da reta AB,   como na Figura 7.

Sendo  F  convexa, todos os pontos dosegmento   XY,   e daí todos os pontos do triângulo    AXY,    obtidos ligando A   aos pontos de   XY,   estão contidos em   F.   Então  AB   não é lado de   P. Contradição.

2) 3).  Se  ABCD   é um ziguezague,   AB   e   CD   estão em margens opostas da reta BC. Portanto, um polígono onde a reta que contém qualquer dos seus lados é de apoio não pode conter ziguezagues.
 

3) 1). Para provar esta última implicação suponhamos, por absurdo, que exista um polígono P, com n lados, que não contém ziguezagues mas a região F, por ela limitada, não é uma figura plana convexa. Tomemos P de modo que n seja o menor possível. Então 3) 1) para polígonos com menos de n lados. Pelo lema, existem vértices consecutivos L, A, B, C, D de P tais que B é uma ponta. A diagonal AC decompõe P em dois polígonos justapostos: o triângulo ABC e um polígono Q, de n 1 lados, que não contém ziguezagues, logo limita uma figura plana convexa  G.

Fig. 8.  O polígono P decomposto no triângulo ABC e no polígono Q, de n 1 lados.

Assim, para provar que   F   é uma figura plana convexa, basta tomar um ponto X  no triângulo ABC, um ponto Y  na região G  mostrar que o segmento de reta XY está contido em F. Como já vimos que 1) 2), sabemos que AC é uma reta de apoio para Q, logo X e Y estão em margens opostas de AC. Além disso, como LABC e ABCD não são ziguezagues, X e Y estão na mesma margem em relação às retas AB e BC. Tudo isto significa que o segmento XY corta a reta AC mas não as retas AB ou BC. Noutras palavras, o segmento XY sai do triângulo ABC por um ponto Z do segmento AC. Então XZ  está contido no triângulo  ABC  e  ZY  está contido na região G, logo XY está contido na região  F,  como queríamos demonstrar.

Para finalizar, breves observações sobre as definições acima propostas:

1.       A primeira definição é a que melhor se adapta aos padrões atuais da Matemática, tanto Pura, como Aplicada. Ela se aplica literalmente a figuras sólidas com um número qualquer de dimensões. Dela resulta facilmente que a interseção de duas ou mais figuras convexas é uma figura convexa. Por isso é simples deduzir dela que um polígono é convexo se, e somente se, tem exatamente dois pontos em comum com qualquer reta que passa pelo seu interior.
(Isto seria uma quarta definição de polígono convexo.)

2.       A segunda definição também se estende a poliedros em espaços com um número qualquer de dimensões. Ela permite caracterizar um polígono convexo como o conjunto das soluções   (x,y)   de um sistema de desigualdades lineares do tipo  ax + by < c.   Por isso desempenha papel fundamental em Programação Linear.

3.       As duas primeiras definições têm caráter global enquanto a terceira é nitidamente local.   Para verificar se um dado polígono é convexo no sentido das duas primeiras definições é necessário examinar (várias vezes) todos os seus lados ao mesmo tempo. Já na terceira definição, para cada lado, olha-se apenas para o lado à sua esquerda e para o lado à sua direita.  Do ponto de vista computacional, isto é bem mais simples. Por outro lado, a não
existência de ziguezagues só faz sentido no plano.  Além disso, trata-se de uma hipótese da qual, em que pese seu grande apelo geométrico, é difícil deduzir conseqüências. (Compare 3)   1) com as outras implicações.)

[Agradeço a Paulo Cézar P. Carvalho, por observações esclarecedoras.]