Otimização convexa - Teorema de Weierstrass
Seja S um conjunto não vazio, fechado e limitado (também chamado de conjunto compacto) em $ \ mathbb {R} ^ n $ e seja $ f: S \ rightarrow \ mathbb {R} $ uma função contínua em S, então o problema min $ \ left \ {f \ left (x \ right): x \ in S \ right \} $ atinge seu mínimo.
Prova
Como S não é vazio e é limitado, existe um limite inferior.
$ \ alpha = Inf \ left \ {f \ left (x \ right): x \ in S \ right \} $
Agora vamos $ S_j = \ left \ {x \ in S: \ alpha \ leq f \ left (x \ right) \ leq \ alpha + \ delta ^ j \ right \} \ forall j = 1,2, ... $ e $ \ delta \ in \ left (0,1 \ right) $
Pela definição de infimium, $ S_j $ não é vazio, para cada $ j $.
Escolha algum $ x_j \ em S_j $ para obter uma sequência $ \ left \ {x_j \ right \} $ para $ j = 1,2, ... $
Visto que S é limitado, a sequência também é limitada e existe uma subsequência convergente $ \ left \ {y_j \ right \} $, que converge para $ \ hat {x} $. Logo, $ \ hat {x} $ é um ponto limite e S é fechado, portanto $ \ hat {x} \ in S $. Como f é contínuo, $ f \ left (y_i \ right) \ rightarrow f \ left (\ hat {x} \ right) $.
Como $ \ alpha \ leq f \ left (y_i \ right) \ leq \ alpha + \ delta ^ k, \ alpha = \ displaystyle \ lim_ {k \ rightarrow \ infty} f \ left (y_i \ right) = f \ left ( \ hat {x} \ right) $
Assim, $ \ hat {x} $ é a solução de minimização.
Observações
Existem duas condições necessárias importantes para o Teorema de Weierstrass se sustentar. Estes são os seguintes -
Step 1 - O conjunto S deve ser um conjunto limitado.
Considere a função f \ left (x \ right) = x $.
É um conjunto ilimitado e possui um mínimo em qualquer ponto de seu domínio.
Assim, para que os mínimos sejam obtidos, S deve ser limitado.
Step 2 - O conjunto S deve ser fechado.
Considere a função $ f \ left (x \ right) = \ frac {1} {x} $ no domínio \ left (0,1 \ right).
Esta função não é fechada no domínio dado e seus mínimos também não existem.
Portanto, para que os mínimos sejam obtidos, S deve ser fechado.