Os sistemas instáveis não satisfazem as condições BIBO. Portanto, para uma entrada limitada, não podemos esperar uma saída limitada no caso de sistemas instáveis.
Exemplos
a) $y(t) = tx(t)$
Aqui, para uma entrada finita, não podemos esperar uma saída finita. Por exemplo, se colocarmos $ x (t) = 2 \ Rightarrow y (t) = 2t $. Este não é um valor finito porque não sabemos o valor de t. Portanto, ele pode ser variado de qualquer lugar. Portanto, este sistema não é estável. É um sistema instável.
b) $y(t) = \frac{x(t)}{\sin t}$
Já discutimos anteriormente que a função seno tem um intervalo definido de -1 a +1; mas aqui, está presente no denominador. Portanto, na pior das hipóteses, se colocarmos t = 0 e a função seno se tornar zero, todo o sistema tenderá para o infinito. Portanto, este tipo de sistema não é nada estável. Obviamente, este é um sistema instável.