Oi, Guilherme!
O problema é que aquela estimativa da largura de banda usando o arco-tangente (que está na figura 9 das notas de aula sobre filtros), que está por trás da expressão 1-tan(omega[k]/2), só é boa para pólos que estão próximos do círculo. Quanto mais longe do círculo, menos a largura de banda real se ajusta àquela expressão. Então para as frequências mais agudas, que também requerem uma largura de banda maior do filtro para cobrir bem todo o espectro, a fórmula simplificada falha miseravelmente.
Usar 0.5 nestes dois casos foi uma solução empírica para não ter que escrever nem números mágicos (pré-computados especificamente para cada frequência) nem fórmulas exatas que ficariam bem grandes.
Abraço,
Marcelo