Oi, Daniel.
Antes de fazer as contas, temos que lembrar que em geral a soma das medidas de amplitude (pico e RMS) não é igual à medida de amplitude da soma dos sinais (apesar de obedecerem à desigualdade triangular). Mas, se os sinais não são correlacionados, então a soma das medidas é em geral igual à medida da soma dos sinais, e podemos fazer a conta que o enunciado pede.
Sobre a sua suposição do valor de a0, ela não é necessária pois o que nos interessa aqui é quantas vezes a medida da amplitude do sinal resultante é maior do que a de cada sinal original, ou seja, a razão entre eles. A pergunta poderia ser refeita assim: "quantos sinais não correlacionados de amplitude a0 teríamos que somar para obter um sinal cuja amplitude a é 9dB maior?".
A razão resultante a/a0 para um sinal com aplitude a 9dB maior do que a0 não é um número inteiro. Isso só seria um problema no contexto da resposta da pergunta ("quantos sinais teríamos que somar"), mas a resposta poderia ser "para obter um sinal com amplitude pelo menos 9dB maior, é necessário somar no máximo x sinais não correlacionados de mesma amplitude".
Não entendi a sua conta com raíz. O que seria o k? e o que seria a operação k.(1^2)?
Espero ter ajudado, qualquer coisa fique a vontade para perguntar novamente.