Шаг 1
Исходная система состоит из уравнения окружности $x^{2}+y^{2}=16$ и уравнения $(x+ay-5)(x+ay-5a)=0$.
Результат:
Система равносильна объединению двух систем: $x+ay=5$, $x^{2}+y^{2}=16$ и $x+ay=5a$, $x^{2}+y^{2}=16$.
Шаг 2
Чтобы вся система имела ровно 4 различных решения, каждая прямая должна пересекать окружность в двух различных точках.
Результат:
Расстояние от центра окружности $(0,0)$ до каждой прямой должно быть меньше радиуса $4$.
Шаг 3
Для прямой $x+ay-5=0$ расстояние $d_1 = \frac{|5|}{\sqrt{1+a^{2}}} < 4$.
Результат:
$\frac{5}{\sqrt{1+a^{2}}} < 4 \Rightarrow 1+a^{2} > \frac{25}{16} \Rightarrow a^{2} > \frac{9}{16} \Rightarrow |a| > \frac{3}{4}$.
Шаг 4
Для прямой $x+ay-5a=0$ расстояние $d_2 = \frac{|5a|}{\sqrt{1+a^{2}}} < 4$.
Результат:
$\frac{5|a|}{\sqrt{1+a^{2}}} < 4 \Rightarrow 25a^{2} < 16(1+a^{2}) \Rightarrow 9a^{2} < 16 \Rightarrow a^{2} < \frac{16}{9} \Rightarrow |a| < \frac{4}{3}$.
Шаг 5
Прямые должны быть различны, чтобы точки пересечения не совпадали.
Результат:
$5 \neq 5a \Rightarrow a \neq 1$.
Шаг 6
Объединяем все условия: $|a| > \frac{3}{4}$, $|a| < \frac{4}{3}$ и $a \neq 1$.
Результат:
$a \in \left(-\frac{4}{3}, -\frac{3}{4}\right) \cup \left(\frac{3}{4}, 1\right) \cup \left(1, \frac{4}{3}\right)$.
Окончательный ответ:
$a \in \left(-\frac{4}{3}, -\frac{3}{4}\right) \cup \left(\frac{3}{4}, 1\right) \cup \left(1, \frac{4}{3}\right)$.