Шаг 1
Первое уравнение $(x^2 - 5x - y + 3) \cdot \sqrt{x - y + 3} = 0$ равносильно совокупности двух условий с ОДЗ $x - y + 3 \ge 0$:
1) $\sqrt{x - y + 3} = 0 \Rightarrow y = x + 3$.
2) $x^2 - 5x - y + 3 = 0 \Rightarrow y = x^2 - 5x + 3$, при этом $x - y + 3 \ge 0$.
1) $\sqrt{x - y + 3} = 0 \Rightarrow y = x + 3$.
2) $x^2 - 5x - y + 3 = 0 \Rightarrow y = x^2 - 5x + 3$, при этом $x - y + 3 \ge 0$.
Шаг 2
Подставляем $y = 3x + a$ из второго уравнения. ОДЗ: $x - (3x + a) + 3 \ge 0 \Rightarrow x \le \frac{3 - a}{2}$.
Случай A: $y = x + 3$ и $y = 3x + a$. Тогда $x + 3 = 3x + a \Rightarrow x_A = \frac{3 - a}{2}$, $y_A = \frac{9 - a}{2}$. ОДЗ выполняется как равенство. Это решение существует при любом $a$.
Случай B: $y = x^2 - 5x + 3$ и $y = 3x + a$. Тогда $x^2 - 5x + 3 = 3x + a \Rightarrow x^2 - 8x + (3 - a) = 0$. Дискриминант $D = 4(13 + a)$. Корни $x_{1,2} = 4 \pm \sqrt{13 + a}$ существуют при $a \ge -13$. Для каждого корня нужно $x \le \frac{3 - a}{2}$.
Случай A: $y = x + 3$ и $y = 3x + a$. Тогда $x + 3 = 3x + a \Rightarrow x_A = \frac{3 - a}{2}$, $y_A = \frac{9 - a}{2}$. ОДЗ выполняется как равенство. Это решение существует при любом $a$.
Случай B: $y = x^2 - 5x + 3$ и $y = 3x + a$. Тогда $x^2 - 5x + 3 = 3x + a \Rightarrow x^2 - 8x + (3 - a) = 0$. Дискриминант $D = 4(13 + a)$. Корни $x_{1,2} = 4 \pm \sqrt{13 + a}$ существуют при $a \ge -13$. Для каждого корня нужно $x \le \frac{3 - a}{2}$.
Шаг 3
Проверим совпадение решений из A и B. Подставим $x_A = \frac{3 - a}{2}$ в уравнение $x^2 - 8x + (3 - a) = 0$:
$\left( \frac{3 - a}{2} \right)^2 - 8 \cdot \frac{3 - a}{2} + 3 - a = 0 \Rightarrow (3 - a)(-a - 9) = 0$.
Отсюда $a = 3$ или $a = -9$. При $a = 3$ корни B: $x = 0$ и $x = 8$, при $a = -9$ корни B: $x = 2$ и $x = 6$.
$\left( \frac{3 - a}{2} \right)^2 - 8 \cdot \frac{3 - a}{2} + 3 - a = 0 \Rightarrow (3 - a)(-a - 9) = 0$.
Отсюда $a = 3$ или $a = -9$. При $a = 3$ корни B: $x = 0$ и $x = 8$, при $a = -9$ корни B: $x = 2$ и $x = 6$.
Шаг 4
Анализ количества решений.
- При $a < -13$: корней B нет, только A — 1 решение.
- При $a = -13$: $D = 0$, $x_B = 4$, ОДЗ: $x \le 8$. Решение A: $x_A = 8$. Разные корни, всего 2 решения.
- При $a > -13$: два корня $x_1 = 4 - \sqrt{13 + a}$, $x_2 = 4 + \sqrt{13 + a}$.
Исследуем выполнение ОДЗ $x \le \frac{3 - a}{2}$:
1) $x_2 \le \frac{3 - a}{2}$ выполняется при $-13 < a \le -9$.
2) $x_1 \le \frac{3 - a}{2}$ выполняется при $a < -5$ или при $-5 \le a \le 3$.
Теперь перебираем интервалы:
- $a < -9$: оба корня B удовлетворяют ОДЗ, $x_A$ не совпадает с ними. Всего 3 решения.
- $a = -9$: оба корня B удовлетворяют ОДЗ, $x_2 = 6$ совпадает с $x_A$. Различных решений 2.
- $-9 < a < 3$: только $x_1$ удовлетворяет ОДЗ, $x_A$ не совпадает с $x_1$ (кроме $a = 3$, но его рассматриваем отдельно). Всего 2 решения.
- $a = 3$: только $x_1 = 0$ удовлетворяет ОДЗ, но $x_A = 0$ совпадает с ним. Всего 1 решение.
- $a > 3$: ни один корень B не удовлетворяет ОДЗ, только A — 1 решение.
Итак, ровно два различных решения при $a = -13$ и при $-9 < a < 3$. Объединяем: $a \in \{-13\} \cup (-9, 3)$.
- При $a < -13$: корней B нет, только A — 1 решение.
- При $a = -13$: $D = 0$, $x_B = 4$, ОДЗ: $x \le 8$. Решение A: $x_A = 8$. Разные корни, всего 2 решения.
- При $a > -13$: два корня $x_1 = 4 - \sqrt{13 + a}$, $x_2 = 4 + \sqrt{13 + a}$.
Исследуем выполнение ОДЗ $x \le \frac{3 - a}{2}$:
1) $x_2 \le \frac{3 - a}{2}$ выполняется при $-13 < a \le -9$.
2) $x_1 \le \frac{3 - a}{2}$ выполняется при $a < -5$ или при $-5 \le a \le 3$.
Теперь перебираем интервалы:
- $a < -9$: оба корня B удовлетворяют ОДЗ, $x_A$ не совпадает с ними. Всего 3 решения.
- $a = -9$: оба корня B удовлетворяют ОДЗ, $x_2 = 6$ совпадает с $x_A$. Различных решений 2.
- $-9 < a < 3$: только $x_1$ удовлетворяет ОДЗ, $x_A$ не совпадает с $x_1$ (кроме $a = 3$, но его рассматриваем отдельно). Всего 2 решения.
- $a = 3$: только $x_1 = 0$ удовлетворяет ОДЗ, но $x_A = 0$ совпадает с ним. Всего 1 решение.
- $a > 3$: ни один корень B не удовлетворяет ОДЗ, только A — 1 решение.
Итак, ровно два различных решения при $a = -13$ и при $-9 < a < 3$. Объединяем: $a \in \{-13\} \cup (-9, 3)$.
Окончательный ответ:
$\{-13\} \cup (-9, 3)$