ابتدا سعی می‌کنیم تجزیه چندجمله‌ای‌های \(p(x)\) و \(q(x)\) را به گونه‌ای بنویسیم که عاملی به فرم \(x^n + x^3\) در آن‌ها ظاهر شود:

\[p(x) = x^5 + a x^3 = x^3(x^2 + a) = x^2(x^3 + a x)\]

\[q(x) = x^4 + 3x^3 + 2x^2 = x^2(x^2 + 3x + 2) = x^2(x + 2)(x + 1) = (x^3 + 2x^2)(x+1) = (x^3 + x^2)(x+2)\]

با توجه به تجزیه به دست آمده برای \(q(x)\) نتیجه می‌گیریم که \(x^n + x^3\) باید بزرگ‌ترین عامل \((x^3 + x^2)(x + 2)\) باشد.

با توجه به اینکه عامل \(x + 2\) تجزیه‌ناپذیر است، پس\[x^n + x^3 = x^3 + x^2\]بنابراین تنها مقدار ممکن برای \(n\)، مقدار ۲ است.

حال با توجه به تجزیه به دست آمده برای \(p(x)\) نتیجه می‌گیریم که \(x^3 + x^2\) باید بزرگ‌ترین عامل \(x^2(x^3 + a x)\) باشد. داریم:\[x^2 + x^3 \mid x^2 (x^3 + a x) \implies x^2 (x + 1) \mid x^3 (x^2 + a)\]واضح است که \(x^2\) عامل \(x^3\) است. اما در مورد \(x + 1\) تنها حالت ممکن این است که \(x + 1\) عامل \(x^2 + a\) باشد.

اکنون دو حالت داریم:

حالت (۱): اگر \(a \geq 0\)، اگر \(a = 0\) به وضوح:\[x^3 (x^2 + a) = x^5 \quad \text{و} \quad x + 1 \nmid x^5\]

و اگر \(a > 0\) آنگاه \(x^2 + a\) در اعداد حقیقی تجزیه‌ناپذیر است. پس حالت \(a \geq 0\) ناممکن است.

حالت (۲): \(a < 0\): با توجه به اتحاد مزدوج:\[x^2 - 1 = (x - 1)(x + 1)\]

پس اگر \(a = -1\) باشد، \(x + 1\) عاملی از \(x^2 + a\) خواهد بود. بنابراین \(n = 2\) و \(a = -1\) است. پس نهایتا:\[n a = -2\]