この問題のポイント
公式がそのまま使えない因数分解は、1つの文字について整理、置き換え、（2乗）-（2乗）への変形などをして公式を利用できるようにする！
（１）① 与えられた式を因数分解しようと思ったら、いったん展開しないといけないような式ですね。そして、因数分解では、次数の低い文字について整理していくのが鉄則です。次数が低い文字がない場合は、どれか1つの文字について整理しないといけません。この問題の場合は$x$についても$y$についても2次式になりそうですから、どちらの文字で整理してもOKです。
たとえば、与えられた式を$y$について整理することを考えましょう。この式はふつうに展開してしまうとややこしそうな感じがしますが、\( (y+1)(xy+1) \)から展開し、$x+1$をひとつのかたまりとみなして展開するとやりやすいです。
\( (x+1)(y+1)(xy+1)+xy \)
\( = (x+1)(xy^2+y+xy+1)+xy \)
\( = (x+1)\{xy^2+(x+1)y+1\}+xy \)
\( = x(x+1)y^2+(x+1)^2y+x+1+xy \)
\( = x(x+1)y^2+\{(x+1)^2+x\}y+x+1 \)
$y$について整理できました。その式を見ると、$y^2$の係数は$x$と$x+1$をかけたもの、$y$の文字がない部分は$x+1$となっています。よって、たすきがけにより、こう因数分解できます。
\( x(x+1)y^2+\{(x+1)^2+x\}y+x+1 \)
\( = \{xy+(x+1)\}\{(x+1)y+1\} \)
\( = (xy+x+1)(xy+y+1) \)
係数が文字になっても、1つの文字について整理し、共通するものをくくりだしたり、たすきがけを利用したりという基本的な方法は同じです。特にたすきがけを利用するときは、もともと何の文字について整理していたか、その結果、係数は何と何がかけられているのかをきちんと把握するように心がけましょう。
② 因数分解する式に$x^4$があれば、$x^2$を$X$など別の文字に置き換えてみましょう。すると、\( x^4 = (x^2)^2 = X^2 \)とすることができるからです。この問題なら、\( X^2+5X+9 \)とすることができます。しかし、そのように置き換えたからといって、この式はこれ以上因数分解することができません。
もし$X$の係数が9の半分の2乗、つまり6であれば\( X^2+6X+9 = (X+3)^2 \)と因数分解できます。そこで、式をこのようにしてみましょう。
\( X^2+5X+9 \)
\( = X^2+6X+9-X \)
\( = (X+3)^2-X \)
ここで$X$に置き換えたものを戻すと、\( (x^2+3)^2-x^2 \)となります。
すると、この式は（2乗）-（2乗）の形になっていますね？
\( a^2-b^2 = (a+b)(a-b) \)と因数分解できますから、それを利用すると、
\( (x^2+3)^2-x^2 \)
\( = (x^2+3+x)(x^2+3-x) \)
\( = (x^2+x+3)(x^2-x+3) \)
これで因数分解が終わりということになります。
このように、$x^2$を置き換えた式で公式をそのまま適用できない場合は\( (x^2±●)^2-(■x)^2 \)の形に変形させて、そこから因数分解するという方法があります。
（２）たとえば\( (x+3)(x+5) \)を展開すると、
\( x^2+3x+5x+15 \)
\( = x^2+8x+15 \)
このように、$x$の係数は数字を足したもの、$x$などの文字がない部分は数字をかけたものになります。この問題で2次式の積になおした式は12という数字がありますから、かけて12になる組み合わせを考えます。-2と-6、3と4がその組み合わせになりますね？よって、
\( (x-2)(x+3)(x+4)(x-6) \)
\( = (x+3)(x+4)(x-2)(x-6) \)
\( = (x^2+7x+12)(x^2-8x+12) \)
これより、$a$にあてはまるのが7で、$b$にあてはまるのが8とわかります。
これを利用すると、
\( (x-2)(x+3)(x+4)(x-6)+54x^2 \)
\( = (x^2+7x+12)(x^2-8x+12)+54x^2 \)
\( = (x^2+12+7x)(x^2+12-8x)+54x^2 \)
ここで、\( x^2+12 = X \)と置き換えます。このように、因数分解では共通する部分をできるだけ作りだしていき、それを置き換えていくことがコツとなります。すると、
\( (X+7x)(X-8x)+54x^2 \)
\( = X^2-xX-56x^2+54x^2 \)
\( = X^2-xX-2x^2 \)
たすきがけにより、\( (X-2x)(X+x) \)
置き換えしたものを戻すと、\( (x^2+12-2x)(x^2+12+x) \)、つまり\( (x^2-2x+12)(x^2+x+12) \)
よって、$c$にあてはまるのが2で、$d$にあてはまるのが1です。
（３）$abc$を求めるわけですが、ほかに\( a^3+b^3+c^3 \)という式もありますね？そこで確認したいのがこの公式です。
\( a^3+b^3+c^3-3abc \)
\( = (a+b+c)(a^2+b^2+c^2-ab-bc-ca) \)
この公式に、与えられた文字をあてはめると、
\( C-3abc = A(B-ab-bc-ca) \)
\( C-3abc = A\{B-(ab+bc+ca)\} \) …[1]
この[1]の式で\( ab+bc+ca \)というのが$A$，$B$，$C$を使った形にできれば、この問題が解けそうですから、どうやってそれが実現できるか考えてみましょう。
ちょうど\( a+b+c \)や\( a^2+b^2+c^2 \)という式が問題文中にありますが、
\( (a+b+c)^2 = a^2+b^2+c^2+2ab+2bc+2ca \)
という展開の公式がありましたので、これにも与えられた文字をあてはめると、
\( A^2 = B+2ab+2bc+2ca \) …[2]
ここで、[2]の式を変形させると、
\( A^2 = B+2(ab+bc+ca) \)
\( 2(ab+bc+ca) = A^2-B \)
\( \displaystyle ab+bc+ca = \frac{A^2-B}{2} \)
\( ab+bc+ca \)を$A$，$B$，$C$を使った形で表すことができたので、これを[1]の式に代入すると、このようになります。
\( \displaystyle C-3abc = A\left(B-\frac{A^2-B}{2}\right) \)
\( \displaystyle C-3abc = AB-\frac{A(A^2-B)}{2} \)
\( \displaystyle C-3abc = AB-\frac{1}{2}A^3+\frac{1}{2}AB \)
\( \displaystyle C-3abc = -\frac{1}{2}A^3+\frac{3}{2}AB \)
\( \displaystyle -3abc = -\frac{1}{2}A^3+\frac{3}{2}AB-C \)
\( \displaystyle abc = \frac{1}{6}A^3-\frac{1}{2}AB+\frac{1}{3}C \)
答え．
（１）
① \( (xy+x+1)(xy+y+1) \)
② \( (x^2+x+3)(x^2-x+3) \)
（２）
\( a = 7 \)，\( b = 8 \)，\( c = 2 \)，\( d = 1 \)
（３）
\( \displaystyle abc = \frac{1}{6}A^3-\frac{1}{2}AB+\frac{1}{3}C \)