答は出るけど，存在しない．

補習で扱った，とある教材に出ていた問題
$|\vec{a}|=\sqrt{2},\ |\vec{b}|=1,\ |\vec{a}+3\vec{b}|=1$ のとき，$\vec{a}\cdot\vec{b}$の値を求めよ．

基礎的な問題．
$|\vec{a}+3\vec{b}|^2=1$
$|\vec{a}|^2+6\vec{a}\cdot\vec{b}+9|\vec{b}|^2=1$
$(\sqrt{2})^2+6\vec{a}\cdot\vec{b}+9\cdot1^2=1$
$6\vec{a}\cdot\vec{b}=-10$
$\vec{a}\cdot\vec{b}=-\frac{5}{3}$
簡単簡単．
じゃ，どんな図になるか，描いてみようかな．そのためには，cosθをもとめて，ベクトルのなす角がわかるよよい．

$\cos\theta=\frac{\vec{a}\cdot\vec{b}}{|\vec{a}||\vec{b}|}=\frac{-\frac{5}{3}}{\sqrt{2}\cdot1}=-\frac{5\sqrt{2}}{6}=-\frac{7.07206}{6}\lt-1$

あ，角が存在しない．（cos が-1～1 に収まらない範囲の角は虚数で，計算したら，$\theta=\pi +i\log\frac{5\sqrt{2}-\sqrt{14}}{6}=3.14159- 0.588964i$ だった．）
ということは，$|\vec{a}|=\sqrt{2},\ |\vec{b}|=1,\ |\vec{a}+3\vec{b}|=1$ の3つのベクトルでは，三角形ができないということか．

実際，$|\vec{a}|={\rm AB}=\sqrt{2},\ |\vec{b}|={\rm BC}=3,\ |\vec{a}+3\vec{b}|={\rm AC}=1$ となるような三角形ができるかを考えてみる．


（この絵は，AC=1が長すぎるが．どうせ存在しないので，てきとー）

2辺AB，AC の和は，
AB+AC=√2+1=2.414
にしかならないのに，もう一つの辺は AB=3 と長すぎるので，
√2，1，3
を3辺とする三角形はできない．（BC が長すぎて AB と AC がとどかない．）

つまり，この問題のようなベクトルは存在しない．存在はしないけど，とりあえず計算して答えは出るので，チェックが入らないのだろう．＞虚数の三角関数

ということで，図形が存在するような問題に直してみるのに，次の問題を解いてみる．

問題1
$|\vec{a}|=\sqrt{2},\ |\vec{b}|=1,\ |\vec{a}+3\vec{b}|=t$ が存在するような，t の範囲を求めよ．

解答
$|\vec{a}+3\vec{b}|^2=t^2$
$|\vec{a}|^2+6\vec{a}\cdot\vec{b}+9|\vec{b}|^2=t^2$
$|\vec{a}|^2+6\vec{a}\cdot\vec{b}+9|\vec{b}|^2=t^2$
$\vec{a}\cdot\vec{b}=\frac{t^2-11}{6}$
$\frac{\vec{a}\cdot\vec{b}}{|\vec{a}||\vec{b}|}=\frac{t^2-11}{6\sqrt{2}}$
$\cos\theta=\frac{t^2-11}{6\sqrt{2}}$
-1≦cosθ≦1 より，
$-1\leq\frac{t^2-11}{6\sqrt{2}}\leq 1$
$11-6\sqrt{2}\leq t^2\leq 11+6\sqrt{2}$
$9-6\sqrt{2}+2\leq t^2\leq 9+6\sqrt{2}+2$
$3^2-2\cdot3\sqrt{2}+(\sqrt{2})^2\leq t^2\leq 3^2+2\cdot3\sqrt{2}+(\sqrt{2})^2$
$(3-\sqrt{2})^2\leq t^2\leq (3+\sqrt{2})^2$
$3-\sqrt{2}\leq t\leq 3+\sqrt{2}$

$|\vec{a}+3\vec{b}|$ の右辺の値は，この範囲に制限される．

問題2
$|\vec{a}|=\sqrt{2},\ |\vec{b}|=1,\ |\vec{a}+3\vec{b}|=\sqrt{n}$ が存在するような，自然数 n を求めよ．

解答
問題1で $t=\sqrt{n}$ なので，
$11-6\sqrt{2}\leq n\leq 11+6\sqrt{2}$

$\sqrt{64}\lt\sqrt{72}\lt\sqrt{81}$なので，
$8\lt6\sqrt{2}\lt9$ より，$9\lt11+6\sqrt{2}\lt20$
$-9\lt -6\sqrt{2}\lt -8$ より，$2\lt 11-6\sqrt{2}\lt 3$

よって，
$2\lt 11-6\sqrt{2}\leq n\leq 11+6\sqrt{2}\lt 20$
より，
$n=3,4,5,\cdots 19$

つまり，$|\vec{a}+3\vec{b}|=\sqrt{n}$ で，この範囲の n を使えば，図形が存在するといえる．
右辺を整数にしたければ，nが平方数の4,9,16 の3つだけである．
a, b のなす角θを求める問題にしたければ，√5 でθ=135度，√11で直角，√17 で45度 などとなることがわかる．30度や60度は√自然数　では無理．

ということを，昨日，出版元に知らせたら，

ご指摘の通り，この問題は実際には図をかくことができない図形を扱った問題となっています。
計算上は何の問題もなく解答が求められるため，気づいておりませんでした。
お教えいただき，まことにありがとうございます。
（略）
修正するようにいたします。
今後ともご指導のほどよろしくお願いいたします。

と，早速返信が来た．