Lời giải:
a)
Ta có: \(C=x^2+y^2-xy-x-y+1\)
\(\Leftrightarrow 2C=2x^2+2y^2-2xy-2x-2y+2\)
\(\Leftrightarrow 2C=(x-y)^2+(x-1)^2+(y-1)^2\)
Ta thấy rằng \((x-y)^2, (x-1)^2,(y-1)^2\geq 0\forall x,y\in\mathbb{R}\Rightarrow C\geq 0\)
Do đó, \(C_{\min}=0\Leftrightarrow x=y=1\)
b) \(n^2+3n\) là số nguyên tố tương đương với \(n(n+3)\) là số nguyên tố.
Ta thấy \(n+3-n=3\) là số lẻ nên $n$ và $n+3$ khác tính chẵn lẻ, do đó luôn tồn tại một số chẵn, kéo theo $n(n+3)$ luôn chia hết cho $2$
Để $n(n+3)$ là số nguyên tố thì nó phải có giá trị bằng $2$. Xét $n=0$ không thỏa mãn. Mà với \(n\geq 1\rightarrow n(n+3)\geq 4>2\)
Do đó không tồn tại $n$ thỏa mãn.