Trong mặt phẳng toạ độ \(Oxy\), cho hình vuông \(ABCD\) và các điểm \(M(0;2)\), \(N(5; - 3),P( - 2; - 2),Q(2; - 4)\)

Gọi \({\vec n_{AB}} = (a;b)\left( {{a^2} + {b^2} > 0} \right)\) là vectơ pháp tuyến của đường thẳng \(AB\). Đường thẳng \(AB\) đi qua \(M(0;2)\)nên có phương trình dạng: \(a(x - 0) + b(y - 2) = 0 \Leftrightarrow ax + by - 2b = 0.\)

Đường thẳng \(BC\) vuông góc với \(AB\) nên ta có thể chọn \({\vec n_{BC}} = (b; - a)\) làm vectơ pháp tuyến của đường thẳng \(BC\). Đường thẳng \(BC\) đi qua \(N(5; - 3)\) nên có phương trình dạng:

\(b(x - 5) - a(y + 3) = 0 \Leftrightarrow bx - ay - 5b - 3a = 0.\)

Tứ giác \(ABCD\) là hình vuông nên \(d(P,AB) = d(Q,BC)\). Do đó, ta có: \(\frac{{| - 2a - 2b - 2b|}}{{\sqrt {{a^2} + {b^2}} }} = \frac{{|2b + 4a - 5b - 3a|}}{{\sqrt {{b^2} + {a^2}} }} \Leftrightarrow |2a + 4b| = |a - 3b|{\rm{. }}\)

Suy ra \(a =  - 7b\) hoặc \(3a =  - b\)

Với \(a =  - 7b\)ta chọn \(b = 1,a =  - 7\). Suy ra phương trình đường thẳng \(AB\)là: \( - 7x + y - 2 = 0,d(P,AB) = \sqrt 2 \)

Vậy diện tích hình vuông \(ABCD\)bằng: \({(\sqrt 2 )^2} = 2\)

Với \(3a =  - b\)ta chọn \(a = 1,b =  - 3\). Suy ra phương trình đường thẳng \(AB\) là: \(x - 3y + 6 = 0\)

và \(d(P,AB) = \sqrt {10} \)

Vậy diện tích hình vuông \(ABCD\)bằng \({(\sqrt {10} )^2} = 10\)