Tìm tất cả số nguyên tố p để phương trình x^3 y^3-3xy=p-1 có nghiệm nguyên dương.

Giả thiết tương đương với:

(x + y + 1)(x² + y² + 1 – xy – x − y) = p

Do x + y + 1 > 1 và p là số nguyên tố nên x + y + 1 = p và

x² + y² + 1 – xy – x – y = 1

⇔ \({\left( {x + y} \right)^2} - \left( {x + y} \right) = 3xy \le \frac{3}{4}{\left( {x + y} \right)^2}\)

⇒ x + y ≤ 4

⇒ p ≤ 5

Ta thấy 5 là số nguyên tố. Đẳng thức xảy ra khi x = y = 2.

Vậy max p = 5 khi x = y = 2.