Gọi x là độ dài cạnh hình chữ nhật không nằm trên đường kính đường tròn 0<x<10.
Khi đó độ dài cạnh hình chữ nhật nằm trên đường tròn là:
Diện tích hình chữ nhật:
Đặt
Ta có:
Lập bảng biến thiên ta thấy hàm số f(x) đạt giá trị lớn nhất tại .
Vậy diện tích lớn nhất của hình chữ nhật là: