解:(1)①當0<x≤3時,F在邊AC上,

,
∴

;
當3<x≤5時,F在邊BC上,

,
∴

∴

②當0<x≤2時,F、G都在邊AC上,

,

∴

;
當2<x≤3時,F在邊AC上,G在邊BC上,

,

∴

;
當3<x≤5時,F、G都在邊BC上,

,

∴

∴

(2)

①當

時,

,
∴

②當3≤x≤5時,

,
∵

∴

∴F(x)的取值范圍為

.
分析:(1)當0<x≤3時,F在邊AC上,當3<x≤5時,F在邊BC上,分別求出△ADF面積即可得到函數f(x)的表達式,當0<x≤2時,F、G都在邊AC上,當2<x≤3時,F在邊AC上,G在邊BC上,當3<x≤5時,F、G都在邊BC上分別求出由DE,EG,GF,FD圍成的平面圖形面積即可得到g(x)的表達式;
(2)根據四邊形DEGF為矩形求出x
0,討論x求出F(x)的解析式,然后根據函數的單調性可求出函數F(x)的取值范圍.
點評:本題主要考查了函數模型的選擇與應用,以及利用導數研究函數的值域,同時考查了分類討論的數學思想,屬于中檔題.