в 1)) формула не понятно написана...
2)) диагонали точкой пересечения делятся на части...
если обозначить одну часть х, вторая будет (20-х) 
у второй диагонали одна часть у, вторая будет (16-у) 
Sчетырехугольника = сумме площадей двух треугольников = S1 + S2...
S1 = 20*H / 2
S2 = 20*h / 2
H --- катет прямоугольного треугольника против угла в 30 градусов => 
H = (16-y) / 2 
h --- катет прямоугольного треугольника против угла в 30 градусов => 
h = y / 2
S = (20/2) * (16-y) / 2 + (20/2) * y / 2 = (20/2) * (16/2) = 80
3)) S(ABC) = AD*CB/2 = AD*DB
ADM --- равнобедренный треугольник с боковыми сторонами = 8
проведем высоту в треугольнике ADM (DH = h)
можно заметить, что получившийся прямоугольный треугольник DHM 
подобен половине данного треугольника ADB 
т.к. углы DAB = DAH = DMH (((DA --- высота и биссектриса )))
DH / DB = DM / AB = HM / AD 
DH / DB = 8 / AB = HM / 8 
=> AB*HM = 8*8 
т.к. СА=АВ и СМ=МА => МА = АВ / 2
HM = AM / 2 = AB / 4
AB*AB/4 = 8*8
AB*AB = 8*8*4
AB = 16
по т.Пифагора DB^2 = 16^2 - 8^2 = (16-8)(16+8) = 8*8*3
DB = 8V3
S(ABC) = 64V3