1.
  а) (4a-b)(2a+3b)=8a²+12ab-2ab-3b²=8a²+10ab-3b²

  б) (y-5)(y^2-2y+3)= y³-2y²+3y-5y²+10y+15=y³-7y²+13y+15

2.
  а) a(x-y)+4(x-y) = (a+4)(x-y)
  б) 3x-3y+ax-ay = (3+a)(x-y)

3.
  (x+y)y-(x³-y)(y-1)=xy+y²-(x³y-x³-y²+y)=xy+y²-x³y+x³+y²-y=x³-x³y+xy+2y²-y

4.
  упростим левую часть:  (y-a)(y-b) = y²-by-ay+ab
  упростим правую часть: y²-(a+b)+y+ab = y²-a-b+y+ab
  Ответ: (y-a)(y-b)≠y²-(a+b)+y+ab

5.
 Пусть длина и ширина первоначального прямоугольника- а и b см, тогда
 периметр прямоугольника равен 2(a+b)=40 см
 Площадь до изменения  a*b  на 3 см² меньше площади после изменения размеров 
(a-3)(b+6) ->  
 От большего (a-3)(b+6) вычтем меньшее (ab) и получим разницу 3
 составим систему уравнений

 
 выразим a  из ур-я 2(a+b)=40
  a+b=20
  a=20-b
 и подставим во второе уравнение:
  (20-b-3)(b+6)-b(20-b)=3
  (17-b)(b+6)-20b+b²=3
  17b+102-b²-6b-20b+b²=3

  17b-6b-20b=3-102
  -9b=-99
  b=11   ->  a= 20-11 = 9

  ab =9*11=99

Ответ: площадь первоначального прямоугольника- 99 см²

РЕШЕНИЕ
1.
а) = 8*a² +12*a*b -2*a*b - 3*b² = 8*a²+10*a*b-3*b² - ОТВЕТ
б) = y³ - 2*y²+3*y -5*y²+10*y -15 = y³ - 7*y² + 13*y - 15 - ОТВЕТ
2.
а) = (х-у)*(а+4) - ОТВЕТ
б) = 3*(х-у) + а*(х-у) - (х-у)*(а+3) - ОТВЕТ
3.
(х+у)*у - (х³-у)*(у-1) = x*y+y²-x³*y+x³+y²-y =x³*(1-y)+2*y² + y*(x-1) - ??? 
4.
Исправляем на  (a+b)*y
(y-a)*(y-b) = y² - (a+b)* y + a*b
y² - b*y - a*y - a*b = y² - a*y - b*y + a*b
0 = 0 - тождество - ОТВЕТ
5.
1) P = 2*(a+b) = 40 - периметр - дано
2) (a-3)*(b+6) = a*b + 3 -  площадь - дано
Упрощаем 2)
3) a*b + 6*a - 3*b - 18 = a*b + 3
Упрощаем- сокращаем.
4) 6*a - 3*b = 3+18 = 21
Делаем подстановку из ур. 1)
5) b = 20 - a
6) 6*a  -60 + 3*a = 21
Упрощаем
7) 9*а =21 + 60 = 81 
Находим стороны
8) а = 84 : 9 = 9  - ширина
9) b = 20 - 9 = 11 - длина
Находим площадь
10) S = a*b = 9 * 11 = 99 - площадь была - ОТВЕТ
Проверка
11) 6*17 = 102 = 99 +3 - правильно