Найдем скалярное произведение: a"b" = ab*cos5П/6 = (-abкор3)/2        (1)

Теперь составим систему уравнений для нахождения a и b (модулей), скалярно умножив сами на себя вектора, приведенные в условии:

(a"+b"кор3)(a"+b"кор3) = a^2 + 2a"b"кор3 + 3b^2

(2a" - b"кор3)(2a" - bкор3) = 4a^2 - 4a"b"кор3 + 3b^2                              (2)

Подставим (1) в (2) и получим систему чисто для модулей векторов a" и b":

a^2 - 3ab + 3b^2 = 1

4a^2 + 6ab + 3b^2 = 31

Попробуем упростить:

Вычтем из второго - первое и получим:  a(a+3b) = 10                             (3)

Теперь домножим первое на 31 и вычтем второе:

27a^2 - 99ab + 90b^2 = 0

3a^2 - 11ab + 10b^2 = 0    однородное уравнение.

Делим на b^2 и обозначим a/b = t:

3t^2 - 11t + 10 = 0     D = 1   t1 = 2,   t2 = 5/3

1.  a/b = 2    и добавим (3)

     a^2 + 3ab = 10

a = 2b                             a = 2

4b^2 + 6b^2 = 10             b = 1

Вектора 3a" и 2b" образуют треугольник с тем же углом 5П/6 между ними. Разность векторов это вектор соединяющий концы этих векторов - то есть третья сторона треугольника. Найдем ее по теореме косинусов:

|3b-2a| = кор{9b^2 + 4a^2 +2*3b*2a*(кор3)/2} = кор{9 + 16 + 12кор3}=

кор(25+12кор3).

2. a/b = 5/3

    a^2 + 3ab = 10

a=5b/3                                                        a = 5/(кор7)

25b^2 /9 +5b^2 = 10      5b^2 /9  + b^2 = 2   b = 3/(кор7)

|3b-2a| = кор{81/7  +  100/7  + 2*(9*10/7)*(кор3)/2}=

= [кор(181 + 90кор3)] / кор7

Ответ: кор(25+12кор3) ;  [кор(181 + 90кор3)] / кор7