Квадрат вписан в окружность, которая, в свою очередь, вписана в правильный треугольник.

Пусть сторона треугольника равна а.
Высота его равна
(a√ 3):2
Радиус окружности, вписанной в правильный треугольник, равен одной трети ее высоты:
r=(a√ 3):6
Радиус описанной вокруг квадрата окружности равен половине его диагонали.
А диагональ = 2r.
Так как окружность одна и та же:
d=2r =2(a√ 3):6=(a√ 3):3
Пусть сторона квадрата равна у. Тогда его диагональ
d=у√2
Подставим значение диагонали
у√2=(a√ 3):3
у=(a√ 3):3):√2=(a√ 3):3√2
Сторона треугольника : сторона квадрата
а:у=а:(a√ 3):3√2=3а√2):a√ 3
Умножим на √ 3 числитель и знаменатель дроби:
а:у=3 √2): √ 3=3 √2*√ 3): √ 3*√ 3=3√6):3=√6
Ответ: отношение сторон правильных треугольника и квадрата =√6:1  или 

 квадрата и треугольника 1:√6