В условии задачи описан один из методов определения размеров молекул. Нерастворимая в воде жидкость, имеющая меньшую, чем вода плотность растекается по поверхности воды до тех пор, пока толщина слоя не станет равной размеру молекулы. То есть молекулы масла образуют слой толщиной в одну молекулу. И эту толщину (то есть размер молекулы легко вычислить по простой формуле:

V=S*h, где V = 10⁻⁵ *10⁻⁶ м³ = 10⁻¹¹ м³, S = 50*10⁻⁴ м³ = 5*10⁻³ м²

Тогда, размер молекулы

h= V/S = 10*10⁻¹⁰/5*10⁻³ = 2*10⁻⁷ = 200*10⁻⁹ м = 200 нм

Этот размер на 2 порядка превышает размер молекулы масла, видимо в условии объем масла не 10⁻⁵, а 10⁻³ см³

Тогда размер молекулы 2 нм, что совпадает с реальностью