Почему в опыте Крутильных весов ( Кавендиш ) при тех же массах шаров, но при их диаметре в 6 раз большим, результат

Answer 1

потому, что во вращательном движении в уравнении фигурирует другой параметр.
не масса, но момент инерции тела, который наряду с массой зависит от конфигурации, размера тела или системы тел

Answer 2

Момент инерции шара в крутильных весах
J=2/5*m*r^2+m*R^2
m - масса шара,
r - радиус шара,
R - расстояние от центра вращения.
Как видите, момент инерции зависит от радиуса шара, поэтому и закручивание нити будет разным при разных диаметрах шара.