Прав ли профессор, утверждая, что при однородной массе, может меняться плотность и зависит от ИСО ?

Answer 1

Плотность зависит от давления. Так как давление не имет верхней границы, то и плотность может быть равна бесконесности. И это еще без всяких там систем отсчета и релятивистских эффектов.

Answer 2

Что такое "однородная масса" - стесняюсь спросить.

Плотность завивит от выбранной СО.
 Масса инвариантна, а вот линейные размеры зависят от скорости по СТО. Так что Николай Матвейчук прав.