Увеличивается или нет масса частицы в ускорителях?

Answer 1

Нет. Не увеличивается. Представление о релятивистском росте массы применялось прежде - для того, чтобы релятивистский импульс обрёл формальное сходство с классическим.

А вот то, что импульс растёт в сответствии с СТО - это есть.
См. "Релятивистская механика" в Вики.

PS
Поскольку учебники традиционно отстают от физики сегодняшних дней, устаревшие формулировки, содержащие понятие "массы покоя", используются и переиздаются вместе с оными учебниками по сей день. Не они первые, не они последние.

Answer 2

Масса не увеличивается. Написанная вами формула для нелепого монстра по имени «релятивистская масса». Бесполезная выдумка начала 20 века, нынче не используется.

Answer 3

Такой подход был распространён в течение длительного времени, однако в современной научной литературе используется редко, так как вносит дополнительную путаницу в терминологию, не давая никаких новых результатов.

В общем, думали, что круто, а оказалось - не круто. Вот и отказываются. Та формула осталась только для импульса (для энергии-импульса) .