Вот допустим есть шифр (точное кол-во символов цыфры или буквы неизвестны) как его взламывают? в теории?

Answer 1

применить МНОГО разных алгоритмов
при появлении адекватных участков текста подстроить успешный алгоритм

а в целом - это процесс творческий, тут умение и опыт решают.