А как удучшить АЧХ?

Answer 1

Подавляющему большинству модемов абсолютно пофиг АЧХ. Амплитудные характеристики вобще пофиг. Амплитуда выравнивается эхокомпенсаторами обеих модемов. Модуляция-то у модема фазовая, а потому смотреть надо не АЧХ, а ФЧХ. А она зависит от конкретного оконечного оборудования на станции и от помехи 50 Гц, которая складывается (и вычитается) по частоте с несущей и зависимо от её уровня портит сигнал. Можно попытаться её фильтровать (лично я не пробовал) .
 С амплитудой проблемы две: 1) Если во время соединения амплитудная характеристика меняется - то теряются настройки эхокомпенсатора и модемы согласуются по-новой без обрыва соединения. У внутренних с этим могут быть проблемы.
 2) Если сигнал обрезается по амплитуде (а это делают все АТС) , то если хотя бы один из модемов "кричит" громче, чем может пропустить ограничитель амплитуды - то его гармоники забивают полезный сигнал и эхокомпенсатор не может правильно настроиться. Как вариант решения - немного уменьшить уровень на передачу своего модема (это делается AT-командами, для каждого модема своими) .