В настройках модуля найдите настройку параметра cmd. по умолчанию там написано что то вроде:
-i input -f flv -acodec mp3 -ar 22050 -ab 64k -ac 1 output

добавьте сюда например такой параметр
-i input -f flv -acodec mp3 -ar 22050 -ab 64k -ac 1 -qmin 3 -qmax 7 output
в таком варинате потберите приемлемую для вас разницу миежду qmin и qmax минимальное занчение 1 максимальное 31

либо
-i input -f flv -acodec mp3 -ar 22050 -ab 64k -ac 1 -b 700K output
в таком варинате вы параметром -b указывается битрейт видео.

Глобальный совет:
добиться хорошего(по современным меркам) качества видео используя flv1 или flv2 у вас не получится. Точнее получится но размер файла, а следователно и нагрузка на канал будет недопустимая.

В настоящий момент почти во всех современных системах on line трансляций (youtube например) используют кодек h.264, который выдает НЕСРАВНИМО лучшее качество при файлах которые могут получатся даже меньшими по размеру.

Беглый просмотр вашего модуля дал мне понять что без хаков модуля переключить его на использование другого формата кодирования нельзя.

Возможно есть какой то модуль в друпале который позволяет выбирать кодек. Не в курсе. Я это решал самостоятельно своими модулями.

Любой совремненный флеш видео плеер УМЕЕТ воспроизводить mp4 контейнер с видео кодеком h.264 и аудио AAC/mp3

не можно а нужно.

НО помните, если вы хотите получить возможность просмотра любой части видео без буферизации всего видео, вам еще нужно организовывать streaming сервер для файлов mp4.

как это делается для сервера apache написано например вот тут
http://h264.code-shop.com/trac/wiki/Mod-H264-Streaming-Apache-Version2

В lighttpd такой модуль есть по умолчанию.