Решил немного обобщить свои долгие эксперименты. Пользовался Xilisoft Video Converter, затем Xvid4PSP, как более гибким в настройках, но долгим в конвертировании.
Но в любом конверторе можно сделать в принципе. Это все запакуем в контейнер 3gp, смысла в mp4 мало. Главное чтобы звук был AAC 
Разрешение: 320x240
(Можно накладывать черные полосы методом изменения аспекта Black (Letterbox в Xilisoft), или конвертировать как есть - с разрешением вроде 320x176(правда с патчем на изменение фона в фулскрин режиме медиаплеера смотрится плохо))
Кодек: xvid
(В умных конвертерах, вроде xvid4psp, есть еще много настроек кодека. Лучше ставить:
1-pass bitrate (на таком экране разницу с 2-pass не заметил, а конвертирует быстрее, да и перематывает телефон лучше)
FOURCC: XVID
B-frames 0 (да в принципе и другое значение можно)
Quantization maxtrix: H263)
Частота кадров/FPS: 15
Далее важно, соблюдаем соотношение битрейта видео и аудио. Правильно будет использовать такие настройки:
Видео битрейт: 150-230 kbps (250 в динамичных сценах уже подтормаживает)
Аудио битрейт: 96-128 kbps
Стерео
либо
Видео битрейт: 250-400 kbps (видел и нормальное видео с 450 kbps, но это уже перерасход будет)
Аудио битрейт: 48-64 kbps
Моно
Ну и желателен патч на раздельный аудиобуфер для видео и аудио, потому что с 4x120 видео не посмотришь, а стандартное 4x40 нормально.
Будут вопросы, спрашивайте. 
