ToniG, obrigado pela ajuda, mas infelizmente eu já estava fazendo isso... não sei se o tamanho do arquivo pode influenciar em alguma coisa, o arquivo que estou querendo embutir a legenda tem aproximadamente 4gb.
Outra coisa que vale ressaltar, não mexi nas configurações da saída da legenda, somente coloquei ela lá e mais nada...
adicionado 36 minutos depois
(arquivo 1 - mkv, 4 gb) E (legenda 1 srt) > conversão em AVI = não embuti.
(arquivo 2 - mp4, 260mb) E (legenda 2 srt) > conversão em AVI = Embuti
(arquivo 2 - mp4, 260mb) E (legenda 1 srt) > conversão em AVI = Embuti
Achava que o problema podia ser a legenda, mas de fato não é, senão ela não teria embutido no 2º video, o que me leva a conclusão que o problema está no primeiro vídeo. alguém sabe o que poderia ser?