ffmpeg För encoding...
Om du har en MKV så kan du använda mkvextract för att ta ut video och ljud varför sig.
forum.doom9.org är ett bra forum när det gäller sådana här saker. Själv har jag kodat om lite 1080p i blueray kvalitet till h.264... Kommer dock inte alls ihåg exakt syntax. Som sagt kolla doom9 där finns allt du behöver veta om videokonvertering.
Däremot så är det mycket trevligare att se på riktigt fin kvalitet med bra bitrate mplayer-svn med lite patcher spelar idag upp allt Full-HD material