Necesitas convertir el mkv en formato vob, para que la ps3 te lo reconozca.

Descargarse el programa mkv2vob.

http://www.3r1c.eu/mkv2vob/mkv2vob.rar

Descomprimirlo y darle a mkv2vob.exe, abrir el mkv, elegir el lugar donde queremos crear el .vob, esperar unos minutos y listo!!
l