возможности плеера

MKV - это контейнер.
Внутри него находятся аудио- /видеопотоки, которые могут быть пожаты самыми различными кодеками. Поэтому, всё будет зависеть от внутреннего содержимого файла - что-то будет воспроизводиться, а что-то нет.

А если очень уж надо, то realnetworks.dll можно без проблем найти в инете.

Кстати, ещё вариант. Скачайте K-Lite Mega Codec Pack и при установке выберите все видеофайлы. И больше у Вас не должно быть никаких проблем с видео.