<script type="text/javascript">
function showVideo() {
$(function(){
       $('#video').dialog({
           autoOpen: true,
           show: 'fade',
           hide: 'fade',
           width: 400,
           height: 400,
       });
});
}
</script>
<a href="#" onclick="showVideo(); return false;">Смотреть фильм</a>
<div id="video" title="Смотреть фильм" style="display:none; " >
Тут код плеера
</div>