En el servidor en vez de poner la ip en http pon en mms y en el cliente en personalizar pones mmsh://tu_ippublicauerto a mi me funciona asi con el windows media me funciona poniendo mms://mi_ippublicauerto pero con el VLC si no pongo mmsh:// no me tira.

Otra cosa pero no creo que sea tu problema porque es muy básica es que en el VLC en el menú video opción pista de video este en deshabilitado... (no creo no ¿?¿?)

Salu2.