IPマルチキャストについてはのTechnical Paperがリリースされた。

Using IP Multicast with VMware ESX 3.5
http://www.vmware.com/resources/techresources/1082

骨子をまとめてしまうと以下の3つ。

• ESX3.5 Update2以降では、VMotionやNICチーミングのフェールオーバが発生してもマルチキャストの受信がすぐに再開される (ユニキャストのSwitch Nortificationに相当する機能として、IGMP Membership Fake Queryが実装されている）
• デフォルトではIGMP v3のQueryを投げるが、IGMP v2で動作しているゲストOSはこれに対してIGMP Reportを応答しない。v3で動作しているゲストOSはv2のQueryにも応答するため、ゲストOSでv2を使っているものが存在している場合やバージョンが不明な場合は、ESXの詳細設定(Advanced Settings)で、Net.IGMPVersionを2とするのが安全。
• ESX3.5 Update1以前のリリースでは、マルチキャストルータのIGMP Queryの間隔（多くはデフォルト60秒）を小さく設定することで、VMotion時等のマルチキャスト受信の中断時間を小さくすることができる。