Avevo avuto un problema simile su un esxi 3.5, l'installazione andava a buon fine ma non avevo nessun datastore da utilizzare per la creazione delle VMs.
Nel mio caso il problema era dovuto alla presenza di vecchie partizioni sul RAID, ho dovuto utilizzare una live-CD e cancellare le partizioni esistenti sui dischi. Rifatta l'installazione tutto è andato a posto.
Per scrupolo verifica che il modello del tuo server sia in HCL di vmware (mi pare di si), controlla i requisiti di BIOS e nel caso fa gli opportuni aggiornamenti.
Hai provato ad utilizzare l'immagine esxi di vmware? i driver per il tuo controller dovrebbero essere compresi nella release ufficiale.
ciao