OST は OVT や最新の ISO が対応していない古いバージョンのゲストを利用する際などに
任意の古いバージョンの VMware Tools を提供するためのリポジトリです。

リポジトリの各ファイルの形式の通り rpm など各 OS の標準のパッケージ管理ツールで扱えるので、
インターネットにアクセスできる環境であれば古いバージョンでも任意のものを選べるメリットがあります。

各 OS のバージョンごとの手順はドキュメントに記載があるのでそれらを参照願います。

https://packages.vmware.com/tools/docs/manuals/osp-esxi-51-install-guide.pdf