2019年3月20日水曜日

ESXi で FC 16Gbps 直結(DAS)構成にしたい場合の注意点

以前に Dell コミュニティで回答した内容になるのですが、
FC接続の外部ストレージをDAS接続で利用する際の注意点として、FC 16Gbps は FC-AL をサポートしないので ESXi ではPoint to Point (P2P/PTP/Fabric) 接続となります。

これによる弊害は、パス断から復帰した時に自動では Fabric Login されず、LUN は切断されたままになります。

Dell Community : UnityとESXi_サーバーのFC直接接続について
Dell Community : UnityのFC接続について
Dell Community : UnityとESXi_サーバーのFC直接接続について

パスが確実に接続、自動で戻るようにしたい場合は、FC 8Gbps で FC-AL を利用するように HBA とストレージを設定する事をお勧めします。

ただ、最近は FC-AL に対応していない FC 16Gbps HBA (Emulex LPe 3x00x シリーズ や Qlogic QLE 274x シリーズ) もあり、どうしても PTP で DAS 接続する必要がある場合は esxcli で強制的に Fabric Login する事で LUN の利用が出来ます。

esxcli storage san fc reset -A vmhbaX

詳細は以下の KB にて説明されています。
起動時に LUN が見えない、などの事象があるときは 上記の esxcli コマンドをスクリプト化して、rc.local などで起動時に実行されるようにする事も出来ます。
Modifying the rc.local or local.sh file in ESX/ESXi to execute commands while booting (2043564)
https://kb.vmware.com/kb/2043564



※ 強制 Fabric Login する以外に何か良い手段ご存知の方いらっしゃいましたら教えてください…

2019年3月17日日曜日

調べものや自己学習に有用な Vmware ハンズオンラボ (HOL) のドキュメント

ちょっとした検証や操作方法の確認に重宝する Vmware ハンズオンラボ (HOL)



そのラボ内で閲覧している操作手順書などは、それぞれのラボ内から参考資料としてダウンロードも可能ですが、
以下の 「Hands-on Labs - Content Catalog」にて過去の HOL の手順書含めて各国の言語で HTML でオンラインで閲覧でき、PDF ファイルでもローカル保存が可能です。

Hands-on Labs - Content Catalog
http://docs.hol.vmware.com/



HOL だと、古いコンテンツは利用できなくなってしまいますが、
過去バージョンのドキュメントも Hands-on Labs - Content Catalog ならば現在でも閲覧可能なので振り返りにも調べものにも便利です。

個人的には HOL 内の検索でラボを探すよりも、このカタログ内で絞り込みして Description をテキスト検索かけた方が目的のラボにたどり着くのが早いです。

ちなみに Hands-on Labs - Content Catalog の一覧情報は json 形式のファイルでも直接入手が可能です。
http://docs.hol.vmware.com/catalog/hol-content-catalog.json

PDFファイルを一つ一つダウンロードするのは面倒なとき、PowerShell などスクリプトに 読み込ませて自動でダウンロード、ファイル名を変更なども割と手軽にできます。
PCのローカルに保存しておいて、調べ物の時にテキスト検索で探す事も可能なのでとても便利です。
※対象絞り込まずに一気にダウンロードすると大量のデータ転送が始まるのでご注意ください。

vSAN キャッシュ層 SSD の選定・サイジングのおさらい(2019年版)

vSAN を構成する各 ESXi ホストのディスクグループのサイジングに関して、過去のナレッジ(特に HY vSAN)では各ディスクグループ毎にキャパシティ層ドライブの容量の10%がサイジングの目安でした。
しかし、AF vSAN構成においては単純に10%の容量だけのサイジングではなく、
想定するパフォーマンス(IOPS)とワークロード(Read:Write比、Random:Sequential比)に応じてキャッシュ層デバイスのサイズを決定する指針が2017年1月にVmware公式ブログにてアナウンスされました。
現在はこのサイジングの指針が StorageHub などの公式ガイドにも記載されています。

Designing vSAN Disk groups – All Flash Cache Ratio Update
https://blogs.vmware.com/virtualblocks/2017/01/18/designing-vsan-disk-groups-cache-ratio-revisited/

Flash Cache Sizing for All-Flash Configurations (StorageHub)
https://storagehub.vmware.com/t/vmware-vsan/vmware-r-vsan-tm-design-and-sizing-guide-2/flash-cache-sizing-for-all-flash-configurations-6/

これにより用途によっては、AF vSAN のキャッシュ層 SSD は キャパシティ容量の10%よりも少なく済む場合もあり、逆に高いパフォーマンスが求められる環境では10%以上の容量が推奨される場合があります。

直近の vSAN 6.7 などの公式ドキュメントには上記の Vmware 公式ブログが参照リンク先として記載されています。

Read Write workload mixture Workload Type AF-8 80K IOPS AF-6 50K IOPS AF-4 20K IOPS 
70/30 Random Read Intensive Standard Workloads 800GB* 400GB* 200GB 
>30% write random Medium Writes,
Mixed Workloads 
1.2TB 800GB* 400GB 
100% write sequential Heavy Writes,
Sequential Workloads 
1.6TB* 1.2TB* 600GB 

AF vSAN のキャッシュ層 SSD は1ディスクグループ辺り Write バッファとして利用されるのは 600GB という上限があります。
このため、より IO の並列度を高め、高パフォーマンスを発揮したい場合は上記表のキャッシュ層 SSD のサイジングを満たした容量でキャッシュ層SSDを複数利用(複数のディスクグループで構成)する事が推奨されます。
ただし、キャパシティドライブ本数が3本以下など少ない場合や、そこまで高い IO を求めない場合は1本のキャッシュ層SSDで構成しても全く問題ありません。
※ 600GB を超えるキャッシュ層SSDの仕様については次の項目を参照。

※ HY vSAN 構成に関しては従来通りの10% ルールが継続適用されます。
※ キャッシュ層SSDは書き込み耐性の高い (Write Intensive, WI)  SSD がサポートされ、vSAN HCL で Caching Tier にどのタイプの vSAN で利用できる SSD かが指定されています。 詳しくは vSAN HCL を参照してください。

vSAN キャッシュ層 SSD の Write Buffer 領域の ”600GB” サイズの仕様について

Hybrid vSAN (以下 HY vSAN)構成では7割がReadキャッシュ、3割がWriteバッファとして割り当てられ、
All Flash vSAN (以下 AF vSAN)構成ではすべてが Writeバッファとして割り当てられます。
また、Write バッファに関してはアクティブに利用される領域は 600GB が上限であるという仕様がありますが、実際には600GBを超えるサイズのSSDを利用した場合は残りの SSD 領域も "Dynamic Over Provisioning" 機能によって満遍なく利用されますので、高いIO負荷が発生するAF vSAN 環境の SSDドライブの高寿命化に役立ちます。
詳細は Duncan Epping さんのブログ参照
http://www.yellow-bricks.com/2016/05/17/600gb-write-buffer-limit-vsan/

800GB や 1.6TB の SSD を AF vSAN のキャッシュ層に利用しても無駄ではなく、高いIO要求が想定される環境で長期の安定利用が可能となります。

※ 高いIO性能(IOPS/スループット)を求められ、さらにWrite過多な環境で 1.2TB や 1.6TB の キャッシュ層SSD が必要となる場合は、
ディスクグループを2つに分けて、800GB x 2本でキャッシュ層を構成するなど Write IO を並列化して性能向上を図る事も可能です。
キャパシティドライブの本数のバランスも含めて、この辺りをサイジング頂くとより良い vSAN 環境が実装出来ます。


超高耐久性SSD(Very High Endurance Devices)を利用した場合のサイジング

ここまでは、2018年までの多くのブログにも転載されていたのですが、
2018年8月のVmware公式ブログでアナウンスされた追加のガイドラインがあまり紹介されていないので、今回改めて紹介します。

▼Cache SSDの耐久性(DWPD)とIOPS要件での現在の基準
Extending All Flash vSAN Cache Tier Sizing Requirement for Different Endurance Level Flash Device
https://blogs.vmware.com/virtualblocks/2018/08/23/extending-all-flash-vsan-cache-tier-sizing-requirement-for-different-endurance-level-flash-device/

現時点で vSAN HCL にリストされているキャッシュ層 SSD の耐久性は 10 DWPD(Drive Writes Per Day) のモデルが上位モデルとなっていますが、
このブログでは 30 DWPD(超高耐久性デバイス) の SSD が今後普及されたときのサイジングが紹介されています。

今後、より高い耐久性の SSD を利用するようになった場合には、現在よりも小さい容量の SSD でキャッシュ層をカバーできる事になりそうです。

vSAN SSD の耐久性・性能の基準について

ここで、上記公式ブログにも記載されている SSD の耐久性 の基準となる DWPD と vSAN HCL でもよく見かける指標 TBW の関係をまとめます。

  • DWPD (Drive Writes Per Day) = 製品寿命までに1日あたり何回全容量データを書き換えられるかを示した数値
    例)10 DWPD : 毎日 10回 SSD の全データを書き換えても5年間製品寿命がある
  • TBW (Terabytes Written) = 製品寿命までに書き込めるTB数(VVDでは5年間の書き込み容量を指標値としたもの)。
    例)3650 TBW : 製品寿命まで 3650 TB を SSD に書き込むことが出来る

詳細は VVD (VMware Validated Design) の以下のガイドラインにまとまっています。
SSD Endurance for vSAN (VVD 5.0)
https://docs.vmware.com/en/VMware-Validated-Design/5.0/com.vmware.vvd.sddc-design.doc/GUID-51680487-239F-4FF7-B43A-8C1D98263DB1.html

SSD Performance for vSAN (VVD 5.0)
https://docs.vmware.com/en/VMware-Validated-Design/5.0/com.vmware.vvd.sddc-design.doc/GUID-B431C97C-6DBE-4CC7-A55F-098DE9AE3964.html

例えば VxRail や PowerEdge vSAN Ready Node でも採用されている東芝の SSD 「PX05SMB080Y」 などは、vSAN HCL を確認すると
耐久性: 14600 TBW
とされています。


TBW は 以下の公式で DWPD に変換できます。
※VVD より 5年の製品保証の場合

  • TBW = Drive Size x DWPD x 365 x 5
  • DWPD = TBW / (Drive Size x 365 x 5)

14600 TBW の 800GB SSD はこの式に当てはめると、
14600 TBW / (0.8 TB x 365 x 5) = 10 DWPD
となります。

ここからも分かるように、現在のエンタープライズ向けのキャッシュ層 SSD の主流は 10 DWPD となっている事が多く、サイジングに関しては 公式ブログ に合わせてサイジングが可能になります。

今後、10 DWPD 以上の SSD が普及してきた際にはより高いIO要求にも耐えられる超高性能vSAN に適用されていくのだと思います。
また、3~5 DWPD クラスのらMix Use SSD も、大容量化しているので、耐久性とコストを考慮して中容量クラスの Mix Use SSD をキャッシュドライブとして利用する機会も増えてくるかと思います。

より正確なサイジングをする場合には IOPS の他にも一日辺りの書き込み量や、同時 IO の並列度、R/W比、IO サイズなども重要となります。
こうした情報は LiveOptics などアセスメントツールで既存環境を分析する事で適切なサイジングに活かせるので、アセスメントツールも活用して頂ければと思います。


2019年3月7日木曜日

vSphereの性能検証・調査時の有用な情報(ESXTOP・Performance Deep Dive系)の紹介

先日 VMTN の質問に回答した内容で、Vmawre vSphere 環境での性能検証やトラブルシューティング時に参考となるパフォーマンス ベストプラクティス系のドキュメントを紹介したので改めて整理しました。
今回紹介するのは先日のvSAN系ドキュメントと同じく基本的に無償公開されているeBook、公式のガイドががメインです。

vSphere パフォーマンス ベストプラクティス・ディープダイブ 系のドキュメント

VMware vSphere 6.5 Host Resources Deep Dive

一昨年無償公開された 「VMware vSphere 6.5 Host Resources Deep Dive」 、以下のRubrik のリンクからダウンロードが可能です。
VMware vSphere 6.5 Host Resources Deep Dive
https://pages.rubrik.com/host-resources-deep-dive_request.html

vSphere 6.7 Clustering Deep Dive

こちらもRubrikのリンクから登録する事で無償公開されているvSphere 6.7版のclusterディープダイブの本です。
読み応えあります。
vSphere 6.7 Clustering Deep Dive
https://pages.rubrik.com/clustering-deep-dive-ebook.html

公式の vSphere パフォーマンス ベストプラクティス ガイド

手元にDLしておくと役立つ公式のベストプラクティス。
vForum や VMworld の Performance Deep Dive 系のセッションもここからの情報が多数あります。
情報量が英語で非常に盛りだくさんなので、私はvForumの資料を読むときに合わせて参照して、興味のある所を深掘りしたり、人から質問された際に改めて深く読んでいます。

Performance Best Practices for VMware vSphere 6.7

Performance Best Practices for VMware vSphere 6.5

パフォーマンスカウンタ と ESXTOP について

vSphereで性能検証したりパフォーマンス問題の切り分け時に利用するパフォーマンスモニタやESXTOP、そのカウンターの見方が詰まった資料集です。

Virtualizing Performance Counters – VMware Labs
ちょっと前の資料でだいぶディープなものですが、Vmware vSphere でのパフォーマンスモニタリングの考え方、ハードウェアとソフトウェアの双方の視点でのナレッジが以下のドキュメントにまとまっています。
https://labs.vmware.com/academic/publications/virtualizing-performance-counters

ESXTOPの公式ドキュメント
パフォーマンス監視ユーティリティ: resxtop および esxtop

vCenter Performance Counters
https://communities.vmware.com/docs/DOC-5600

Duncan EppingさんのESXTOPに関してのブログ記事
各パフォーマンスカウンターをどう読み取れば良いか分かりやすく説明されています。
http://www.yellow-bricks.com/esxtop/

Florian GrehlさんのESXTOPに関してのブログ記事
ESXTOPで収集可能なカウンターが最新の情報で説明されています。
https://www.virten.net/vmware/esxtop/

esxtop Performance Countersちょっと古い記事ですが、コミュニティにまとめられたESXTOPのパフォーマンスカウンターに関しての記事
https://communities.vmware.com/docs/DOC-5240



その他、思い出したもの、見付けた有益な資料、URLを追加していこうと思います。