待ち時間の謎を解く「待ち行列理論」 Webサーバーに負荷がかかるとレスポンス時間が長くなるということは,「待ち行列理論」によって説明がつく。図1左は,Webサーバーでの平均待ち時間(Wq)を計算したものだ。リクエストの平均到着間隔をTa,平均処理時間をTsとすると,Webサーバーの利用率(ρ)と平均待ち時間(Wq)は図中のように表される。この関係に基づき,ρと待ち時間の割合をグラフ化すると,図1右のようになる。グラフの横軸はρで,縦軸は待ち時間(Tsの何倍かかるか)を示す。ρ=0.5の場合は処理時間と等しい(等倍の)待ち時間がかかり,ρ=0.8の場合は同4倍,ρ=0.9の場合は同9倍の待ち時間がかかる。この結果から,Webサーバーの利用率が大きくなるほど,急激に待ち時間が増えると分かる。つまり,Webサーバーに負荷がかかると,レスポンス時間は極端に長くなるのだ。 図1●待ち行列理論 待ち行