イベントループを「待つ仕事」と「手を動かす仕事」で理解する
目次
- はじめに
- イベントループは店員1人のラーメン屋
- 「待つ仕事」と「手を動かす仕事」
- 待つ仕事なら、店員1人でも速い
- 手を動かす仕事が大量に来ると、回転率が遅くなる
- Goは店員を複数人雇う
- 知っていると役に立つ場面
- まとめ
はじめに
Webサービスのサーバーは、たくさんの人からの依頼を同時に受けています。JavaScript(Node.js)のサーバーは、プログラムを1本の流れ(シングルスレッド)で動かしていますが、それでも大量のアクセスをさばけます。これを支えているのがイベントループという仕組みです。
この記事では、イベントループを「店員が1人しかいないラーメン屋」にたとえて説明します。そのうえで、イベントループが得意な仕事と苦手な仕事、そしてGoとの違いを、コードを使わずに整理します。最後に、この区別が実務のどこで役立つかにも触れます。
匿名チャットをGoとNode.jsのどちらで作るか迷った話は、以前の記事に書きました。こちらは、その前提になる仕組みの話です。
イベントループは店員1人のラーメン屋
店員が1人だけのラーメン屋を考えてみます。注文が入ると、店員は麺を茹で機に入れます。ここで茹で上がるまで茹で機の前に立って待っていたら、その間ほかのお客さんは誰も相手をしてもらえません。
そこでこの店員は、麺を茹で機に入れたらすぐ次の仕事に移ります。茹で上がるとタイマーが鳴り、「盛り付ける」という続きの仕事がメモになって、やることリストの最後に並びます。店員は手が空くたびにリストの先頭のメモを取り、順に片付けていきます。
これがイベントループです。店員はプログラム本体、茹で機は通信やファイルの読み書きを引き受けるOS、やることリストは次に実行する処理の待ち行列にあたります。「手が空いたら、やることリストから次の仕事を取る」をずっと繰り返すので、ループと呼ばれます。
「待つ仕事」と「手を動かす仕事」
イベントループが向いているかどうかは、仕事の中身で決まります。プログラムの仕事は、大きく2種類に分けられます。
| 待つ仕事(I/Oバウンド) | 手を動かす仕事(CPUバウンド) | |
|---|---|---|
| 時間の使い方 | ほとんどが相手からの返事待ち | ほとんどが自分での計算 |
| 例 | Webサイトへのアクセス、データベースへの問い合わせ、ファイルの読み込み | 画像の加工、複雑な計算、ファイルの圧縮 |
| ラーメン屋でいうと | 麺を茹でる | 野菜を刻む |
麺を茹でている間、店員の手は空いています。一方、野菜は店員が自分の手で刻むしかありません。この違いが、次の2つの節の話につながります。
待つ仕事なら、店員1人でも速い
たとえば、返事が来るまでそれぞれ1秒かかる問い合わせを100件送るとします。1件ずつ返事を待ってから次を送ると、全部で約100秒かかります。待ち時間が1件ずつ積み重なるからです。
イベントループでは、1件送ったら返事を待たずにすぐ次を送ります。麺を茹で機に入れたら、茹で上がりを待たずに次の注文を受けるのと同じです。100件の待ち時間がほぼ同時に進むので、理屈の上では約1秒ですべての返事がそろいます。返事は届いたものから順に片付けます。
待っている間は店員の手がふさがっていないので、何件同時に待っても困りません。Node.jsが1本の流れのまま大量の同時アクセスをさばけるのは、このためです。
手を動かす仕事が大量に来ると、回転率が遅くなる
困るのは、野菜を刻むように店員が自分でやるしかない仕事です。にんじんのみじん切りのような時間のかかる作業をしている間、ほかの野菜は切れません。その間に入った注文は、どれだけ簡単なものでも待たされます。
重い計算をする依頼が1つ来ただけで、ほかの全員への応答まで遅くなります。本番で「特定の重いリクエストが来ると、ほかのリクエストも急に遅くなる」ときは、まずこれを疑います。
Goは店員を複数人雇う
Goはイベントループを使いません。身軽な店員(goroutine)をたくさん雇い、マネージャー(スケジューラ)がCPUの数だけある厨房に店員を割り振ります。厨房が複数あるので、手を動かす仕事も本当に同時に進められます。1人の店員が長く作業を続けていても、マネージャーが途中で交代させるので、ほかのお客さんが長く待たされにくくなっています。
その代わり、店員同士が「俺の仕事だ」と言わんばかりに担当する食材を取り合わないよう、気をつける必要があります。Goでは、食材の受け渡しのルール(ロックやチャネル)を決めておかないと、JavaScriptでは起きない種類の不具合が起きます。
JavaScriptとGoを並べると、次のようになります。
| JavaScript(Node.js) | Go | |
|---|---|---|
| 店員 | 1人 | 複数人 |
| 待つ仕事 | 得意 | 得意 |
| 手を動かす仕事 | 苦手 | 複数の厨房で同時に進められる |
| 気をつけること | 重い仕事で回転率が遅くなる | 担当する食材の取り合い |
知っていると役に立つ場面
この区別は、言語を選ぶときよりも、選んだ言語で日々の実装や運用をするときに役立ちます。
1つ目は障害の調査です。Node.jsで「1つ重い処理があると全体が遅くなる」なら、店員が手を止めていないかを最初に確かめられます。
2つ目はサーバーの設定です。Goは使える厨房(CPU)の数を自動で数えますが、コンテナで動かすと、借りている分より多く数えてしまうことがありました。5コア分しか借りていないのに、マシン全体の48コアがあるつもりで作業を進め、上限を超えた分がときどき止められてしまう、という障害です。Go 1.25からはコンテナの上限を読むようになりましたが、仕組みを知っていると原因にたどり着きやすくなります。
まとめ
イベントループは、1人の店員が「待っている間にほかの仕事をする」ことで、たくさんの依頼をさばく仕組みです。待つ仕事にはとても強い一方、店員が自分で手を動かす仕事が大量に来ると、回転率が遅くなります。Goは店員と厨房を増やして同時に進められる代わりに、担当する食材の取り合いに気をつける必要があります。
JavaScriptの実行環境(Node.js)のイベントループでは店員1人で頑張っていて、Goでは店員を複数人雇っている。重い処理で困ったときは、まず「この処理は待つ仕事か、手を動かす仕事か」を考えてみてください。待つ仕事なら、店員1人のままでもさばけるので、イベントループが原因ではないとわかります。手を動かす仕事なら、その作業が店員の手をふさいで回転率を落としている、と見当がつきます。そうとわかれば、重い作業を別の店員に任せる(Node.jsならワーカースレッド)か、Goのように店員を複数人雇える仕組みを選ぶ、といった次の手を考えられます。