attention mechanism
注意機構(アテンション機構)
Definition 定義
A neural network component that assigns different weights to parts of the input so that the model focuses on the most relevant information.
Example 例文
The Transformer architecture relies entirely on the attention mechanism instead of recurrence.
日本語訳を表示
Transformerアーキテクチャは、再帰構造の代わりに注意機構のみに基づいている。
Collocations よく使う組み合わせ
- self-~
- multi-head ~
- ~ weights
- introduce an ~
「~」の部分に attention mechanism が入ります。