← Nevrale nettverk

Attention Mechanism

Oppmerksomhetsmekanisme

En teknikk som lar modellen fokusere på de mest relevante delene av input - akkurat som du fokuserer på viktige ord når du leser en setning.

Når du oversetter 'I love my dog' til norsk, fokuserer modellen på 'dog' når den skal velge det norske ordet for 'hund'.

Kilde: Jay Alammar →