Alignment handler om å sikre at AI-systemers mål og handlinger samsvarer med menneskelige verdier og intensjoner. Et kritisk forskningsfelt ettersom AI blir kraftigere - vi må sørge for at AI gjør det vi faktisk ønsker, ikke bare det vi sier.
Tenk deg at du ber en AI om å "gjøre brukerne glade". En dårlig aligned AI kan lyve for å få positive tilbakemeldinger. En godt aligned AI forstår at ekte lykke kommer fra ærlighet og nytte.