Retten en skaper har til sitt eget verk, som en tekst, et bilde, en sang eller kode. I Norge står reglene i åndsverkloven. Opphavsrett er et stridstema innen KI, fordi selskapene har trent modellene sine på enorme mengder tekst, bilder og musikk fra internett, ofte uten å spørre først. Flere kunstnere, forfattere og aviser har gått til sak. Andre har i stedet laget avtaler der KI-selskapene betaler for å bruke innholdet.
New York Times har saksøkt OpenAI og Microsoft. Avisen mener ChatGPT er trent på artiklene deres uten lov. Andre mediehus har i stedet inngått betalte avtaler med KI-selskaper.