EWC:s uttalande, daterat 24 april 2023, i översättning av Mikael Müller
Författare i bokbranschen kräver en etisk hållning med rättslig verkan gentemot så kallad artificiell ”intelligens” i EU:s AI-lagförslag
- Reformera undantaget för text-och-data-utvinning
- Krav på tillstånd istället för icke-fungerande ”opt-out”
- Transparensskyldighet i EU:s AI-lagförslag (AIA)
- Oberoende juridiskt ramverk för maskinproducerat innehåll utanför upphovsrättslagstiftningen
All tillräckligt avancerad teknologi är omöjlig att skilja från magi.
– Arthur C. Clarke, fysiker, sciencefictionförfattare
De program och produkter som säljs av AI-företag idag är resultatet av miljontals upphovsrättsligt skyddade bilder, privata foton, texter och mänskliga individers, författares och europeiska medborgares arbete, som utvunnits i över ett decennium, utan tillstånd och utan ersättning.
Denna exploatering av vårt arbete och vår kreativa, uppfinningsrika intelligens, med målet att skapa konkurrerande produkter, är en grov kränkning av de mänskliga rättigheterna. Den skadar hela den europeiska bok- och kulturbranschens ursprung.
Vi befinner oss i början av en kris som drabbar betydligt fler än författarna: denna omvälvning kommer att påverka alla former av yrken och professioner, utbildningar och studier, forskning och media. Men de som beslutar om hur produkter som skapats av så kallad AI ska hanteras på ett etiskt, ekonomiskt och juridiskt plan, samt i fråga om arbetspolitisk integritet, är människor, och vi kräver att detta regleras.
EWC:S KRAV
European Writers’ Council (EWC) är världens största förbund uteslutande för författare inom bokbranschen, och vi har kämpat för deras rättigheter ända sedan 1977. Vi representerar 46 yrkesförbund i 31 länder. Nu kräver vi en snar och omfattande reglering av AI-system och dataanvändning som tar hänsyn till etik, upphovsrätt, ekonomi, mänskliga rättigheter och personlig integritet, med de mänskliga upphovspersonerna i fokus. Detta är våra krav:
I – Angående inmatning av material i AI-program: En reglerad, ersättningsgrundande och transparent hantering av data och skyddade verk
1. Reformera det befintliga undantaget för text-och-datautvinning snabbt, så att ersättning blir ett krav i enlighet med kollektiva förvaltningsorganisationer.
2. Möjliggör frivilligt tillståndsgivande för varje författare. Implementera det lagstadgade och just nu icke-fungerande ”maskinläsbara förbehållet” på ett fungerande och tillämpligt vis under övergångsperioden.
3. Implementera licenskrav för utvecklare av AI-produkter som tvingar dem att teckna kollektiva och individuella licenser med upphovspersoner.
4. Uttryckliga krav på spårbarhet och transparens angående vilka verk som använts som träningsmaterial ska ställas på AI-utvecklare och således även på företagen.
5. När det gäller så kallade klonade röster, dvs. kloning av levande personers och ljudboksuppläsares röster, som sedan har använts utan tillstånd, måste den mänskliga talaren ha lämnat sitt uttryckliga tillstånd, samt få en skälig andel av intäkterna.
II – Angående AI-genererade produkter: Implementera ett transparenskrav i AI-lagen och reglera AI-produkter utanför befintlig upphovsrättslagstiftning
6. Inför krav på märkning av presstexter, böcker och andra publicerade texter som producerats med AI, inklusive översättningar, ljudpublikationer såsom ljudböcker, radiopjäser osv. För att ytterligare värna yttrandefriheten är en märkning av maskinproducerat innehåll absolut nödvändig för att skydda och erkänna mänskligt arbete. Det är viktigt att spårbarheten hos produkter garanteras i syfte att skydda konsumenter, vilka har rätt att känna till produktens kvalitet och ursprung, samt vem som är ansvarig vid eventuella kränkningar.
7. Förslaget om en europeisk AI-lag (AIA) 2021/0106/COD – COM (2021) 206: Ännu har inga åtgärder vidtagits för ett märkningskrav för AI-produkter inom kulturområdet, men i kapitel 5, rubrik IV, artikel 52 (3) har ett undantag för kreativa eller kultur-liknande produkter gjorts bland de många tilläggen (https://artificialintelligenceact.eu/wp-content/uploads/2022/06/AIA-IMCO-LIBE-Report-All-Amendments-14-June.pdf), särskilt tillägg 2275 eller 2278. EU-parlamentet, Europeiska unionens råd och EU-kommissionen bör på inga villkor godkänna undantag från märkning för AI-produkter som efterliknar kreativa verk. Det är läsarens och varje kulturkonsuments grundläggande rättighet att veta vem som har skrivit eller vilken maskin som har sammanställt boken.
8. Det är vår hållning att inte bara ursprungsinformation ska tillgängliggöras på ett transparent vis, utan att transparens ska gälla också när det är algoritmer eller andra automatiserade system som kurerar, rekommenderar eller väljer ut kulturella verk eller böcker för riktad marknadsföring. Icke-europeiska verktyg ska inte avgöra vilka europeiska böcker och kulturella verk som lyfts fram.
9. Förlagen måste informera författare när deras texter har maskinöversatts (helt eller i betydande utsträckning). I samma anda vill vi understryka vikten av att förlagen fortsätter att förlita sig på mänsklig kompetens i fråga om redigering, utformning av omslag och val av manuskript.
10. AI-produkter ska inte ha skydd av upphovsrätten. En separat lagstiftning med inspiration från direktiv 96/9/EG av rådet den 11 mars 1996 bör övervägas för maskingenererade verk och produkter. En maskin ska under inga omständigheter betraktas som författare. Automatiserade system sammanställer, kombinerar och gör beräkningar utifrån befintliga data: de skapar inte originalverk, de skapar produkter.
EWC (European Writers’ Council) representerar 46 författar- och litteraturöversättarförbund i 31 länder. EWC:s medlemmar består av 160 000 professionella litterära upphovspersoner i text- och boksektorn.Webbsida: europeanwriterscouncil.eu / ID i EU:s öppenhetsregister: 56788289570-24
Bakgrundsinformation: AI är inte intelligent. Det handlar om algoritmer.
Det finns ingen A.I. Den nya tekniken kan kontrolleras – men först måste vi sluta mytologisera den.
– Jaron Lanier, datavetare, författare
I åratal har över en miljon europeiska författares verk inom alla genrer använts utan tillstånd och utan ersättning för att utveckla konkurrerande produkter med så kallad artificiell ”intelligens”.
Program- och maskingenererad ordbehandling, som ofta felaktigt kallas för artificiell ”intelligens”, har ingenting att göra med den typ av kognitiv, emotionell och kreativ intelligens som ligger till grund för alla originalverk inom konst, kultur och litteratur. Det finns inget fundamentalt intelligent i denna process. Automatisk textgenerering eller maskinöversättning kan varken korrigera, läsa eller förstå det de producerar – och inte skapa något nytt eller dra några slutsatser. Simuleringen av en skapelse med ett eget medvetande är ett billigt knep, inte magi. Men bluffen har ett högt pris: den kränker upphovsrätten, personliga rättigheter, dataskyddsrättigheter och mänskliga rättigheter. Andra följder är att den språkliga mångfalden begränsas, eftersom maskinerna i huvudsak tränas på engelska. Fördomar och förutfattade meningar, desinformation och lägre ersättning är ytterligare följder. Ojämlikheten mellan länder och människor ökar och den unika originaliteten hos verk som skapats av människors intellekt och färdigheter urholkas.
På förlag granskas manuskript i allt större utsträckning av programvara i syfte att finna ”säljbarhet”, i näthandeln har algoritmen ersatt personliga rekommendationer, nyckelordsverktyg sammanfattar böcker och genererar marknadsföringstexter utifrån dessa. Översättare anlitas inte lika ofta till att översätta; istället får efterredigerare bearbeta maskinöversättningar. När det gäller barnböcker och kortromaner svämmar självpubliceringstjänster som Amazon över av automatiskt producerade bilderböcker och ChatGPT-texter. Ljudboksuppläsares röster klonas och används utan tillstånd. Som exempel gjordes det en syntetisk kopia av skådespelaren Emma Watsons (Harry Potter) röst som sedan användes för att läsa upp Adolf Hitlers ”Mein Kampf”.
Över hela världen har företag som Oracle, Alibaba, Google, Microsoft, OpenAI, Nvidia, Apple och Amazon redan arbetat i ett decennium med textgeneratorer, maskinöversättningar och syntetisk överföring av texter till ljudböcker. De data som används för att ”träna” översättnings- och självskrivningsprogrammen är baserade på texter från internet som inte är skyddade av upphovsrätten, samt på upphovsrättsligt skyddade böcker från 2013–2021 och nyare verk, hämtade från piratsidor. [1]
Regelverket för text- och datautvinning, som varit i kraft sedan 2021-06-07 genom artiklarna 3 och 4 i direktivet om upphovsrätt och närstående rättigheter på den digitala inre marknaden (EU) 2019/790, gör det dessutom skamligt lätt för icke-europeiska företag att utvinna träningsmaterial. Det ”maskinläsbara förbehållet” som det finns juridisk möjlighet att implementera för verk som publicerats online – den så kallade licens- eller användningsreservationen istället för ett krav på tillstånd – används ingenstans, eftersom det varken finns tekniska eller avtalsmässiga förutsättningar för detta. Vid överföringen av dessa artiklar till nationella ramverk utesluts all typ av ersättning för sådan användning.
Vi kallar detta stöld, parasitering och kortsiktig politik som låter icke-europeiska företag dra nytta av europeiska intellektuella källor. Men det är inte bara författarna som påverkas av dräneringen av intellektuellt kapital. Företag som inte är verksamma i kulturbranschen ersätter redan nu personer som arbetar med text, bild eller tolkning med automatiserad programvara.
Samtidigt är ansvarsfördelningen exempelvis vid kränkning av personliga rättigheter eller vid desinformation från maskingenererade produkter oklar.
De över 160 000 litterära upphovspersoner inom bokbranschen som representeras av European Writers’ Council (EWC) och dess 46 medlemsorganisationer förtjänar en stark och tydlig reaktion, med en europeisk värdegrund, från lagstiftande och ekonomiska beslutsfattare inom kultursektorn. Eftersom den nuvarande vacklande hållningen hos den europeiska politiken inte bara är ett hot mot skrivna kulturyttringar, utan också mot demokratin och mot hur mänskliga prestationer värderas i framtiden, manar vi till resolut handling.
Avmystifiera AI. Sätt människan och den europeiska medborgaren i fokus. Det är det enda sättet att reglera de tekniska landvinningarna på ett socialt, etiskt och värdigt vis.
Bryssel den 24 april 2023
European Writers’ Council (EWC) styrelse.
Nina George – ordförande, Tyskland
Miguel Ángel Serrano – vice ordförande, Spanien
Maïa Bensimon – vice ordförande, Frankrike
Eystein Hanssen – styrelsemedlem, Norge
Alena Makouskaya – styrelsemedlem, Belarus
Markku Loytönen – styrelsemedlem, Finland
Översatt till svenska av Mikael Müller