Vijesti

Stabilna difuzija otežava kopiranje umjetnika i stvaranje pornografije, a korisnici su ljuti

Korisnici AI generatora slika Stable Diffusion ljuti su zbog ažuriranja softvera koji “nervira” njegovu sposobnost da generiše NSFW izlaz i slike u stilu određenih umjetnika.

Stability AI, kompanija koja finansira i distribuira softver, najavila je Stable Diffusion Version 2 rano jutros po evropskom vremenu. Ažuriranje reinžinira ključne komponente modela i poboljšava određene karakteristike kao što je povećanje rezolucije (mogućnost povećanja rezolucije slika) i ucrtavanje (uređivanje s obzirom na kontekst). Ali, promjene također otežavaju Stable Diffusion generiranje određenih vrsta slika koje su izazvale kontroverze i kritike. To uključuje akte i pornografske radove, fotorealistične slike poznatih ličnosti i slike koje oponašaju umjetnička djela određenih umjetnika.

“Nerfirali su model”

“Oni su pokvarili model,” komentirao je jedan korisnik na pod-redditu Stable Diffusion. “To je pomalo neprijatno iznenađenje,” rekao je drugi na zvaničnom Discord serveru softvera.

Korisnici primjećuju da traženje od verzije 2 Stable Diffusion-a da generiše slike u stilu Grega Rutkowskog – digitalnog umjetnika čije je ime postalo doslovno skraćenica za proizvodnju visokokvalitetnih slika – više ne stvara umjetnička djela koja blisko podsjećaju na njegovu. (Uporedite ove dvije slike, na primjer). “Šta si uradio Gregu😔”, komentirao je jedan korisnik na Discordu.

Promjene u Stable Diffusion su primjetne, jer je softver izuzetno utjecajan i pomaže u postavljanju normi u brzom generativnom AI sceni. Za razliku od konkurentskih modela kao što je OpenAI-jev DALL-E, Stable Diffusion je otvorenog koda. Ovo omogućava zajednici da brzo poboljša alat i programerima da ga besplatno integrišu u svoje proizvode. Ali to također znači da Stable Diffusion ima manje ograničenja u načinu na koji se koristi i, kao posljedicu, izazvala je značajne kritike. Konkretno, mnogi umjetnici, poput Rutkowskog, ljuti su što su Stable Diffusion i drugi modeli za generiranje slika obučeni za njihova umjetnička djela bez njihovog pristanka i sada mogu reproducirati njihove stilove. Otvoreno je pitanje da li je ova vrsta kopiranja uz pomoć umjetne inteligencije legalna ili ne. Stručnjaci kažu da je obuka AI modela o podacima zaštićenim autorskim pravima vjerovatno legalna, ali da bi se određeni slučajevi upotrebe mogli osporiti na sudu.

Poređenje sposobnosti Stable Diffusion-a da generiše slike koje liče na određene umjetnike.
Slika: lkewis preko Reddita

Korisnici Stable Diffusion-a su spekulisali da je promene u modelu napravio Stability AI kako bi se ublažili takvi potencijalni pravni izazovi. Međutim, kada The Verge upitao je osnivača Stability AI Emada Mostaquea da li je to slučaj u privatnom razgovoru, Mostaque nije odgovorio. Mostaque jeste potvrdio, iako Stability AI nije uklonio slike umjetnika iz podataka o obuci (kao što su mnogi korisnici spekulisali). Umjesto toga, smanjena sposobnost modela da kopira umjetnike rezultat je promjena u načinu na koji softver kodira i preuzima podatke.

“Ovdje nije bilo posebnog filtriranja umjetnika,” rekao je Mostaque The Verge. (Također je proširio tehničku osnovu ovih promjena u poruci objavljenoj na Discordu.)

Međutim, ono što je uklonjeno iz podataka o obuci Stable Diffusiona su gole i pornografske slike. AI generatori slika se već koriste za generiranje NSFW izlaza, uključujući i fotorealistične slike i slike u anime stilu. Međutim, ovi modeli se također mogu koristiti za generiranje NSFW slika koje liče na određene pojedince (poznate kao pornografija bez pristanka) i slike zlostavljanja djece.

Raspravljajući o promjenama Stable Diffusion Version 2 u službenom Discordu softvera, Mostaque napominje da je ovaj drugi slučaj upotrebe razlog za filtriranje NSFW sadržaja. “Ne mogu imati djecu i nsfw u otvorenom modelu”, kaže Mostaque (pošto se dvije vrste slika mogu kombinirati kako bi se stvorio materijal za seksualno zlostavljanje djece), “zato se riješite djece ili se riješite nsfw-a.”

Jedan korisnik na sub-redditu Stable Diffusion-a rekao je da je uklanjanje sadržaja NSFW-a “cenzura” i “protiv duhovne filozofije zajednice otvorenog koda”. Korisnik je rekao: „Odabrati da li će raditi NSFW sadržaj ili ne, treba biti u rukama krajnjeg korisnika, ne [sic] u ograničenom/cenzuriranom modelu.” Drugi su, međutim, primijetili da priroda otvorenog koda Stable Diffusion znači da se podaci o golom treningu mogu lako dodati u izdanja trećih strana i da novi softver ne utiče na ranije verzije: „Nemojte se plašiti zbog nedostatka V2.0 umjetnici/NSFW, moći ćete generirati svoju omiljenu slavnu golu uskoro i onako kako već možete.”

Iako su promjene u verziji Stable Diffusion 2 iznervirale neke korisnike, mnogi drugi su pohvalili njegov potencijal za dublju funkcionalnost, kao što je nova mogućnost softvera da proizvodi sadržaj koji odgovara dubini postojeće slike. Drugi su rekli da su promjene otežale brzu proizvodnju visokokvalitetnih slika, ali da će zajednica vjerovatno vratiti ovu funkcionalnost u buduće verzije. Kako je jedan korisnik na Discord-u sažeo promjene: „2.0 je bolji u tumačenju upita i stvaranju koherentnih fotografskih slika prema mom dosadašnjem iskustvu. ipak neće napraviti nikakve rutkowski sise.”

Sam Mostaque je uporedio novi model sa osnovom za pizzu koja svakome omogućava dodavanje sastojaka (tj. podataka o treningu) po svom izboru. “Dobar model bi trebao biti upotrebljiv za svakoga, a ako želite da dodate stvari dodajte stvari,” rekao je na Discordu.

Mostaque je također rekao da će buduće verzije Stable Diffusiona koristiti skupove podataka za obuku koji bi omogućili umjetnicima da se uključe ili odustanu – funkciju koju su mnogi umjetnici tražili, a koja bi mogla pomoći u ublažavanju nekih kritika. “Pokušavamo biti super transparentni dok poboljšavamo osnovne modele i uključujemo povratne informacije zajednice”, rekao je Mostaque The Verge.

Ovdje se može pristupiti javnoj demonstraciji Stable Diffusion Version 2 (iako zbog velikih zahtjeva korisnika model može biti nedostupan ili spor).

Leave a Reply

Your email address will not be published.