Într-un start impresionant, Nightshade, instrumentul gratuit dezvoltat de cercetătorii în informatică de la Universitatea din Chicago, a strâns 250,000 de descărcări în primele cinci zile de la lansare. Această aplicație revoluționară, concepută pentru artiști, își propune să perturbe modelele de inteligență artificială (IA) care utilizează lucrările lor fără consimțământ.
Cum Funcționează Nightshade și De Ce Este Atât de Popular
Nightshade urmărește să “otrăvească” modelele generative de imagini AI prin modificarea operelor de artă postate pe web la nivel de pixel, astfel încât să pară că conțin complet alt conținut – de exemplu, o geantă în loc de o vacă. Acest proces afectează algoritmii de învățare a mașinilor (ML), generând imagini eronate în funcție de prompturile utilizatorului.
Creația și lansarea Nightshade au avut drept scop “creșterea costului de instruire pe date nelicențiate, astfel încât achiziționarea de imagini de la creatorii lor să devină o alternativă viabilă.”
Reacții Extinse și Descărcări Globale
Răspunsul entuziast a depășit cu mult așteptările, iar descărcările provin din întreaga lume, potrivit liderului proiectului, Ben Zhao. Aceasta demonstrează apetitul solid al artiștilor de a-și proteja munca de utilizarea în antrenarea AI fără acord.
The demand for nightshade has been off the charts. Global Requests have actually saturated our campus network link. (No dos attack, just legit downloads). We are adding two fast mirror links for nightshade binaries.
Win: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE— Glaze at UChicago (@TheGlazeProject) January 20, 2024
Proiectul Glaze și Viitorul Echipei
Proiectul Glaze, o altă creație a echipei, a avut 2.2 milioane de descărcări de la lansarea sa în aprilie 2023. Echipa intenționează să combine atât Glaze (defensiv) cât și Nightshade (ofensiv) într-un instrument unic. Această versiune combinată va trece printr-un proces riguros de testare pentru a evita surprizele nedorite.
Planuri de Viitor și Posibilitatea Versiunii Open Source
În viitor, echipa intenționează să ofere o versiune open source a Nightshade. Ben Zhao menționează că “este probabil să realizăm o versiune open source într-un anumit punct, dar este necesar mai mult timp pentru a lansa variante diferite.”
Deși nu au primit feedback direct de la creatorii modelelor AI, cum ar fi OpenAI și Stability AI, echipa continuă să ofere soluții pentru artiști și să-și extindă impactul în lumea digitală a artei.
Întrebări Frecvente:
1. Ce este Nightshade și cum funcționează?
Nightshade este un instrument dezvoltat de cercetătorii de la Universitatea din Chicago pentru a proteja lucrările de artă digitală împotriva utilizării neautorizate în antrenarea modelelor de inteligență artificială. Funcționează prin “otrăvirea” modelelor AI, modificând operele de artă la nivel de pixel pentru a genera imagini eronate.
2. Cine poate utiliza Nightshade?
Nightshade este disponibil pentru oricine dorește să-și protejeze operele digitale împotriva utilizării neautorizate în antrenarea AI. Este destinat atât artiștilor cât și oricui își dorește să-și păstreze creativitatea în mediul digital.
3. Cum funcționează procesul de “otrăvire” a modelelor AI?
Procesul implică modificarea operelor de artă postate pe web la nivel de pixel. Această “otrăvire” face ca algoritmii de învățare a mașinilor să interpreteze greșit conținutul, generând imagini eronate atunci când sunt interogați cu prompturile utilizatorilor.
4. Cum poate Nightshade să contribuie la protejarea artei digitale?
Nightshade crește costurile de instruire a modelelor AI pe date nelicențiate, oferind creatorilor de conținut digital o alternativă viabilă prin achiziționarea de imagini de la ei înșiși sau de la alți artiști.
5. Care este diferența dintre Nightshade și Glaze?
Glaze este un alt instrument dezvoltat de aceeași echipă, având un scop defensiv. Protejează semnătura stilistică a artistului prin alterarea subtilă a pixelilor, împiedicând modelele AI să învețe “stilul” unui artist.
6. Când va fi disponibilă versiunea combinată Glaze/Nightshade?
Versiunea combinată este planificată să fie lansată în cel puțin o lună, după ce va trece printr-un proces amănunțit de testare pentru a asigura eficiența și compatibilitatea.
7. Există planuri pentru o versiune open-source a Nightshade?
Da, există planuri de a lansa o versiune open-source a Nightshade în viitor. Echipa subliniază că aceasta necesită timp suplimentar pentru a dezvolta variante diferite ale instrumentului.