Zbraň proti umělé inteligenci: nový nástroj brzy odrovná Midjourney a spol.

Vývoj umělé inteligence a generativních nástrojů AI, jako je Dall-E nebo Midjourney, způsobil v posledních měsících revoluci i ve světě umění. Mnozí profesionální umělci a fotografové jsou stále více frustrováni tím, že jejich práce jsou bez souhlasu nebo jakékoliv kompenzace využívány společnostmi zabývajícími se umělou inteligencí k trénování jejich technologií.

Naštěstí nyní existuje způsob, jak tomu čelit, aniž byste museli hnát Microsoft a spol. k soudu. Výzkumníci vyvinuli nástroj nazvaný Nightshade, který dokáže zmást tréninkové modely generativních nástrojů umělé inteligence tím, že v reakci na dotazy generuje nesprávné obrázky.

Nový nástroj může obrázky „otrávit“

Generativní nástroje umělé inteligence, jako je ChatGPT od OpenAI, dokážou přirozeným způsobem komunikovat s lidmi a generovat obrázky z textových požadavků. K dosažení těchto schopností jsou však tyto nástroje trénovány pomocí obrovského množství dat shromážděných z internetu. To znamená, že umělci a fotografové musí strpět, že technologické společnosti jejich díla bez souhlasu a bez náhrady používají ke zdokonalení svých nástrojů generativní umělé inteligence.

Vědci proti tomuto problému vyvinuli nástroj nazvaný Nightshade. Aplikace dokáže zmást tréninkové modely generativních nástrojů umělé inteligence tím, že do uměleckých děl před jejich nahráním na internet přidává neviditelné pixely.

Tyto "otrávené" obrázky způsobují, že generativní modely umělé inteligence vytvářejí chybné obrázky, když jsou konfrontovány s odpovídajícími dotazy. Výzkumný tým, který stojí za projektem Nightshade, již nástroj předložil k přezkoumání a plánuje jej zveřejnit jako open-source software.

Nightshade: poslední ochrana pro umělce

Nightshade má potenciál obnovit rovnováhu sil mezi umělci a technologickými společnostmi. Umělci mohou "otrávením" své práce pomocí Nightshade poškodit tréninková data generativních modelů umělé inteligence a zajistit, že některé výstupy těchto nástrojů budou nepoužitelné.

Například ze psů se mohou stát kočky a z aut krávy. Čím více "otrávených" obrázků se do modelů začlení, tím větší škody generativní nástroje umělé inteligence utrpí. Používání děl umělců bez souhlasu nebo kompenzace vedlo k četným soudním sporům o autorská práva.

Mnoho umělců obviňuje tvůrce generativních nástrojů umělé inteligence z nezákonného používání jejich děl. S nástrojem Nightshade mají nyní umělci v rukou mocný nástroj, který jim umožní zakročit proti tomuto porušování jejich autorských práv. Nástroj může sloužit jako poslední obranná linie pro umělce a vyslat varování technologickým společnostem, které ignorují autorská práva a duševní vlastnictví.

Vývojáři umělé inteligence již svůj přístup přehodnocují

OpenAI, která stojí za ChatGPT a dalšími generativními nástroji umělé inteligence, nedávno podnikla kroky k řešení tohoto problému. Umělci nyní mohou nechat odstranit svá díla z tréninkových dat společnosti OpenAI. Tento proces je však časově velmi náročný a vyžaduje, aby umělci podávali pro každý obrázek samostatnou žádost.

To by mohlo vést k tomu, že umělci budou k ochraně svých děl stále častěji používat nástroje, jako je Nightshade. Výzkumný tým, který stojí za nástrojem Nightshade, plánuje uvolnit tento nástroj jako open-source software, aby jej mohli dále vyvíjet a zdokonalovat ostatní. Nástroj by však měl být používán jako poslední obranná linie umělců proti extrakci dat z webů a porušování jejich práv.

Uvidíme, jak se Nightshade a podobné nástroje prosadí ve světě umění a jaký budou mít vliv na vývoj generativních nástrojů umělé inteligence.

Zdroj: MIT Technoogy Review