Spolu se svým pokrokem se stále více rozvíjí umělá inteligence (AI) a riziko takzvaného „příbuzenského křížení“ v generativních systémech umělé inteligence se stává nebezpečím, které je mezi lidmi a populacemi domestikovaných zvířat již dlouho běžné.
Tento článek osvětlí koncept příbuzenské plemenitby ve světle generativní umělé inteligence a jak se může příbuzenské křížení spojit s budoucností obsahu generovaného umělou inteligencí.
Porozumění generativní umělé inteligenci Inbreeding Generativní systémy umělé inteligence, jako jsou velké jazykové modely (LLM), jsou primárně trénovány na komplexních souborech dat z textového, vizuálního a zvukového obsahu dostupného na webu. Zpočátku soubor dat z velké části zahrnoval položky vytvořené lidskými bytostmi, jako je literatura, články a umělecká díla. S nárůstem generativních nástrojů umělé inteligence však stále více obsahu na internetu vytváří samotná umělá inteligence.
Tento posun vyvolává obavy ohledně kvality a rozmanitosti datových sad používaných k trénování budoucích systémů umělé inteligence. S vývojem obsahu generovaného umělou inteligencí se očekává, že mnoho budoucích generací modelů umělé inteligence se bude učit z datových sad, které nepředstavují lidský obsah, ale materiál vytvořený umělou inteligencí.
Důsledky generativního inbreedingu AI jsou mnohostranné.
Naopak, pokračování učení systému umělé inteligence ze stále většího počtu homogenních datových souborů by mohlo vést ke snížení kreativity a originality výstupu generovaného umělou inteligencí.
Pokud se tento proces opakuje – tedy kopírování z kopie – postupně po generace, kvalita výstupu se oslabí a výsledky riskují, že budou méně poutavá práce a méně pravděpodobně odrážejí to, co považujeme za lidský tvůrčí výstup. . S nárůstem obsahu generovaného umělou inteligencí trénovaného na inbredních souborech dat by se takové problémy mohly zhoršit.
Pokud trénovací datové sady nejsou dostatečně rozmanité, pak by vyvinuté systémy umělé inteligence sloužily pouze k posílení a zvětšení zkreslení přítomných v obsahu generovaném umělou inteligencí, čímž by dále podkopávaly důvěryhodné používání obsahu generovaného umělou inteligencí jako zdroje informací. Kromě toho nedostatek rozmanitosti v trénovacích datech může omezit možnost vývoje systémů umělé inteligence, které by mohly správně porozumět a reprezentovat širokou škálu lidských zkušeností a perspektiv. To může omezovat pokrok v různých aplikačních oblastech AI, jako je zpracování přirozeného jazyka, generování obsahu a rozhodovací systémy.
Řešení výzvy generativního inbreedingu umělé inteligence
Především jde o skutečné riziko, zejména o příbuzenské křížení generativních technologií umělé inteligence. Přesto to dává břemeno výzkumníkům, vývojářům a dokonce i tvůrcům politik, aby jednali proaktivně. Zajištění toho, že různorodé a reprezentativní datové soubory jsou používány jako hlavní priorita během školení systému AI, integruje mechanismy, které budou schopny detekovat a redukovat zaujatosti v obsahu generovaném umělou inteligencí a zajištění účinné mezioborové spolupráce při řešení a zajištění etických a společenských důsledků budování umělé inteligence.
Měly by dále usnadňovat potřebu otevřenosti a odpovědnosti při zavádění systémů umělé inteligence a vyžadovat, aby uživatelé obsahu generovaného umělou inteligencí byli informováni o omezeních a předsudcích. Všechny zúčastněné strany se tak mohou proaktivně snažit o spolupráci při využívání síly generativní umělé inteligence a zároveň zmírňovat rizika spojená s inbreedingem při vývoji umělé inteligence.
Koncept inbreedingu v generativní AI je velkou budoucí výzvou pro vývoj a nasazení systémů AI. To jim pomůže zajistit, že odpovědný a etický vývoj technologického zlepšení pro společnost bude splněn pochopením důsledků a způsobů, jak efektivně zlepšit generativní inbreeding AI.
Zdroj: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/