Australská vláda zahajuje konzultace k posouzení zákazu „vysoce rizikové“ umělé inteligence – Cryptopolitan

Australská vláda zahájila neočekávané osmitýdenní konzultační období, jehož cílem je určit, zda by některé „vysoce rizikové“ nástroje umělé inteligence (AI) měly být zakázány. Tento krok navazuje na podobná opatření přijatá jinými regiony, včetně Spojených států, Evropské unie a Číny, při řešení rizik spojených s rychlým rozvojem umělé inteligence.

1. června představil ministr průmyslu a vědy Ed Husic dva články k veřejnému posouzení: jeden o „Bezpečné a odpovědné umělé inteligenci v Austrálii“ a druhý o generativní umělé inteligenci od Národní rady pro vědu a technologii. Tyto dokumenty byly zveřejněny během konzultačního období, které bude otevřené do 26. července.

Australská vláda hledá zpětnou vazbu ohledně strategií na podporu „bezpečného a zodpovědného používání AI“ a zkoumá možnosti, jako jsou dobrovolné etické rámce, specifické předpisy nebo kombinace obou přístupů. Konzultace se přímo ptá, zda by některé vysoce rizikové aplikace nebo technologie umělé inteligence měly být zcela zakázány, a hledá informace o kritériích pro identifikaci takových nástrojů.

Komplexní diskusní dokument obsahuje návrh matice rizik pro modely umělé inteligence, která kategorizuje samořídící auta jako „vysoké riziko“ a generativní nástroje umělé inteligence pro vytváření lékařských záznamů o pacientech jako „střední riziko“. Dokument zdůrazňuje jak pozitivní aplikace umělé inteligence v odvětvích, jako je medicína, inženýrství a právo, tak i potenciální škody spojené s deepfake nástroji, generováním falešných zpráv a případy, kdy roboti umělé inteligence podporovali sebepoškozování.

Australská vláda vs AI

Diskusní příspěvek se také zabývá obavami týkajícími se zkreslení v modelech umělé inteligence a také generování nesmyslných nebo nepravdivých informací známých jako „halucinace“ systémy umělé inteligence. Uznává, že přijetí umělé inteligence v Austrálii je v současnosti omezené kvůli nízké úrovni důvěry veřejnosti. Dokument jako příklady odkazuje na předpisy AI implementované v jiných jurisdikcích a dočasný italský zákaz ChatGPT.

Zpráva Národní rady pro vědu a technologii navíc zdůrazňuje výhodné schopnosti Austrálie v oblasti robotiky a počítačového vidění, ale poukazuje na relativní slabiny v klíčových oblastech, jako jsou velké jazykové modely. Vyvolává obavy z koncentrace generativních zdrojů umělé inteligence v malém počtu technologických společností převážně se sídlem v USA, což pro Austrálii představuje potenciální riziko.

Zpráva dále zkoumá globální regulaci umělé inteligence, poskytuje příklady generativních modelů umělé inteligence a naznačuje, že takové modely budou mít pravděpodobně dalekosáhlé dopady na sektory od bankovnictví a financí po veřejné služby, vzdělávání a kreativní průmysly.