Proč umělá inteligence (AI) představuje riziko vyhynutí lidstva

Na technologické hranici vývoj umělé inteligence (AI) nadále podněcuje mimořádné inovace. Zároveň však odvíjí vyprávění plné obav ze zániku lidstva. Vizionáři umělé inteligence, jako je Sam Altman, vedoucí OpenAI, a Geoffrey Hinton, všeobecně uznávaný jako „kmotr“ umělé inteligence, tento strach výslovně vyjádřili.

Otevřený dopis Centra pro bezpečnost umělé inteligence odhalující potenciální katastrofu, který podpořilo více než 300 vážených signatářů, vynesl na světlo existenční hrozbu, kterou umělá inteligence představuje. Nicméně, jak se tento zázrak vytvořený lidmi mohl stát zkázou lidstva, zůstává poněkud záhadné.

AI představuje riziko vyhynutí lidstva

Umělá inteligence by mohla podle Dana Hendryckse, ředitele Centra pro bezpečnost umělé inteligence, nabídnout řadu cest k rizikům ve společenském měřítku. Zneužití umělé inteligence zhoubnými entitami představuje jeden takový scénář. 

„I v komunitě umělé inteligence panuje velmi rozšířená mylná představa, že existuje jen hrstka doomerů. Ale ve skutečnosti by mnoho lidí soukromě vyjádřilo obavy z těchto věcí,“ řekl Hendrycks.

Představte si zlovolné síly využívající AI ke konstrukci biologických zbraní, jejichž smrtnost překoná přírodní pandemie. Dalším příkladem je spuštění nečestné umělé inteligence se záměrem rozsáhlého poškození.

Pokud je systém umělé inteligence obdařen dostatečnou inteligencí nebo schopnostmi, mohl by způsobit zkázu v celé společnosti.

„Zlomyslní aktéři by mohli záměrně vypustit podvodnou AI, která se aktivně pokouší ublížit lidstvu,“ dodal Hendrycks.

Přesto nejde jen o krátkodobou hrozbu, která se týká odborníků. Vzhledem k tomu, že umělá inteligence proniká do různých aspektů ekonomiky, přenechání kontroly technologiím by mohlo potenciálně vést k dlouhodobým problémům. 

Tato závislost na AI by mohla způsobit, že jejich „vypnutí“ bude rušivé a pravděpodobně nedosažitelné. V důsledku toho riskování, že lidstvo ovládne svou budoucnost.

Zneužívání a jeho dalekosáhlé důsledky

Jak varoval Sam Altman, schopnost umělé inteligence vytvářet přesvědčivý text, obrázky a videa může vést k významným problémům. Opravdu věří, že „pokud se tato technologie pokazí, může se pokazit docela špatně“.

Vezměme si například padělaný obrázek falešně zobrazující masivní výbuch poblíž Pentagonu, který se šířil na sociálních sítích. To vedlo k dočasnému propadu akciového trhu, protože mnoho účtů na sociálních sítích, včetně několika ověřených, rozšířilo klamavou fotografii během pouhých minut, čímž se zmatek ještě zvýšil. 

Takové zneužívání umělé inteligence poukazuje na potenciál technologie šířit dezinformace a narušovat společenskou harmonii. Vedoucí výzkumná pracovnice Oxfordského institutu pro etiku v oblasti umělé inteligence Elizabeth Renieris tvrdila, že umělá inteligence může „řídit exponenciální nárůst objemu a šíření dezinformací, čímž narušuje realitu a narušuje důvěru veřejnosti“.

Dalším znepokojivým trendem je vznik „halucinační“ umělé inteligence. Jedná se o znepokojivý jev, kdy AI chrlí chybné, ale zdánlivě věrohodné informace. 

Tato chyba, předvedená v nedávném incidentu týkajícím se ChatGPT, by mohla zpochybnit důvěryhodnost společností využívajících AI a dále udržovat šíření dezinformací.

Eroze pracovních míst a exploze nerovnosti

Rychlé přijetí umělé inteligence v různých odvětvích vrhá na trh práce dlouhý a znepokojivý stín. Jak se technologie vyvíjí, potenciální odstranění milionů pracovních míst se stalo naléhavým problémem.

Nedávná přehled odhalil, že šest z deseti Američanů věří, že používání umělé inteligence na pracovišti významně ovlivní pracovníky v příštích 20 letech. Přibližně 28 % respondentů si myslí, že je používání této technologie osobně ovlivní, a dalších 15 % se domnívá, že „AI by více uškodila než pomohla“.

Nárůst automatizovaného rozhodování může přispět ke zvýšení zaujatosti, diskriminace a vyloučení. Může také podporovat prostředí nerovnosti, zejména postihující ty, kdo jsou na špatné straně digitální propasti.

Navíc posun k závislosti na AI by mohl vést k „oslabení“ lidstva. Mohlo by to být podobné dystopickému scénáři ve filmech jako Wall-E. 

Centrum pro bezpečnost umělé inteligence poznamenalo, že dominance umělé inteligence může postupně spadnout pod kontrolu omezeného počtu subjektů. Může to umožnit „režimům prosadit úzké hodnoty prostřednictvím všudypřítomného dohledu a represivní cenzury“.

Tato pochmurná vize budoucnosti zdůrazňuje potenciální rizika spojená s umělou inteligencí a zdůrazňuje potřebu přísné regulace a kontroly.

Výzva k regulaci umělé inteligence

Závažnost těchto obav vedla lídry v oboru k tomu, aby prosazovali přísnější předpisy týkající se umělé inteligence. Tato výzva k vládní intervenci odráží rostoucí konsenzus, že vývoj a nasazení umělé inteligence by mělo být pečlivě řízeno, aby se zabránilo zneužití a nezamýšlenému narušení společnosti.

Umělá inteligence má potenciál být přínosem nebo zkázou, v závislosti na tom, jak se s ní zachází. Je zásadní podporovat globální konverzaci o zmírňování rizik a zároveň využívat výhod této výkonné technologie. 

Britský premiér Rishi Sunak tvrdí, že umělá inteligence pomáhá lidem s paralýzou chodit a odhalovat nová antibiotika. Je však nezbytné, abychom zajistili, že tyto procesy budou prováděny bezpečně a bezpečně.

„Lidé budou znepokojeni zprávami, že umělá inteligence představuje existenční rizika, jako jsou pandemie nebo jaderné války. Chci, aby byli ujištěni, že vláda se na to velmi pečlivě dívá,“ řekl Sunak.

Řízení umělé inteligence se musí stát globální prioritou, aby se zabránilo tomu, aby se stala hrozbou pro lidskou existenci. Chcete-li využít výhod umělé inteligence a zároveň zmírnit rizika lidského vyhynutí, je důležité postupovat opatrně a obezřetně. Vlády musí také přijmout předpisy, podporovat globální spolupráci a investovat do důsledného výzkumu.