Dokáže blockchain dodat zábradlí, aby udržela AI v kurzu?

Umělá inteligence (AI) a blockchain jsou nově vznikající digitální technologie, které zaujaly představivost veřejnosti, ale také vyvolaly vážné obavy.

Je tedy na místě se ptát: Lze AI a blockchain integrovat způsobem, který je prospěšný lidstvu?

Existují důvody si to myslet. Již v roce 2016 Vitalik Buterin napsal, že jak kryptoekonomika, tak bezpečnostní komunita AI se „pokoušely vypořádat se s principiálně stejným problémem“, jak regulovat složité a chytré systémy s „nepředvídatelnými vznikajícími vlastnostmi“.

Oba spoléhají na ovládání v podstatě „hloupých“ systémů, „jejichž vlastnosti jsou po vytvoření neflexibilní“. Jakmile je implementována inteligentní smlouva, nelze ji například změnit. Obě komunity „by si měly více naslouchat,“ uzavřel.

V posledním roce, kdy se objevil ChatGPT a další generativní nástroje umělé inteligence, narůstají obavy, že se umělá inteligence může vymknout kontrole. Lidé by v jednom děsivém scénáři mohli ztratit kontrolu nad autonomními zbraňovými systémy.

Takže představa, že blockchainy a chytré kontrakty mohou nějakým způsobem sloužit jako mantinely, které zabrání modelům umělé inteligence vychýlit se z kurzu, nabývá na síle.

„Každý, kdo pracuje v kryptoměnách, musí hrát skutečně výraznou roli v tom, aby AGI dobře fungovalo,“ řekla Allison Duettmannová, prezidentka Foresight Institute, na nedávné konferenci SmartCon 2023. Je tomu tak zejména s ohledem na předpovědi, že umělá obecná inteligence neboli AGI, kde stroje dosahují inteligence na lidské úrovni, může přijít spíše dříve než později.

Toto potenciální spojení AI a technologie blockchainu bylo také na mysli tvůrců IT, kteří se účastnili nedávno zveřejněného průzkumu zadaného společností Casper Labs. Téměř polovina (48 %) z 608 IT lídrů dotázaných ve Spojených státech, Evropě a Číně souhlasila s tím, že „integrace AI a technologie blockchain má potenciál způsobit revoluci v našem odvětví a umožnit lepší zabezpečení dat, transparentnost a efektivitu“.

Doplňkové technologie, rostoucí dynamika

Základní myšlenkou je, že neměnné účetní knihy blockchainů, které nelze nefalšovat, spolu s chytrými smlouvami mohou poskytnout zábrany pro implementace umělé inteligence a zajistit odpovědnou umělou inteligenci. Někteří věří, že blockchain by mohl dokonce sloužit jako jakýsi „zabíječ“ pro modely umělé inteligence, které se vymknou kontrole. 

V průzkumu společnosti Zogby Analytics zadaném Casper Labs uvedlo 71 % IT lídrů, že „považují blockchain a AI za doplňkové technologie“. Navíc na otázku, jak jejich organizace v současnosti využívají blockchain, „efektivní práce s umělou inteligencí byla celkově nejoblíbenější odpovědí (51 %).

Jinde, 1. listopadu, americký prezident Joe Biden vydal exekutivní příkaz, kterým se zavádějí nové bezpečnostní a bezpečnostní standardy AI. Cílem nařízení je chránit veřejnost před širokou škálou rizik, včetně nebezpečných biologických materiálů vytvořených umělou inteligencí, podvodů a podvodů s umělou inteligencí.

Tato objednávka „vytvořila spoustu impulsů,“ řekl v rozhovoru pro Cointelegraph Mrinal Manohar, generální ředitel a spoluzakladatel Casper Labs, která má blockchain vrstvy 1 zaměřený na podniky. AI governance je v dnešní době na mysli stále více lidí z podnikových IT.

Vidí, že více firem spouští skutečné projekty AI/blockchain? „Očekáváme, že rok 2024 bude rokem velkých POC [proofs of-concept] a MVP [minimálně životaschopných produktů]. A potom předpokládám, že budou skutečné případy použití,“ řekl Manohar.

Ale jistě zde existují překážky, včetně škálování. Okamžité ověření transakcí ve velkoobjemových decentralizovaných blockchainech zůstává výzvou, i když v poslední době bylo dosaženo pokroku.

V často citovaném dokumentu z roku 2021 Ben Garfinkel, ředitel Centra pro správu umělé inteligence, napsal, že „zavedené blockchainy bez povolení, včetně Etherea, jsou příliš neefektivní na to, aby provozovaly cokoli nad rámec poměrně jednoduchých aplikací“. Dokonce i aplikace, „která kontroluje, kdo vyhrál šachovou partii, tlačí na současná omezení Etherea“.

Magazine: Breaking into Liberland: Uhýbání strážcům s dušemi, návnadami a diplomaty

Přesto, pokud se chytré smlouvy „někdy stanou dostatečně spolehlivými“, připustil Garfinkel, mohly by být užitečné jako ověřovací mechanismy pro mezinárodní dohody zaměřené na řízení systémů umělé inteligence.

Casper Labs je jednoznačně optimističtější. „V závodě o vyřešení výzvy „černé skříňky“ umělé inteligence se blockchain objevuje jako řešení typu „vše v jednom“, na které jsme čekali, aby zahrnovalo tolik potřebnou transparentnost,“ napsal Manohar ve zprávě. Vnitřní fungování systémů umělé inteligence je pro uživatele v podstatě neviditelné, proto analogie „černé skříňky“.

Hybridní blockchainové řešení

Přesto, jak lze na technologii blockchainu pohlížet jako na řešení problému „černé skříňky“ umělé inteligence, když ji nelze ani škálovat?

„Problém škálování řešíte prostřednictvím hybridních blockchainů,“ řekl Manohar Cointelegraphu. Nikdo dnes nehovoří o umístění obrovských datových souborů na Ethereum nebo na vlastní blockchain vrstvy 1 Casper Labs. Řešení Casper Labs zahrnuje použití povolených (soukromých) blockchainů i veřejných (nepovolených) blockchainů.

"Lidé se přinutili k tomuto druhu myšlení, kdy musíte mít úplné povolení nebo musíte být zcela otevření," řekl Manohar dále:

„V hybridním blockchainu máte svůj vlastní soukromý blockchain, který je váš. Vy to ovládáte, konfigurujete a můžete to nechat běžet tak rychle, jak chcete, protože máte omezenou sadu validátorů.“

A veřejný řetězec? To je spíše pro správu verzí a uchovávání záznamů. Možná budete chtít zaregistrovat novou verzi AI ve veřejném řetězci. „Krása tohoto hybridního modelu spočívá v tom, že si vyberete, když potřebujete neměnnost z veřejného řetězce a kde si svou infrastrukturu spravujete sami,“ řekl Manohar.

Pokud budete referenci na veřejném blockchainu adekvátně ukládat, „vždy se můžete ujistit, že s těmito daty nebylo manipulováno, protože pokud by s nimi bylo manipulováno, hashe by se neshodovaly.“

Také cokoli, co chcete, aby bylo auditovatelné, můžete umístit na veřejný blockchain, protože je odolný proti neoprávněné manipulaci. Takže „pokaždé, když upravím AI nebo pokaždé, když použiji novou datovou sadu, pošlu ping na veřejný blockchain,“ řekl Manohar.

Velkým problémem dnešní AI je, že člověk neví, kdy se něco pokazí. Blockchainy však poskytují způsob, jak pásku takříkajíc vrátit zpět, protože jsou vysoce serializované a opatřené časovým razítkem.

Pokud tedy model umělé inteligence „začne vykazovat známky halucinací nebo inherentních zaujatostí, můžete jednoduše vrátit systém umělé inteligence zpět k nedávné iteraci, která tyto problémy postrádala, a následně diagnostikovat, odkud pocházejí data o problému,“ poznamenává Casper Labs o svém webová stránka.

Jiní však nejsou přesvědčeni, že blockchain může vyřešit problém „černé skříňky“ umělé inteligence.

„Je zavádějící popisovat ‚transparentnost‘ blockchainu jako lék na problém ‚černé skříňky‘ umělé inteligence,“ řekl Cointelegraph Samir Rawashdeh, docent a ředitel Dearbornského výzkumného centra umělé inteligence na University of Michigan, Dearborn.

Nečiní inherentní vnitřní fungování modelu strojového učení srozumitelnějším ani nevyjasňuje, „jak konkrétní výstup zpětně sleduje původní trénovací data“.

To, co Casper Labs skutečně navrhuje, navrhl Rawashdeh, je „systém správy verzí“ – i když s některými pěknými funkcemi – který lze použít „ke sledování vývoje a nasazení modelu AI“.

To znamená, že blockchain by mohl nepřímo řešit problém „černé skříňky“, dodal Rawashdeh, tím, že nabídne auditní stopu, která pomůže zajistit integritu dat, původ a transparentnost v souborech dat používaných k trénování modelů AI. Ale nečiní to skutečný rozhodovací proces o nic lépe interpretovatelný.

Když se stroje spojí proti lidem

Při pohledu do budoucna vyvstávají obavy ohledně umělé obecné inteligence: Mohl by blockchain pomoci vyhnout se scénářům špatných snů, kdy modely AGI převracejí volby nebo dokonce stíhají války? 

"Vlastně by to mohlo nesmírně pomoci," odpověděl Manohar. Blockchain „by byl nejlepším přepínačem zabíjení“ pro model AI za předpokladu, že jeho elektrická energie „prochází zcela decentralizovaným blockchainem“.

To znamená, že blockchain a jeho lidští ověřovatelé rozhodují, zda model umělé inteligence získá sílu nebo ne. "Vždy je tu signál přepínače zabíjení, kde pokud všichni validátoři souhlasí, mohou prostě vypnout síť a vypnout přístup AI k napájení," řekl Manohar a dodal:

"Ve skutečnosti by to mohlo fungovat jako neuvěřitelně silný přepínač zabíjení pro tyto scénáře nočních můr."

Podezření zůstávají

Existují další potenciální překážky této integrace blockchainu a AI. Za prvé, „v komunitě umělé inteligence je kolem kryptoměn spousta podezření,“ řekl Duettmann. Krypto a blockchain mnohým stále připomínají podvody s nezaměnitelnými tokeny a další nepříjemné chování.

Na otázku, zda Foresight vidí více návrhů financování pro projekty AI/Blockchain, Duettmann odpověděl: „Ve vesmíru je nyní hodně jako pohyb.“ V průměru vidí asi pět návrhů financování týdně, které kombinují blockchain a technologii AI. Institut samozřejmě může financovat jen zlomek z nich, ale „rozhodně se to vybralo hodně“.

Pokud jde o tyto dvě komunity, „v konečném důsledku se mají od sebe navzájem hodně co učit,“ řekla. Ve své přednášce SmartCon 2023 poznamenala, že kryptoprůmysl je velmi dobrý v zabezpečení sítě a často využívá „červené týmy“, kde týmy hledají vstupy, které způsobují katastrofické chování. „Rozšiřme „červený tým“ na modely strojového učení,“ navrhla.

Větší přijetí v Číně

Zdá se, že integrace AI a technologie blockchain je v Číně vnímána obzvláště příznivě. V průzkumu společnosti Casper Lab 68 % čínských respondentů v oblasti IT souhlasilo s tím, že „integrace AI a technologie blockchain má potenciál způsobit revoluci v našem odvětví a umožnit lepší zabezpečení dat, transparentnost a efektivitu.“ Pro srovnání, tento podíl byl 48 % v USA a pouze 34 % v Evropě.

Nedávné: Posílení přijetí blockchainu tím, že technologie zůstane na zadní straně

Proč tak vysoko v Číně? Čína byla v posledních letech vůči kryptoměnám nepřátelská, ale zůstává pozitivní, pokud jde o technologii blockchain, poznamenal Manohar. Některé obce umístily pozemky na blockchain. Čína považuje technologii blockchain za účinný certifikační a sledovací mechanismus.

Na Západě si pro srovnání „všichni myslí, že blockchain je jen kryptoměna,“ prohlásil Manohar. Tato propast ve vzdělání se ale pravděpodobně zmenší. Z dlouhodobého hlediska se „všechno vrátí k průměru“.

Je tato blockchainová zabijácká aplikace?

Manohar byl dotázán, zda by spojení AI a blockchainu mohlo nakonec vést k dlouho hledané „zabijácké aplikaci“ blockchainu.

"Mohl by to být jeden z nich," odpověděl. Protokoly řízení sledování a sledování blockchainu pro sektory dodavatelského řetězce a finančních technologií jsou také kandidáty, ale tyto dvě oblasti měly přijatelné řízení ještě předtím, než se objevily blockchainy a chytré smlouvy.

Pro srovnání: „v AI neexistuje žádný zavedený systém řízení. Proto je zde mnohem více prostoru pro inovace. Takže si opravdu myslím, že by to mohla být zabijácká aplikace blockchainu,“ řekl Cointelegraph.