Když Ben Goertzel nepracuje na urychlení spěchu lidstva směrem k Singularitě vytvořením umělé obecné inteligence (AGI), hraje v jazzrockové kapele Jam Galaxy v čele s robotem jménem Desdemona.
Je to jeden z jeho mnoha vedlejších projektů, který ho přirozeně přivedl k tomu, aby se pokusil o tokenizaci hudebního byznysu tím, že oslovil členy Pearl Jam a Heart. Goertzel také pracuje na výzkumu dlouhověkosti prostřednictvím crowdsourcingu dat o lidském zdraví s tokenovými odměnami prostřednictvím aplikace s názvem Rejuve.ai. Tyto informace jsou pak sloučeny s daty ze studií na zvířatech a hmyzu a analyzovány pomocí AI, aby se určilo, které části genomů nám mohou prodloužit život, a poté jsou stimulovány pomocí genových terapií. "Měli jsme několik pozoruhodných objevů na průlomové úrovni," říká. Jo, a těsně předtím, než skončí náš hodinový rozhovor, mimochodem mimochodem zmíní, že také vytváří stablecoin pro svůj decentralizovaný trh s umělou inteligencí SingularityNET, který je navázán na syntetický index environmentálního pokroku – protože jeho navázání na americké dolary by bylo "chromý."
„Pokrok v oblasti životního prostředí je velmi stabilní. Nikdy to nikam nevede,“ upozorňuje.
"A abyste to mohli zmanipulovat, musíte skutečně vyřešit globální oteplování."
Je to přesně ten druh politického komentáře, který se setkává s high-tech know-how, které byste mohli očekávat od Goertzela, který vypadá a zní jako hippie vědec, který v roce 1971 narazil na stroj času a plně se zformoval v roce 2023. Ale nenechte se zmást klobouk se zvířecím potiskem, dlouhé vlasy a elektrický kool-Aid kyselý tahák: Je to skvělý vědec s přehledem o budoucích světelných letech před většinou a který se potýká s některými z největších konceptů, jaké kdy lidstvo zvažovalo. Co je vědomí? Jak vytvoříme umělý život a co se stane, když nás nebude mít rád, bude darebný a všechny zastřelí jako v Terminator 2?
Co je to umělá obecná inteligence?
Goertzel zpopularizoval termín „umělá obecná inteligence“ jako způsob, jak odlišit skutečný myslící stroj, který se dokáže naučit v podstatě cokoli, od AI, které jsou optimalizovány pro jeden konkrétní úkol, jako je počítač Deep Blue, který slavně porazil mistra světa v šachu Garryho Kasparova. Volně připouští, že při budování stroje, který je schopen naučit se cokoli a všechno, včetně toho, jak se přeprogramovat, aby se stal řádově inteligentnějším než kterýkoli člověk, existují rizika.
"S AGI je řada rizik a nebezpečí," říká Goertzel přes rámus v indické restauraci v rušném nákupním centru v Singapuru. „Jedním z nich, kterému se dostalo velké pozornosti médií, je to, že AGI zuří a vyhladí lidstvo a převezme vládu nad vesmírem. Je to zcela možné; nemůžete to vyloučit,“ říká.
"Dalším pravděpodobnějším rizikem je, že oškliví sobečtí lidé použijí AI k uplatnění své vlastní chamtivosti a kontroly nad ostatními lidmi."
Podle jeho názoru je nepravděpodobné, že by vlády udělaly průlom v AGI, protože jsou „příliš konzervativní a hloupé“, i když poznamenává, že Čína zadává svou práci AGI společnostem jako Tencent a Baidu. Blíže k domovu si myslí, že divize AI Googlu a Facebooku také nepřekročí čáru, protože se budou příliš soustředit na to, aby umělá inteligence dosáhla určitých metrik, což není příznivé pro kreativní myšlení.
„Stejně jako ti nejskvělejší lidé nechtějí pouze sloužit metrikám někoho jiného, myslím si, že umělá obecná inteligence také nutně nechce maximalizovat proklik na něčí webové stránce, že? Musí být dovoleno hrát si kreativně.“
Singularita kolem roku 1970
Goertzel začal univerzitu v 15, promoval v 18, doktorát měl ve 22 a mladou rodinu ve 23. Možná nezvykle v dnešní době, nebyl to jen matematický šmejd nebo technický génius, který v 70. letech pájel stavebnice. ale stejně tak se zajímal o filozofii, tvůrčí psaní a hudbu.
Většinu své kariéry strávil výukou a výzkumem počítačových věd, matematiky a kognitivních věd na různých univerzitách po celém světě, zatímco pracoval na technologii AI, kdykoli mohl. Sériový zakladatel, který má tendenci být o deset let před všemi ostatními svými nápady – což v byznysu slavně rovná se mýlit se — pracoval na používání umělé inteligence k předpovídání finančních trhů a dlouhověkosti a také působil jako hlavní vědec společnosti Hanson Robotics, kde dal robotce Sophii její umělý mozek.
Goertzel přemýšlel o exponenciálním technologickém růstu od 1970. let, kdy poprvé četl knihu Geralda Feinberga Projekt Prometheus, který je o „strojích, které dokážou myslet lépe než lidé… o nanotechnologických strojích, které jsou mikroskopicky malé a my vyřešíme stárnutí“. To pěkně zapadalo do vznikajícího konceptu Singularity, hypotetického budoucího bodu, kdy se technologický pokrok stane nekontrolovatelným a nezvratným, což povede k masivním změnám v lidské civilizaci.
"Takže lidé budou žít věčně, pak bude otázka, K čemu tyto technologie používáme, rychlý bezduchý konzumerismus, nebo to používáme k rozšíření vědomí? A to, co [Feinberg] navrhl, je předložit to demokratickému hlasování."
O několik let později, když začal vidět, že AGI máme na dosah, se toto „demokratické hlasování“ stalo inspirací pro první použití open-source technologie a později blockchainu jako způsobu, jak dát kooperativní komunitě zodpovědnost za technologii.
„V určitém okamžiku jsem si uvědomil, že s AI nestačí mít otevřený kód,“ říká. "Opravdu potřebujete trénovat AI na sračku dat."
„To je místo, kde blockchain přichází jako způsob, jak učinit zpracování a data, na kterých je umělá inteligence založena, decentralizovanou a ve své podstatě crowdsourcingovou a otevřenou pod kontrolou. A to se ukazuje být složitější než pouhé získávání kódu z otevřených zdrojů.“
Goertzel založil OpenCog v roce 2008 za účelem vybudování open-source, crowd-source umělé inteligence. Používá jej 50 společností, včetně Huawei a Cisco, a brzy se chystá velký upgrade nazvaný Hyperon, jehož cílem je 200násobné zrychlení. Alfa verze je k dispozici v tomto čtvrtletí a beta se očekává příští rok.
Blockchain je základní, ale cool
Pro Goertzela je technologie blockchain trochu základní. Popisuje to jako nějaké primitivní distribuované algoritmy přidané do kryptografie, ale „skvělá kombinace“ umožňuje systémům běžet bez centralizovaného řízení, takže je ideální pro jeho potřeby.
„Pokud se chystáte vytvořit myslící stroj a hodláte z něj vytvořit distribuovanou výpočetní strukturu v nanoměřítku, bylo by velmi hezké, kdyby jej vlastnili všichni a nikdo, spíše než aby byl řízen shora dolů.“
Blockchainy jsou příliš pomalé na to, aby se vypořádaly s požadavky na zpracování a obrovskými objemy souvisejících dat, takže existuje něco jako závod o správné škálování blockchainu, než bude vyvinuto průlomové AGI. Goertzel říká, že i když jsou škálovací řešení, jako jsou souhrny s nulovými znalostmi, lepší, stále nemají dostatečnou šířku pásma kvůli omezením blockchainu, do kterého hlásí transakce.
V roce 2017 spoluzaložil SingularityNET, což je jak decentralizovaný trh pro služby a technologie umělé inteligence, tak metoda koordinace založená na blockchainu pro výzkumníky – nebo dokonce umělé inteligence – ke spolupráci.
V současné době si na základě Etherea myslí, že posunul věci tak daleko, jak mohou na blockchainu v jeho současné podobě zajít. Takže když nepracuje na průlomu v AGI (nebo kapele, robotech nebo dlouhověkosti), pracuje na masivním škálování blockchainu, aby mu dodal požadovanou propustnost.
„Dokud nedokážete radikálně zvýšit škálovatelnost blockchainu, nemůžete vnitřní fungování AI vložit do řetězu.“
AI je blíž, než si myslíte
Rok 2022 byl pro fungující produkty založené na technologii AI něco jako průlomový, včetně jazykových aplikací (GPT-3, ChatGPT), kódování (GitHub Copilot) a generování obrázků (DALL-E a Stable Diffusion). Bing dokonce plánuje letos převzít dominanci Googlu ve vyhledávání tím, že do svého vyhledávače začlení technologii ChatGPT.
Goertzel si myslí, že AGI by mohlo být vzdáleno pouhých pět let a poznamenává, že vývoj v této oblasti se zdá být v krátkých tří nebo čtyřletých dávkách v řadě průlomů.
„Computer Vision začal v roce 2014 a pak najednou prásk, prásk, prásk, záhada byla vyřešena. Zpracování přirozeného jazyka… poté, co Google přišel s modelem Bert (v roce 2018), měli jste GPT-3. Pravděpodobně uvidíte stejný oblouk pokroku v AGI. Budete mít jeden průlom a pak velký pokrok na dva roky,“ řekl.
"Rozdíl je v průlomovém pokroku, v tomto případě vede ke stroji, který pak může pokračovat v postupu sám přepisováním svého vlastního kódu."
Goertzel doufá, že projekty a spolupráce, které uvedl do pohybu, by mohly být tak, jak k tomu dochází.
„Pokud budeme mít štěstí, dosáhneme tohoto průlomu v příštích třech až pěti letech s OpenCog Hyperon běžícím na SingularityNET běžícím na Hypercycle,“ říká. "Ale pokud se ukáže, že tajnou omáčku nemáme my, udělá ji někdo jiný."
Škoda, že Vitalik nebyl počítačový vědec
Goertzelovo řešení škálování blockchainu je docela radikální a zahrnuje turbo-nabíjení postranního řetězce nebo vrstvy 2 Cardano s názvem „HyperCyle“.
„Je to opravdu víc než jen postranní řetězec. HyperCycle bude spolupracovat také s Ethereem a dalšími blockchainy, ale tam budeme používat interpret Plutus, ale zbavujeme se účetní knihy.“
Popsal HyperCycle online jako řešení „blockchain trilema“ „decentralizace vs. bezpečnost vs. výkon tím, že se zbaví účetní knihy a použije modernější/plně decentralizované algoritmy a datové struktury, plus trochu AI a systémů reputace.“
Kniha je srdcem technologie blockchain, ale říká, že přimět každý uzel v síti, aby replikoval každou transakci a zpracoval každou inteligentní smlouvu, je směšně neefektivní.
"Účetní kniha je prostě špatná." Pokud o tom přemýšlíte, pokud přemýšlíte o analogii vašich kontaktů ve vašem telefonním seznamu, myslím tím, že účetní kniha je jako […] uchovávat 10,000 10,000 kopií Zlatých stránek a aktualizujete je pokaždé, když přijde někdo nový nebo když někdo změní své telefonní číslo. Je opravdu hloupé aktualizovat XNUMX XNUMX kopií Zlatých stránek.“
Ve verzi analogie HyperCycle místo toho, aby všichni ukládali a aktualizovali Zlaté stránky, lidé ve vašem adresáři ukládají kopii vašeho adresáře a naopak, zašifrovanou vaším soukromým klíčem.
„Přišli jsme na to, jak zajistit, aby blockchain fungoval bez replikující se účetní knihy, takže se úplně rozbil. Každý jednotlivec zapojený do blockchainu si uchovává svou vlastní historii transakcí a uchovává historii transakcí svých přátel a některých přátel jejich přátel,“ říká.
„Sharding úplně dolů, nepotřebujete účetní knihu – nepotřebujete databázovou tabulku. Tyto věci jsou příliš centralizované."
Říká, že některé uzly HyperCycle pro ověření konceptu jsou již funkční, ale ke spuštění v plném rozsahu dojde až v druhé polovině roku 2024.
Strávili jsme dlouhou dobu diskusí o různých přednostech různých přístupů k blockchainu, od internetového počítače po Elastos a Celestia, z nichž většina je nad mojí platovou třídou a mimo schopnosti mého záznamového zařízení přesně zachytit v hlučné restauraci.
Na závěr říká: „Takže mám pocit, že žádná z těchto architektur není dostatečně radikální. Všichni se drží příliš blízko bitcoinu.“
"Chci říct, že pokud budete mít každou inteligentní smlouvu na každém uzlu, bude to šíleně pomalé." Nyní, v HyperCycle, pokud spustíte inteligentní smlouvu na pěti uzlech, je alespoň pětkrát pomalejší než na jednom počítači – není to 10,000 XNUMXkrát pomalejší.“
Proč tedy Cardano?
Goertzel se spřátelil se zakladatelem Cardano Charlesem Hoskinsonem a pár se spojil kvůli jejich projektům v Africe. Věří, že Hoskinson je „skutečně tam, aby zachránil svět. Chci říct, politicky je spíš zarytý libertarián než já – jsem spíš anarchosocialista – ale nejde mu jen o to, aby vydělával peníze nebo aby z nich vytahoval jiné lidi.“
Skutečnou přitažlivostí Cardana je však to, že používá programovací jazyk Haskell, jehož je Goertzel fanouškem od roku 1993. Velmi ho bolí, že spoluzakladatel Etherea Vitalik Buterin šel s programovacím jazykem Solidity od Gavina Wooda.
„Kdyby Vitalik znal více počítačové vědy, přiměl by je používat Haskell nebo F Sharp nebo tak něco, a bylo by mnohem méně hacků blockchainu,“ říká.
„Pokud budete řídit většinu světové ekonomiky a obchodovat s biliony dolarů na nějakém softwarovém systému, bylo by lepší postavit tento softwarový systém v jazyce, který není náchylný k chybám a kde mohou být vaše algoritmy formálně ověřeno pomocí matematické teorie. Je to prostě správný způsob, jak věci dělat.“
Provizorní řešení
Bez ohledu na to, jak rychle bude blockchain rychlý, jakmile bude AGI o řád chytřejší a schopnější než lidé, Goertzel říká, že nikomu nedovolí, aby jej ovládal.
"Když je AGI 100krát chytřejší než lidé, nechce být ovládán námi, stejně jako by nás neovládal šimpanz nebo osel, že?"
„Pak bych řekl, že otázkou není, zda to neovládá jeden z nás, ale otázka zní: Je nám dobře nakloněn? Umožní lidem regulovat své vlastní podnikání a poskytne nám skvělé nástroje a nano assemblery pro 3D tisk všeho, co chceme, a vyléčení našich nemocí?
„Ale v přechodném období, kdy má AGI stejnou inteligenci jako lidé, je to období, kdy jsou věci citlivější a zajímavější. A otázka zní: Chce AGI spolupracovat s lidmi? Nebo je paranoidní a chce ovládat lidi, než to zničí?
Své děti uč správně
Podle Goertzela je řešením naučit AGI o péči o druhé ao kreativitě a umění. To je místo, kde přichází Desdemona Robot v jeho kapele a její sestra Grace - která je navržena tak, aby poskytovala péči o starší lidi.
Způsob, jakým se vyhnete tomu, aby se AGI změnilo na Terminátorův Skynet, je v první řadě nepostavit jej tak.
„Skynet samozřejmě ve filmu byla počítačová bezpečnostní síť, která zuřila. Byl vytvořen, aby se bránil před lidmi,“ říká.
„Pokud ale vybudujete první AGI, které bude mít co do činění s péčí o seniory a kreativním uměním a vzděláváním, jakmile bude chytřejší, bude zaměřeno na pomoc lidem a vytváření skvělých věcí. Pokud postavíte první AGI na zabíjení padouchů... možná bude v těchto věcech pokračovat."
"Takže, ať už je to prospěšné nebo ne, záleží opravdu na tom, jaké aplikace jste vyvinuli a k čemu jste motivovali."
Věří, že vkládání AI do těl robotů je užitečné, protože jim pomáhá umístit je do skutečného světa, spíše než do nějakého abstraktního matematického vesmíru.
„AI by se měla učit o lidském a fyzickém světě. Být vtělený do světa je ten správný způsob, jak toho dosáhnout,“ říká.
Když ale představí robotku Sophii velkému publiku, vizuální a sluchové senzory mohou být snadno ohromující a zmást AI v hlasitém a jasném prostředí. Takže Sophia bude brzy spuštěna v metaverse, nazvaném Sophiaverse. Zapomeňte na nudné textové odpovědi ChatGPT, Sophia je vtělena do 3D virtuálního světa a bude se učit z interakce s lidmi tam. Nicméně varuje, že pravděpodobně řekne nějaké hloupé věci.
"Má neuronovou síť podobnou GPT-3 a tak dále, která má významnou schopnost odpovídat na vaše otázky, ale v některých ohledech je také docela hloupá."
PŘIHLÁSIT SE K ODBĚRU
Nejpoutavější čtení v blockchainu. Dodáno jednou a
týden.
Zdroj: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/