Generativní AI ChatGPT versus ty nekonečné opice, žádná soutěž říká etiku AI a zákon AI

Ty rozevláté opice.

Existuje docela slavný myšlenkový experiment, o kterém jste možná slyšeli, že zahrnuje opice. Naprosto fascinující vynalézavost je často používána těmi, kteří chtějí udělat obzvlášť vybroušenou pointu.

Zde je návod, jak děj probíhá.

Představte si, že opice píše na psacím stroji. Pokud opice pokračuje v psaní po nekonečně dlouhou dobu a za předpokladu, že opice píše klíče čistě náhodně, je pravděpodobné, že budou nevyhnutelně napsána celá Shakespearova díla.

Podstata zdánlivě spočívá v tom, že pouhou náhodou je možné někdy získat srozumitelnou odpověď. Všichni máme sklon souhlasit s tím, že Shakespearova díla jsou ohromnou ukázkou srozumitelného psaní a uvažování. Takže cokoli nebo jakýkoli způsob produkování Shakespearových ceněných slov by se zdál být úžasně působivý, i když by nás zároveň prudce zklamalo, že to nebylo inteligencí jako takovou, ale pouze náhodným štěstím.

Někteří se dnes pokoušejí přirovnat tuto metaforu plnou opic s nejnovějšími v oblasti umělé inteligence (AI).

Pravděpodobně víte, že nejžhavější forma umělé inteligence v těchto dnech je Generativní AI, jehož příkladem je široce a velmi populární aplikace AI známá jako ChatGPT od OpenAI. Za chvíli vysvětlím více o generativní AI a ChatGPT. V tuto chvíli stačí vědět, že se jedná o aplikaci AI pro převod textu na text nebo text na esej, která vám může vytvořit esej na základě zadané výzvy podle vašeho výběru.

Tvrdené spojení týkající se legendární opice na psaní je, že údajně působivé eseje vytvořené generativní umělou inteligencí, které se zdají být zcela plynulé, nejsou ohromující o nic víc než úspěchy primáta na psaní. Pokud přijmete premisu, že opice, která náhodně píše, může generovat Shakespearova díla, a pokud jste ochotni připustit, že ChatGPT a další generativní AI jsou zdánlivě stejné, musíte ergo dojít k závěru, že generativní AI není vůbec pozoruhodná. Je to jen náhoda, která nás klame.

Může se to zdát jako přesvědčivý případ, ale musíme to rozbalit. Pozorné rozbalení ukáže, že srovnání mezi těmito dvěma je zavádějící a zjevně nesprávné.

Přestaň s tím srovnáváním. Pro ty, kteří trvají na pokračování ve srovnávání, prosím, udělejte to alespoň uvážlivě a nadstandardně.

Ti, kteří srovnávání jen přehazují, dělají medvědí službu generativní umělé inteligenci. A důležitější obavou je, že je to zavádějící pro širokou veřejnost a společnost jako celek. Předpokládám, že bychom také mohli dodat, že také dělají medvědí službu tvrdě pracujícím opicím nebo možná podkopávají hodnotu teorému o nekonečném psaní opic. Buďte spravedliví. Být milý. Buďte pravdiví.

Než se do toho pustíme hlouběji, je tu jeden zasvěcený vtip, který využívá představu opice na psaní. Mohlo by se ti to líbit.

Cynický kousek humoru se často vyskytuje v osobní korespondenci během počátečního rozkvětu internetu. To je doba, kdy se internet z pochmurné a vážné online sféry vytrácel do rušného, ​​bouřlivého a neukázněného teritoria, protože počet lidí používajících internet prokazatelně stoupal.

Vtipná anekdota říká, že pokud by opice píšící na psacích strojích nakonec vytvořily nebo řekněme reprodukovaly celé dílo Shakespeara, máme nyní důkaz, že díky nástupu internetu to musí rozhodně ne být pravdivý.

Směješ se?

Někteří si to vykládají jako bouřlivě vtipnou poznámku.

Vtip je odrazem toho, jak se internet se všemi svými pěnivými a chrlícími příspěvky blíží úrovni produkce Shakespeara. Je to ostře řezavá poznámka zdůrazňující, že internet pravděpodobně diskurz nepovznesl, ale naopak ho znevážil. Mnozí předpokládali, že internet bude přínosem pro inteligentní interakci, která umožní podnětné diskuse po celém světě. Zdá se, že jsme toho nebyli nutně svědky v tak velkém rozsahu, v jaký jsme doufali.

Samozřejmě bychom byli lhostejní, kdybychom vtip brali jako skutečnou předzvěst toho, co internet způsobil. S internetem je spojeno mnoho skvělých objevů a pozoruhodných hodnot. Vtip je přikrášlení nebo nadsázka. Nicméně, pointa je dobře přijata, že si musíme dávat pozor na zákeřný a nesmyslný obsah a zároveň se snažit najít a pozvednout společensky inspirativní díla pomocí internetu. Za mé pokrytí toho, jak může umělá inteligence pomoci a přesto v a dvojí použití móda podkopává společenský diskurz prostřednictvím nepříznivých příspěvků na internetu, viz moje diskuze na odkaz zde.

V dnešním sloupku se budu zabývat významnými rozdíly mezi generativní umělou inteligencí a klasickým příběhem o psacích opicích. Vysvětlím, kde srovnání zaostává. Nepochybně nakonec budete vědět více o teorému psaní opic a konkrétněji pochopíte, jak funguje generativní AI. Občas budu odkazovat na ChatGPT, protože je to 600librová gorila generativní AI (zamýšlená slovní hříčka), i když mějte na paměti, že existuje spousta dalších generativních aplikací AI a ty jsou obecně založeny na stejných obecných principech.

Mezitím se možná ptáte, co je to vlastně generativní AI.

Pojďme si nejprve probrat základy generativní umělé inteligence a poté se můžeme blíže podívat na srovnání teorémů psaní opic.

Do toho všeho přichází spousta úvah o etice AI a zákonech o AI.

Uvědomte si prosím, že se neustále snažíme začlenit etické principy AI do vývoje a nasazení aplikací AI. Rostoucí skupina zainteresovaných a někdejších etiků umělé inteligence se snaží zajistit, aby snahy o vymýšlení a přijetí umělé inteligence braly v úvahu pohled na to, jak AI pro dobro a odvrácení AI pro špatné. Stejně tak jsou navrženy nové zákony o umělé inteligenci, které se šíří jako potenciální řešení, jak zabránit snahám umělé inteligence zbláznit se do lidských práv a podobně. Pro mé průběžné a rozsáhlé pokrytí etiky AI a práva AI viz odkaz zde a odkaz zde, Abychom jmenovali jen několik.

Vývoj a propagace etických zásad umělé inteligence se snaží zabránit tomu, aby společnost upadla do nesčetných pastí indukujících umělou inteligenci. Pro mé pokrytí etických principů AI OSN, jak byly navrženy a podporovány téměř 200 zeměmi prostřednictvím úsilí UNESCO, viz. odkaz zde. V podobném duchu se zkoumají nové zákony AI, které se snaží udržet AI na stejné úrovni. Jeden z nejnovějších záběrů se skládá ze sady navrhovaných Listina práv AI které americký Bílý dům nedávno vydal k identifikaci lidských práv ve věku AI, viz odkaz zde. Vyžaduje vesnici, aby udržela AI a vývojáře AI na správné cestě a odradila úmyslné nebo náhodné podvědomé snahy, které by mohly podkopat společnost.

Do této diskuse vložím úvahy týkající se etiky AI a práva AI.

Základy generativní umělé inteligence

Nejznámější instancí generativní AI je aplikace AI s názvem ChatGPT. ChatGPT se dostal do povědomí veřejnosti již v listopadu, kdy byl vydán výzkumnou firmou AI OpenAI. Od té doby ChatGPT sbírá velké titulky a překvapivě překračuje svých vyhrazených patnáct minut slávy.

Hádám, že jste pravděpodobně slyšeli o ChatGPT nebo možná dokonce znáte někoho, kdo jej používal.

ChatGPT je považován za generativní aplikaci AI, protože bere jako vstup nějaký text od uživatele a poté generuje nebo vytvoří výstup, který se skládá z eseje. Umělá inteligence je generátor textu na text, i když AI popisuji jako generátor textu na esej, protože to snadněji objasňuje, k čemu se běžně používá. Generativní umělou inteligenci můžete použít ke skládání dlouhých kompozic nebo ji můžete přimět k tomu, aby nabízela spíše krátké jadrné komentáře. Vše je na vaší nabídce.

Vše, co musíte udělat, je zadat výzvu a aplikace AI vám vygeneruje esej, která se pokusí na vaši výzvu odpovědět. Komponovaný text bude působit, jako by esej byla napsána lidskou rukou a myslí. Pokud byste zadali výzvu, která říkala „Řekni mi o Abrahamu Lincolnovi“, generativní AI vám poskytne esej o Lincolnovi. Existují další režimy generativní umělé inteligence, jako je text-to-art a text-to-video. Zde se zaměřím na variantu textu na text.

Vaše první myšlenka by mohla být, že tato generativní schopnost nevypadá jako tak velký problém, pokud jde o vytváření esejů. Můžete snadno vyhledávat online na internetu a snadno najít tuny a tuny esejů o prezidentu Lincolnovi. Nakopnutím v případě generativní umělé inteligence je to, že vytvořená esej je relativně unikátní a poskytuje spíše originální kompozici než napodobeninu. Pokud byste se pokusili najít esej vytvořenou umělou inteligencí někde online, je nepravděpodobné, že byste ji objevili.

Generativní umělá inteligence je předem vycvičená a využívá složitou matematickou a výpočetní formulaci, která byla vytvořena zkoumáním vzorců psaných slov a příběhů na webu. V důsledku zkoumání tisíců a milionů psaných pasáží může AI chrlit nové eseje a příběhy, které jsou mišmašem toho, co bylo nalezeno. Přidáním různých pravděpodobnostních funkcí je výsledný text do značné míry jedinečný ve srovnání s tím, co bylo použito v trénovací sadě.

Existuje mnoho obav z generativní umělé inteligence.

Jednou zásadní nevýhodou je, že eseje vytvořené generativní aplikací založenou na umělé inteligenci mohou obsahovat různé nepravdy, včetně zjevně nepravdivých faktů, faktů, které jsou klamavě zobrazeny, a zjevných faktů, které jsou zcela vymyšlené. Tyto vyrobené aspekty jsou často označovány jako forma AI halucinace, fráze, kterou nemám v oblibě, ale zdá se, že i tak získává na popularitě (podrobné vysvětlení, proč je to mizerná a nevhodná terminologie, najdete v mém příspěvku na odkaz zde).

Další obavou je, že lidé mohou snadno získat zásluhy za generativní esej vytvořenou umělou inteligencí, přestože esej sami nesepsali. Možná jste slyšeli, že učitelé a školy jsou docela znepokojeni vznikem generativních aplikací AI. Studenti mohou potenciálně používat generativní umělou inteligenci k psaní zadaných esejů. Pokud student tvrdí, že esej byla napsána jejich vlastní rukou, je malá šance, že učitel bude schopen rozeznat, zda nebyla zfalšována generativní AI. Pro moji analýzu tohoto matoucího aspektu studenta a učitele viz moje pokrytí na odkaz zde a odkaz zde.

Na sociálních sítích se objevilo několik šílených přehnaných tvrzení Generativní AI tvrdí, že tato nejnovější verze AI je ve skutečnosti vnímající AI (ne, mýlí se!). Ti, kdo se zabývají etikou a právem umělé inteligence, mají z tohoto narůstajícího trendu rozšířených nároků značné obavy. Můžete zdvořile říci, že někteří lidé přeceňují, co dnešní umělá inteligence vlastně umí. Předpokládají, že umělá inteligence má schopnosti, kterých jsme dosud nebyli schopni dosáhnout. To je smůla. A co je ještě horší, mohou dovolit sobě i ostatním, aby se dostali do strašných situací, protože předpokládají, že AI bude vnímavá nebo podobná člověku, pokud jde o schopnost jednat.

Neantropomorfizovat AI.

Pokud tak učiníte, dostanete se do pasti lepkavé a zarputilé spoléhání se na očekávání, že AI bude dělat věci, které není schopna provést. Jak již bylo řečeno, nejnovější generativní AI je relativně působivá na to, co dokáže. Uvědomte si však, že existují významná omezení, která byste měli mít neustále na paměti při používání jakékoli generativní aplikace AI.

Prozatím poslední varování.

Cokoli vidíte nebo čtete v generativní odpovědi AI, že zdá se, chcete-li být předáváni jako čistě faktická (data, místa, lidé atd.), zůstaňte skeptičtí a buďte ochotni znovu zkontrolovat, co vidíte.

Ano, data se dají vymyslet, místa se dají vymyslet a prvky, u kterých obvykle očekáváme, že budou bez výčitek, jsou všechno předmětem podezření. Nevěřte tomu, co čtete, a při zkoumání jakýchkoli generativních esejů nebo výstupů umělé inteligence mějte skeptický pohled. Pokud vám generativní aplikace umělé inteligence řekne, že Abraham Lincoln letěl po zemi ve svém soukromém tryskáči, nepochybně byste věděli, že jde o malárii. Naneštěstí si někteří lidé možná neuvědomují, že tryskáče v jeho době nebyly, nebo by mohli vědět, ale nevšimli si, že esej toto drzé a nehorázně nepravdivé tvrzení uvádí.

Při používání generativní umělé inteligence bude vaším nejlepším přínosem silná dávka zdravé skepse a vytrvalá nedůvěra.

Jsme připraveni přejít do další fáze tohoto objasnění.

Co se děje s těmi psacími opicemi

Nyní, když máte zdání, co je generativní AI, můžeme prozkoumat srovnání s opicemi, které píšou. V jistém smyslu budu krok za krokem postupně rozebírat větu o opičím psaní. Dělám to proto, abych osvětlil podklady. Odhalené prvky pak můžeme použít k porovnání s generativní AI.

Věta nebo hypotéza o psaní opic obsahuje základní sadu prvků:

• a) Kdo nebo co. Identifikovaný tvor nebo herec provádějící psaní
• b) Počet a životnost. Kolik jich je a stav jejich dlouhověkosti
• c) Vydané symboly. Výroba písmen a známých symbolů pomocí základního zařízení
• d) Čas. Doba plnění úkolu
• e) Inteligence. Jakou důvtip přinášejí plnění úkolu
• f) Cílený výstup. Cílený výstup toho, co chceme, aby produkovali

Pojďme si nejprve prozkoumat píšící opice.

Možná si vzpomínáte, že jsem se na začátku této diskuse zmínil, že si máme představit, že opice píše na psacím stroji. Zmínil jsem se o základních konceptech, které zahrnují pouze jednu opici. Můžeme upravit tento aspekt.

Zde jsou způsoby, jak je situace často zobrazena:

• Jedna osamělá opice každodenní smrtelné existence
• Tisíc takových opic
• Milion takových opic
• Takových opic je nekonečné množství
• Osamělá opice, která je nesmrtelná
• Nějaký počet nesmrtelných opic
• Atd.

Všimněte si, že namísto toho, abychom měli pouze jednu opici, bychom mohli přepracovat myšlenkový experiment a mít mnoho opic, které pravděpodobně pracují současně. Dalším nastavitelným aspektem je dále to, zda jsou opice smrtelné nebo nesmrtelné. Okamžitě se v tom ponořím dále.

Musíme také zahrnout faktor času jako zásadní složku.

Obvykle je faktor času jedním z těchto dvou faktorů:

• Konečný časový úsek
• Nekonečný čas

Dalším poněkud nevyřčeným základním prvkem je, že se v tomto případě používají opice, protože je považujeme za relativně nemyslící. Neumějí číst ani psát. Nejsou schopni projevovat inteligenci stejným způsobem, jakým spojujeme inteligenci s lidskými schopnostmi.

To je poněkud urážlivé, když se nad tím trochu zamyslíte. Myslím, že se všichni můžeme rozumně shodnout na tom, že opice jsou úžasně chytré, alespoň na to, čeho mohou dosáhnout v rámci svých myšlenkových limitů. Troufnul bych si říci, že opicím připisujeme větší schopnost myšlení než mnoha jiným zvířatům. Existuje spousta usilovných výzkumných experimentů, které byly provedeny, aby ukázaly, jak mentálně ostré opice mohou být.

V každém případě se pro účely metafory předpokládá, že opice nejsou schopny myslet do té míry, že by si samy od sebe dokázaly představit Shakespearova díla. Kdežto klasický film Planeta opic snažil se nás předem varovat, že to může být chybný předpoklad, každopádně s tím v dnešním světě jdeme.

Pokud opice dosadíme za použití mravenců, metafora se poněkud rozplyne. Nechápeme mravence jako schopnost psát na psacích strojích. Mohli bychom zkusit nahradit používání psů nebo koček, protože uměli téměř psát na psacím stroji, ale nakonec je nejlepší použití opic, protože umí psát způsobem připomínajícím lidské psaní. Mají vhodné končetiny a stavbu těla, aby mohly vykonávat daný úkol. Také jsou mentálně považováni za schopné psát, i když předpokládáme, že nevědí, co píší.

Kromě toho, tam bylo mnoho výzkumných experimentů zahrnujících opice a jejich rozpoznávání symbolů. V těchto různých studiích byla zahrnuta nastavení, která opice psala na psacích strojích nebo podobných zařízeních. Pokud se to udělá správně, může to být smysluplné při hledání užitečných poznatků o inteligenci a vzniku inteligentního chování.

Bohužel, výzkum týkající se psaní na psacích strojích se občas neprovádí ve zvlášť vážném duchu. Občas nebyl použitý přístup ničím jiným než chabým přikývnutím na slavnou nebo nechvalně proslulou větu o psaní opic, spíše než na základní výzkum v dobré víře. Takové dovádění mi nepřipadá zábavné ani správné. Představa byla taková, že opice dostaly fyzicky psací stroje a byly povzbuzovány k psaní na základě jejich rozmaru nebo někdy kvůli pamlskům, jako je jídlo. Pokud to není provedeno v bona fide robustním experimentálním způsobem, není to nic jiného než fasáda.

Mírný obrat, který je příjemnější, spočívá v nastavení počítačových simulací, které mají za úkol provádět to, co by za těchto okolností mohly dělat opice. K simulaci těchto aspektů se používá počítač. Nejedná se o žádné skutečné opice. Někteří zašli dokonce tak daleko, že udělali trochu tzv občanská věda rozdělením simulace komukoli, kdo je ochoten dovolit, aby jejich laptop nebo počítač byly k tomuto úsilí použity. Nepodléhejte falešným podvodům, které zákeřně tvrdí, že to dělají pro vědu, i když ve skutečnosti se pokoušejí infikovat váš počítač počítačovým virem. Buď opatrný.

Zpět k věci.

Jedním z aspektů, který je pro tuto okolnost také důležitý, je, že v této hypotetické opici se používají psací stroje.

Proč psací stroje?

Protože tak se můžeme dostat k výrobě písmen, která se pak dají zformovat do slov, ze kterých se pak mohou tvořit příběhy. Stejná nebo podobná představa o vytváření mnoha písmen nutně nevyžaduje, abychom je psali. Ve skutečnosti existují varianty této metafory, které sahají až do dob Aristotela, a ergo tehdy ještě nebyly psací stroje.

Mohli bychom změnit metaforu a odkazovat na moderní klávesnice a počítače. Dalo by se říci, že opice bouchají do notebooku nebo možná i do chytrého telefonu. Krása odkazu na psací stroje je v tom, že si spojujeme psací stroje jako nepočítačové, a proto nepomáhají při samotném procesu psaní. To je zásadní pro příslušné vynalézavosti.

Nakonec jsme obvykle předkládáni aspektu, že mají vzniknout Shakespearova díla. Shakespeara bychom mohli snadno nahradit jakéhokoli jiného známého autora. Mohlo by se stát, že bychom chtěli vědět, zda opice mohou produkovat celá díla Charlese Dickense, Jane Austenové, Ernesta Hemingwaye a tak dále. Na tom zvlášť nezáleží. Podstatou je, že psaní musí být něco, co všichni známe a co uznáváme jako vynikající psaní.

Můžeme snadno nahradit jakýkoli text, který chceme nastavit jako cíl.

Pohodlí odkazu na Shakespeara spočívá v tom, že jeho díla jsou vykládána jako vrchol nebo vrchol lidského psaní. Místo toho bychom mohli najít esej napsanou žákem prvního stupně a ten použít jako cíl. Věřte tomu nebo ne, stále platí stejná pravidla. To, že opice dokázaly reprodukovat písmo dítěte, by asi lidi neinspirovalo. Aby věci zůstaly poutavé, musí být písmo toho nejvyššího kalibru.

Variantou cíleného výstupu by bylo odkazovat spíše na konkrétní Shakespearovo dílo než na celé jeho dílo. Jak brzy uvidíte, v hlavní podstatě věci to příliš nemění. Řekl bych, že mnoho lidí má tendenci zmiňovat Osada jako součást teorému o psaní opice, možná proto, že je to náhodou jeho nejdelší hra, dosahující velikosti 29,551 130,000 slov (složených z přibližně XNUMX XNUMX písmen).

Kterákoli jeho hra by stačila.

Celý vynález závisí na různých zákonech pravděpodobnosti. Možná jste se dozvěděli o nuancích pravděpodobností v těch vyčerpávajících hodinách statistiky a matematiky, které jste absolvovali ve škole.

Použijme slovo „Hamlet“, abychom viděli, co je zapotřebí k náhodnému vytvoření těchto šesti písmen v této specifické sekvenci Hamleta.

Nejjednodušší způsob, jak to aritmeticky vypočítat, spočívá v předpokladu, že máme snadné zaokrouhlené číslo počtu dostupných kláves na psacím stroji. Předpokládejme, že máme psací stroj, který má 50 odlišných a stejně použitelných kláves. Každá klávesa představuje určitý symbol, jako jsou symboly obvyklé anglické abecedy. Předpokládejme, že klíče jsou uspořádány v náhodném pořadí a že jsme situaci nezmanipulovali tím, že jsme jednotlivé klávesy Hamleta umístili do určitého uspořádání, abychom vynutili psaní těchto konkrétních klíčů více než jakékoli jiné klíče.

Každá klávesa je stisknuta zcela nezávisle na jakékoli klávese, která byla stisknuta před ní. Z těchto 50 kláves se tedy šance na stisknutí libovolné klávesy považují za šanci 1 z 50. Totéž platí pro všechny klávesy a po celou dobu psaní. Výpočet pro jednu stisknutou klávesu je šance 1 z 50, nebo to je 1/50.

Pravděpodobnost napsání písmene „H“ je pak 1/50 a pravděpodobnost napsání písmene „a“ je 1/50 a pravděpodobnost napsání písmene „m“ je 1/50 a tak dále.

To je:

• Pravděpodobnost napsání „H“ je 1/50.
• Pravděpodobnost napsání „a“ je 1/50.
• Pravděpodobnost napsání „m“ je 1/50.
• Pravděpodobnost napsání „l“ je 1/50.
• Pravděpodobnost napsání „e“ je 1/50.
• Pravděpodobnost napsání „t“ je 1/50.

Standardní pravidlo nebo zákon pravděpodobnosti říká, že pokud jsou dvě nebo více událostí na sobě zcela statisticky nezávislé, můžeme vypočítat pravděpodobnost, že se obě vyskytnou, jednoduše vynásobením jejich pravděpodobností navzájem. Můžeme tak učinit ohledně těchto šesti písmen.

Máme tento výpočet: „H“ (1/50) x „a“ (1/50) x „m“ (1/50) x „l“ (1/50) x „e“ (1/50) x "t" (1/50)

To je: (1/50) x (1/50) x (1/50) x (1/50) x (1/50) x (1/50)

Miniaturní číslo je 1/15,625,000,000 XNUMX XNUMX XNUMX.

Šance na zadání šestipísmenného slova „Hamlet“ je pak zhruba jedna ku 15 miliardám, všechny ostatní jsou stejné.

To jsou skličující šance. A to je pouze pro psaní konkrétního šestipísmenného slova. Zkuste použít stejný výpočet na 29,551 XNUMX slov celé Hamletovy hry. Pokud se rozhodnete toto vypočítat, uvědomte si také, že je třeba počítat s mezerami mezi slovy.

Čím delší je cílený výstup, tím větší je pravděpodobnost, že budeme schopni generovat tyto přesné sady písmen a slov. Šance jsou menší a menší. Šance jsou tak malé, že bychom skoro hodili ručník a řekli, že to vypadá, jako by se to „nikdy“ nestalo (buďte opatrní při používání slova „nikdy“, protože to je impozantní spor).

Vezměte si například smrtelnou opici.

Podle různých renomovaných internetových indikací se obvyklá délka života opice ve volné přírodě pohybuje kolem 40 let. Pokud chcete diskutovat o životnosti, můžeme použít číslo 100 a pokračovat s poněkud nepravděpodobnou horní hranicí. Opice, která nepřetržitě píše na psacím stroji řekněme sto let, nepočítaje v to čas na odpočinek, čas na jídlo a podobně, a za předpokladu, že je to vše, co opice dělala od okamžiku narození do posledního dechu, stále vyhrála. nepomůže vyrovnat šance psaní Osada vše řečeno (opice, pokud bude psát klíč každou sekundu nepřetržitě po 100 let, stiskne asi 3,155,673,600 XNUMX XNUMX XNUMX kláves).

Můžeme rozumně říci, že je nesmírně nepravděpodobné, že by smrtelná opice mohla skončit tak, že náhodně napíše hru. Osada.

Můžete zvýšit počet smrtelných opic, ale to jen málo pohne s převahou proti psaní Hamlet. Někteří předpokládají, že existuje tisíc opic. Jiný přístup říká, že existuje milion opic. Za předpokladu, že se všichni dožili 100 let a každý napsal jeden náhodný klíč na svém vlastním psacím stroji nepřetržitým tempem jeden klíč za sekundu, stále to nezpůsobuje statisticky pozoruhodnou trhlinu při psaní hry. Osada.

Přemýšlejte o tom všem.

Poněkud nadržený, kde přesně byste pro tento úkol ubytovali milion opic? Představte si také, že psací stroje musí vydržet sto let nepřetržitého používání (najdete milion fungujících psacích strojů, které nikdo nechce a není ochoten věnovat tomuto někdejšímu projektu?). Vypadá to, že byste potřebovali mít okamžitě připraveno spoustu náhradních psacích strojů. A tak dále. Logistika je ohromující.

To vše pak působí ponuře, že se smrtelné opice pravděpodobně nerozmnoží Osada.

Ale předpokládejme, že je uděláme nesmrtelnými. Ano, dáváme jim nějaký kouzelný lektvar, který je nechá žít navždy. Nepotřebujeme ani více než jednu nesmrtelnou opici. Stačí jeden. Mohlo by to udělat metaforu vzrušující tvrzením, že máme tisíc nebo milion nesmrtelných opic.

Pokud máme jednu opici, která může žít věčně, můžeme naznačit, že je to nekonečná opice. Může nekonečně dlouho bušit do kláves psacího stroje. Ta opice bude pořád jít a jít. V souladu s tím, i když šance na psaní hry Osada byly extrémně malé, aspekt, který opice bude neustále zkoušet, naznačuje, že v určitém okamžiku se hra Osada bude téměř jistě zapsáno.

Základním pravidlem je, že sled událostí, které mají nenulovou šanci, že se stanou, i když s výjimečně nízkou pravděpodobností, na kterých bychom se rozumně shodli, že téměř nastanou, pokud budeme mít nekonečně mnoho času na hraní. vše ostatní je stejné. Lidé v matematice a statistice mají sklon popisovat stejnou úvahu pomocí řetězců nebo dokonce binárních čísel 0 a 1. Pokud máte konečnou sadu symbolů a existuje jich nekonečný řetězec, přičemž každý symbol má byl vybrán jednotně náhodně, je tam konečný řetězec, jehož výskyt můžete téměř jistě předpokládat.

To vše má velký háček.

Žijeme ve světě omezeném. Zdá se, že nikdo z nás nemá k dispozici nekonečné množství času. Pro ty z vás, kteří říkají, že ano, čest. Můj klobouk před tebou smeká.

Pokud vnucujete konečný svět píšícím opicím, zjistíte, že narazíte na poměrně tvrdou zeď. Analýzy teorému o psaní opic do značné míry nabídnou, že pravděpodobnost dosažení hry Osada je dostatečně blízko k nule v konečném čase, že pro jakýkoli odůvodněný operační základ to prostě není pravděpodobné. Obvyklé zobrazení je, že pokud jste použili tolik opic, kolik je atomů ve známém vesmíru, a ony nepřestávaly psát po mnoho miliónů časů v časovém rozpětí vesmíru, stále se díváte na nepředstavitelně malinké, nevyzpytatelné šance, že uvidíte hrát si Osada.

Věta o opičím psaní je docela hovadina a často se řadí mezi sedm nejlepších myšlenkových experimentů naší doby. Jste vítáni, abyste provedli další kontrolu teorému, protože na internetu je k dispozici mnoho analýz. Je to živý a zábavný způsob, jak získat přehled o pravděpodobnosti a statistice. Namísto toho, abyste se zabývali výhradně suchými čísly, si představíte ty zábavné skotačící opice a všechny ty staromódní cvakavé psací stroje.

Nyní jsme připraveni vnést generativní AI do hlavolamu opic a psacích strojů.

Generativní umělá inteligence je rozčilena psacími opicemi

Předpokladem, který se chystáme podrobně prozkoumat, je sporné tvrzení, že generativní AI, jako je ChatGPT, se neliší od psaní opic. Říká se, že pokud ChatGPT nebo jakákoli generativní AI dokáže produkovat Osada nebo podobná známá díla, je to zcela náhodný výsledek, který s pravděpodobností pravděpodobně vznikl stejným způsobem, jakým by opice mohly dospět k psaní této dlouho ceněné a hluboce uctívané shakespearovské hry.

Promiňte, to je nesprávné uvažování o tomto závažném tématu.

Uvidíme proč.

Nejprve si zopakujeme a rozvedeme, z čeho se skládá generativní AI.

Připomeňme, že jsem již dříve uvedl, že generativní umělá inteligence je software, který zahrnuje použití algoritmů k trénování dat v textu, který existuje na internetu a prostřednictvím jiných podobných zdrojů. Široká škála porovnávání vzorů matematicky a výpočtově identifikovala vzory mezi miliony a miliony příběhů a esejů, které jsme my lidé složili.

Slova sama o sobě nemají žádný zvláštní význam. Představte si je jako předměty. V počítači jsou reprezentovány jako čísla, která označujeme jako tokeny. Používají se jako vhodný prostředek k vzájemnému přiřazování dalších slov nebo tokenů, a to v hloubkové a složitě statistické struktuře podobné webu.

Někteří v oblasti umělé inteligence se obávají, že nejde o nic jiného než o to, co se nazývá a stochastický papoušek.

Vidíte, spíše než se snažit spojit nějaké zdání „významu“ se slovy, místo toho se jedná pouze o rozsáhlé indexování slov, která se zdají být používána kolem jiných slov nebo vedle nich. Naproti tomu předpokládáme, že lidé mohou „rozumět“ podstatě a významu slov.

Zvažte svůj každodenní přístup k přítomnosti slovo-to-slovo korespondence. Podobně jako když používáte běžnou funkci automatického doplňování ve vašem textovém editoru, počítač matematicky počítá, že za konkrétním slovem obvykle následuje nějaké další konkrétní slovo, které je zase následováno dalším konkrétním slovem a tak dále. Často tedy můžete začít psát větu a balíček pro zpracování textu vám ukáže, jaká budou další slova věty.

Je to odhad, protože statisticky to mohou být obvyklá slova věty, ale můžete mít na mysli něco jiného, ​​​​co byste řekli, takže předpověď je mimo to, co jste chtěli napsat. Pravděpodobně existuje dostatek dalších příkladů vět, které používají tato slova, u nichž je algoritmus schopen odhadnout, že pravděpodobně budete chtít dokončit větu předpokládanými slovy. Tohle není železné. S tímto výpočetním odhadem také není spojen žádný „význam“.

Někteří výzkumníci umělé inteligence tvrdí, že k dosažení skutečné umělé inteligence se často používá jako Umělá všeobecná inteligence (AGI), budeme muset nějakým způsobem zakódovat do počítačů dosud objevenou nebo vynalezenou formu „porozumění“ (viz můj sloupek pro četné příspěvky o AGI a snaze o AGI). Obávají se, že mánie kolem generativní umělé inteligence není víc než slepá ulička. Budeme se i nadále snažit posouvat generativní umělou inteligenci dále a dále tím, že zvýšíme velikost výpočetních sítí a budeme do této záležitosti vrhat stále více výpočetního výkonu. To vše bude k ničemu, když přijde na AGI, tvrdí.

Další pochybností je, že nás možná tato honba za předpokládanou slepou uličkou odvádí od správného nebo správného postupu. Vynaložíme nesmírnou energii a úsilí k mylnému konečnému stavu. Jistě, generativní umělá inteligence může být ohromující v mimikry, ale mohlo by se stát, že to má s AGI jen málo nebo vůbec nic společného. Mohli bychom se oklamat, abychom plýtvali drahocenným soustředěním. Kvůli tomuto svůdnému rozptýlení bychom se mohli zpozdit nebo možná dokonce nedostat do AGI.

Každopádně, pro účely psaní opic, vraťme se k celkovému fracasu.

Musíme vzít v úvahu tyto významné faktory:

• 1) Vnímající versus necítící
• 2) Myšlení versus ne „přemýšlení“
• 3) Omezené procesy myšlení versus počítačové algoritmy a porovnávání vzorů
• 4) Neškolení nebo neschopní trénovat versus trénovaná výpočetní data

Pojďme se zabývat každým z těchto faktorů.

Sentient versus necitlivý

Věřím, že můžeme připustit, že opice jsou vnímající bytosti. Bez ohledu na to, jak inteligentní nebo nedostatečně inteligentní byste mohli chtít tvrdit, že jsou; jsou nepopiratelně vnímaví. To je fakt. Nikdo nemůže rozumně tvrdit jinak.

Dnešní umělá inteligence není vnímavá. Tečka, tečka.

Navíc tvrdím, že nejsme nikde blízko k AI sentience. Ostatní mohou samozřejmě nesouhlasit. Ale každý rozumný člověk by souhlasil s tím, že dnešní umělá inteligence není vnímavá. Pro moji analýzu propastně mylného označení AI sentience tímto inženýrem Google v loňském roce viz moji diskusi na odkaz zde.

Takže jeden zásadní rozdíl mezi těmi dychtivě píšícími opicemi a dnešní generativní AI je ten, že opice jsou vnímající bytosti, zatímco AI nikoli. Kromě toho je často skluzavka začít srovnávat dnešní AI s čímkoli rozumným. Existuje tendence k antropomorfizaci AI. Důrazně žádám, abychom se pokusili zabránit tomu, aby nás tato snadná mentální past postihla, vyhnuli jsme se jakémukoli srovnávání mezi AI a vnímajícími bytostmi, pokud nejsme nad věcí a jasně explicitně neidentifikujeme a nevymezíme tento rozdíl.

Jen málokdo, pokud vůbec někdo, dělá toto vymezení při porovnávání opic a generativní umělé inteligence. Předpokládají, že si buď již uvědomíte, že existuje tento rozdíl, nebo je jim to, že existuje rozdíl, jedno, nebo o tom nepřemýšleli atd.

Myšlení versus ne „myšlení“

Řekl bych, že opice umí myslet. Jsou to myslící bytosti. Můžeme snadno diskutovat o tom, kolik myšlení mohou udělat. Téměř jistě však musíte souhlasit s tím, že opice mohou myslet.

Dnešní AI všeho druhu, včetně generativní AI, nedosahuje toho, co považuji za lidskou kapacitu myslící.

Zopakuji svůj právě zmíněný refrén související s sentience. Je zavádějící a já tvrdím, že je špatné, když říkám, že dnešní umělá inteligence umí myslet. Je smutné, že to lidé dělají neustále, včetně výzkumníků AI a vývojářů AI. Věřím, že je to opět nešťastné a nepromyšlené antropomorfizace. Dáváte AI zdání kapacity nebo schopností, které zde nejsou a které o této záležitosti dezinformují společnost jako celek. Přestaň to dělat.

Generativní umělá inteligence je složitá webová struktura s matematickými a výpočetními vlastnostmi. Je to obdivuhodné. To, čeho se tím dosáhlo, je sranda. Nevěřím žádné rozumné interpretaci „myšlení“, jak si jej představujeme, v celé své kráse, jak se na tuto AI hodí.

Omezené procesy myšlení versus počítačově založené algoritmy a porovnávání vzorů

Opice jsou omezené ve svých myšlenkových procesech.

Možná vás bude zajímat, že ve vědecké literatuře existuje mnoho srovnání opicích mozků s mozky lidí. Vezměme si například tuto výzkumnou studii: „Lidský mozek je asi třikrát větší než mozek našeho nejbližšího žijícího příbuzného, ​​šimpanze. Navíc část mozku zvaná mozková kůra – která hraje klíčovou roli v paměti, pozornosti, vědomí a myšlení – obsahuje dvakrát více buněk u lidí než stejná oblast u šimpanzů. Sítě mozkových buněk v mozkové kůře se u těchto dvou druhů také chovají odlišně“ (v článku publikovaném v eLife, září 2016, s názvem „Rozdíly a podobnosti mezi lidskými a šimpanzími neurálními progenitory během vývoje mozkové kůry“).

Všichni si uvědomujeme, že opice nejsou na stejné úrovni jako lidské myšlení. Tato podivuhodná stvoření dokážou být roztomilá a dokážou překvapivě hodně přemýšlet, o tom není pochyb. Jen se nedostanou na úroveň lidského myšlení. Až opice ovládnou lidstvo, budu litovat.

Už jsem se před chvílí vyjádřil, že dnešní AI nemyslí. Zdůraznil jsem, že to, co dělá umělá inteligence, by nemělo být označeno jako „myšlení“, protože to je zavádějící a matoucí.

Zde generativní umělá inteligence převyšuje opice, pokud jde o používání počítačového zpracování založeného na algoritmech navržených lidmi a založené na písemnostech vytvořených lidmi. Je malá nebo žádná šance, že by myslící opice mohla absorbovat a přizpůsobit se rozsáhlému používání psaných symbolů, se kterými lidé přišli. Opice nemají takovou schopnost myšlení.

Vzhledem k mým dalším vyjádřeným výtkám váhám navrhnout takové srovnání. Jasně však uvádím, jaké jsou předpoklady a jak správně a vhodně provést tuto analýzu.

Netrénovaný nebo neschopný trénovat versus výpočetně trénovaná data

Podobně jako jsem právě řekl, nebudete schopni vycvičit myslící opici v rozsáhlém používání psaných symbolů lidstva. Můžete to udělat na extrémně omezeném základě a studie ukázaly, že opice mohou zdánlivě přemýšlet o psaných symbolech. To je mnohem méně než schopnost zapamatovat si a zpětně zopakovat rozsáhlé vzorce slov, vět a celých vyprávění.

Generativní umělá inteligence je počítačově založená statistická mimika, kterou lze trénovat pomocí výpočetních dat. Pokud budeme neustále přidávat další data, jako jsou další texty, které shromažďujeme nebo najdeme, předpokládáme a doufáme, že nalezené vzory budou stále hlubší a hlubší. Navíc použití stále rychlejších počítačových čipů a zpracování také posílí tuto schopnost porovnávání vzorů a odezvy.

Při Pohledu Na Spodní linii

Pokud by hru vytvořila generativní AI Osada,co by to znamenalo?

Nejprve musíme zvážit, zda příběh nebo hra byly či nebyly vloženy do generativní umělé inteligence v době trénování dat. Pokud ano, není na generativní AI nic zvlášť pozoruhodného nebo pozoruhodného, ​​když později vypustí stejná slova, která předtím naskenovala.

Výzkumník umělé inteligence by mohl být trochu zděšen, protože porovnávání vzorů pravděpodobně přehnalo, protože si slova v podstatě zapamatoval. Obvykle to nazýváme v oblasti strojového učení jako přepastování na data, která byla použita při školení. Obvykle nechcete, aby byla vzorována přesná slova, chcete, aby se vytvořil zobecněný vzor.

Ve svých sloupcích jsem diskutoval o obavách, že občas můžeme zaznamenat narušení soukromí a odhalení důvěrných dat v případech, kdy generativní umělá inteligence provedla přesné párování spíše než zobecněné párování dodávaných dat, viz mé pokrytí na odkaz zde.

Za druhé, předpokládejme, že hra Osada nebyla přiváděna do generativní AI. Další úvahou by pak bylo, zda bylo nějaké Shakespearovo dílo naskenováno během tréninku dat.

Pokud ano, lze si představit, že hra Osada by mohly být vytvořeny na základě vzorů spojených s jinými Shakespearovými díly, zejména pokud existují jiné odkazy nebo zmínky o Osada jinde v trénovací sadě dat. Všechny z nich by mohly být potenciálně využity porovnáváním vzorů pro vytvoření stylu Osada. Nutno přiznat, že umět generovat Osada slovo od slova by byl široký dosah, značně otevřený a překvapivý výsledek.

Za třetí, pokud by generativní umělá inteligence produkovala celé Osada a nikdy předtím nebyl krmený vůbec ničím o Shakespearovi, no, to by bylo udivující. Nebylo by to však nutně úplně stejné jako čistě náhodná povaha klování do kláves na psacím stroji. Musíme si uvědomit, že slova Shakespeara jsou slova, takže jsou součástí souhrnu formulací, které se nacházejí v obrovském množství textových příběhů a vyprávění vkládaných do generativní umělé inteligence. Zlepšujete šance tím, že začnete se základním kamenem slov a asociací mezi slovy. Přesto je šance, že se něco takového stane, velmi malá.

Proč investovat do čističky vzduchu?

Pokud jde o vytváření slov a esejů, generativní umělá inteligence se stává gangbustery, protože je založena na lidsky vymyšlených slovech a esejích (samozřejmě se musíme přímo vypořádat s chybami, nepravdami a halucinacemi AI). AI „nerozumí“ vydávaným slovům. Žádný tam není.

Nemusíte čekat nekonečnou dobu, abyste viděli plynulé eseje a plně čitelné výstupy. Stávají se denně a pouhým stisknutím tlačítka. Nejsou zpřeházené, alespoň ne většinou, protože jsou vytvořeny na základě toho, co lidé napsali. Shoda vzorů by měla být dále doladěna a nakonec dostatečně dobrá, aby zeštíhlila většinu podivných slov, viz moje vysvětlení, jak by to mohlo fungovat, na odkaz zde. Toto ladění bude neustále vylepšováno a všichni budeme stále více uchváceni tím, co generativní AI produkuje.

Slova nejsou zvolena čistě náhodně. Slova nejsou čistě náhodně napsána. Existují určité pravděpodobnostní aspekty, například při generování výstupní eseje, která slova vybrat. Ale to je stále založeno na lidských spisech, a proto pravděpodobně ne čistě náhodně. Je založen na náhodném výběru mezi hrstkou nebo určitým počtem možností formulace, které by jinak mohly být všechny statisticky proveditelné jako další zvolené slovo nebo množina slov.

Kde do toho zapadají opice?

Tyto opice na psaní jsou jistě atraktivní jako základ pro srovnání s generativní AI. Produkce opic Osada versus generativní produkce AI Osada. To je strhující soutěž. Možná si řeknete, že ve skutečnosti vůbec žádná soutěž není. Umělá inteligence, která byla vyvinuta lidstvem a je založena na lidských spisech, má v tomto ohledu nespravedlivou výhodu.

Když už mluvíme o psaní opic, v epizodě Simpsonovi, se pan Burns rozhodne najmout opice, aby pokračovaly v psaní na psacích strojích jako součást kanceláře pro psaní na stroji. Je to ten druh hašteřivého šéfa, který by radostně tíhl k používání opic při své potřebné kancelářské práci před využíváním lidí, kdyby to mohl udělat.

Fanoušci show si možná pamatují, co se stalo.

Pan Burns popadne jednu z napsaných stránek a čte se zaníceným očekáváním, co opice napsala. Přečte stránku nahlas a říká: „Byly to nejlepší časy, to bylo vybuchnout of times“ (tj. existuje jedno slovo, které je zmatené, „blurst“ nebo něco podobného). Úplně se rozzuří a naprosto zklame těmi „hloupými opicemi“, co dokážou vyprodukovat.

Víme, že kdyby opice napsala tu část knihy Charlese Dickena „A Tale Of Two Cities“, měli bychom být u vytržení a skákat radostí. Ne tak pro pana Burnse.

Jako poslední komentář k této diskusi bychom možná měli použít celou větu, kterou napsal Charles Dickens: „Byly to nejlepší časy, byly to nejhorší časy, byl to věk moudrosti, byl to věk pošetilosti. byla epocha víry, byla to epocha nedůvěry, bylo to období světla, bylo to období temnoty, bylo to jaro naděje, byla to zima zoufalství."

Nejsme si úplně jisti, kam s AI míříme. Někteří říkají, že to bude nejlepší věc od krájeného chleba. Jiní varují, že AI, kterou vyrábíme, bude existenčním rizikem pro přežití lidstva. Je to skutečně buď nejlepší časy, nebo nejhorší časy.

Nebuďte překvapeni, když uvidíte generativní umělou inteligenci vydávat právě tato slova. Nechte se překvapit, když v zoo náhodou uvidíte opice, které náhodou píšou na psacích strojích a dokážou napsat stejná bystrá slova.

Prosím, dejte mi vědět, pokud uvidíte, že se to stalo.

Jsem ochoten čekat dlouho, než k tomu dojde, ale pravděpodobně ne do nekonečna.