Etika umělé inteligence a téměř rozumná otázka, zda lidé přežijí umělou inteligenci

Mám na vás otázku, která, jak se zdá, v těchto dnech sbírá mnoho rukou a vzrušených debat.

Jste připraveni?

Přežijí lidé AI?

Přemýšlejte o tom.

Rozbalím otázku a podrobně prozkoumám odpovědi a to, jak byly odpovědi objasněny. Mým primárním záměrem je upozornit na to, jak jsou otázka samotná a okolní diskurz nevyhnutelně a neúprosně zakořeněny v AI etika.

Těm, kteří si odmítavě myslí, že otázka je ze své podstaty nezodpověditelná nebo je to ztráta času a dechu, bych zdvořile navrhl, že pokus o zodpovězení otázky vyvolává některé zásadní úvahy o etice umělé inteligence. Takže, i když chcete tuto otázku okamžitě odmítnout jako možná absurdní nebo nerealistickou, říkám, že stále vyvolává určitou hodnotu jako prostředek nebo mechanismus, který podtrhuje etické zásady umělé inteligence. Mé průběžné a rozsáhlé pokrytí etiky AI a etické AI viz odkaz zde a odkaz zde, Abychom jmenovali jen několik.

S výše uvedenou premisou mi prosím dovolte znovu zopakovat spornou otázku a dovolit našim myslím, aby se potulovaly po významu otázky.

Přežijí lidé AI?

Pokud vám tato konkrétní fráze není příjemná, můžete otázku přeformulovat a zeptat se, zda AI přežije lidi. Nejsem si jistý, jestli to usnadňuje odpověď na otázku, ale možná se to zdá méně znepokojující. Říkám to proto, že představa, že umělá inteligence přežije lidi, se může zdát trochu neškodnější. Skoro by to bylo, jako bych se vás zeptal, zda velké budovy a monumenty vytvořené lidmi mohou přežít lidstvo.

To se jistě zdá proveditelné a nijak zvlášť hrozivé. Tyto velké věci děláme v průběhu našich životů a podobně jako pyramidy, tyto mocné stavby přežijí ty, kteří je vytvořili. To se samozřejmě nerovná přetrvávání po konci lidstva, protože lidé jsou stále zde. Nicméně se zdá docela logické a možné, že struktury, které vytvoříme, by mohly přežít naši existenci.

Pozoruhodný rozdíl však spočívá v tom, že různé stavby, jako jsou vysoké mrakodrapy a slavné sochy, nejsou živé. Jsou inertní. Naproti tomu, když se ptáte na AI, předpokládá se, že AI je v podstatě „živá“ v tom smyslu, že má určitou formu inteligence a je schopna jednat způsobem, jakým to dělají lidé. To je důvod, proč je otázka delšího života skličující, ohromující a celkově je to hádanka, která stojí za to si lámat hlavu.

Ve všech svých poznámkách se budu držet otázky, která je formulována, zda lidé přežijí AI. To je jen kvůli diskusi a snadnému rozjímání. Nemám na mysli žádnou neúctu k alternativní otázce, zda AI přežije lidi. Celkově vzato, tato analýza pokrývá obě formulace a já jen náhodou zjišťuji, že otázka, zda lidé přežijí AI, se v těchto ožehavých záležitostech zdá roztomilejší.

Dobře, zeptám se znovu:

Zdá se, že máte dvě možné odpovědi, buď železné ano, lidé přežijí AI, nebo můžete být na druhé straně mince a vroucně trvat na tom, že ne, lidé AI nepřežijí. Tato vznešená a úzkostí ovládaná otázka se tedy scvrkává na přímočaré vyjádření buď ano, nebo ne.

Vyberte si.

Uvědomuji si, že mazaná odpověď je, že neplatí ani ano, ani ne.

Slyším Tě.

I když se otázka jistě zdá být zodpovědná pouze výrazně binárně, totiž jen ano nebo ne, připouštím, že lze rozumně vznést protiargument, že odpověď je něco jiného.

Pojďme stručně prozkoumat některé základy, proč nechceme na tuto otázku pouze říkat ano nebo ne.

Za prvé, můžete odmítnout slovo „přežít“ v kontextu položené otázky.

Tato konkrétní formulace možná naznačuje, že AI je naživu. Otázka nezněla „přežít“ a místo toho se ptá, zda lidé přežijí AI. Vztahuje se outlive pouze na lidskou část otázky, nebo se vztahuje i na AI část otázky? Někteří by se pokusili tvrdit, že přežitá aura platí i pro část AI. V takovém případě by je pálila žáha z toho, že by řekli, že AI je živá bytost. Pro ně bude AI podobná vysokým budovám a dalším strukturám. Není naživu stejným způsobem, jako jsou živí lidé.

Z tohoto horlivého protikladného hlediska je tedy otázka nesprávně formulována.

Možná jste matně obeznámeni s otázkami, které mají nepravdivé nebo zavádějící předpoklady. Jedním z nejznámějších příkladů je, zda někdo přestane bít svou manželku (staré přísloví, které je samozřejmě potřeba nechat stranou). Pokud je v tomto nechvalně známém příkladu uvedena odpověď ano, znamená to, že daná osoba tak již činila. Pokud řeknou ne, znamená to, že tak činili a budou v tom pokračovat.

V případě, že se ptáme, zda lidé přežijí AI, můžeme skončit pohřbeni v bahně o tom, zda je AI považována za něco jako živoucí stránku. Jak za chvíli vysvětlím, dnes nemáme žádnou AI, která by byla vnímavá. Myslím, že většina rozumných lidí by souhlasila s tím, že necítící umělá inteligence není živá bytost (no, ne každý s tím souhlasí, ale prozatím podmíním – viz moje pokrytí právnické osoby pro umělou inteligenci na odkaz zde).

Podstatou tohoto prvního základu pro neodpovědi na otázku, zda lidé přežijí AI, je to, že slovo „přežít“ by se dalo vyložit tak, že AI je naživu. Zatím nemáme podobnou AI. Pokud vytvoříme nebo nějakým způsobem vytvoříme vnímající umělou inteligenci, která vznikne, těžko byste mohli tvrdit, že není živá (ačkoli se někteří pokusí o takový argument). Klíčové tedy je, že otázka předpokládá něco, co neexistuje, a my pouze spekulujeme o neznámé a mlhavě vyhlížející budoucnosti.

Můžeme vzít tento nepořádek a snažit se jej rozšířit do výraznějšího výrazu. Předpokládejme, že se místo toho ptáme na toto:

• Přežijí lidé jako živé bytosti AI, která je buď (1) neživá, nebo (2) živá bytost, pokud k tomu jednoho dne dojde?

Mějte toto rozšířené znění na paměti a brzy se k němu vrátíme.

Druhým důvodem, proč nechceme odpovědět na původní otázku, zda lidé přežijí AI, je to, že předpokládá, že jedna z věcí přežije jednu z ostatních věcí. Předpokládejme však, že oba žijí v podstatě věčně? Nebo předpokládejme, že obě vyprší nebo zaniknou ve stejnou dobu?

Jsem si jist, že dokážete snadno rozpoznat, jak to způsobuje, že se formulace ano-ne-ne rozpadá.

Zdá se, že potřebujeme možnou třetí odpověď sestávající z „ani“ nebo podobné odpovědi.

Existuje spousta permutací souvisejících s „ani jedním“. Pokud například někdo pevně věří, že lidé se zničí prostřednictvím AI, a zároveň se lidem podaří zničit AI, tento věřící nemůže upřímně odpovědět na otázku, která přežije toho druhého, neflexibilní odpovědí ano nebo ne. Odpověď v tomto poněkud hanebném a smutném případě by byla spíše v duchu toho, že ani jeden nepřežije toho druhého.

Totéž by platilo, kdyby na Zemi zasáhl obrovský meteor a vyhladil vše na planetě, včetně lidí a jakékoli umělé inteligence, která se náhodou nachází v okolí (za předpokladu, že jsme všichni omezeni na Zemi a nežijeme již navíc na Marsu). Odpověď „ani jedno“ se opět zdá výstižnější než tvrzení, že lidé přežili AI nebo že AI přežila lidi (protože byli oba zničeni ve stejnou dobu).

Nechci zde zacházet příliš daleko, ale také bychom mohli chtít stanovit nějaké parametry o načasování přežití. Předpokládejme, že na Zemi zasáhne meteor a lidé budou téměř okamžitě vyhlazeni. Mezitím předpokládejme, že AI bude chvíli pokračovat. Představte si to, jako bychom mohli mít v továrnách již rozběhnuté stroje, které neustále hučí, dokud se stroje nakonec nezastaví, protože nejsou žádní lidé, kteří by udržovali stroje v provozu.

Museli byste říci, že tyto stroje přežily nebo přežily lidi. Proto je odpověď „ne“, pokud jde o to, zda lidé přežili déle. Ta odpověď se zdá útržkovitá. Stroje se postupně a neúprosně zastavily, pravděpodobně kvůli nedostatku lidstva kolem nich. Zdá se spravedlivé tvrdit, že stroje byly schopny vydržet déle než lidé?

Pravděpodobně jen těm, kteří jsou vybíraví a chtějí být vždy až dráždivě precizní.

K otázce bychom pak mohli přidat nějaký prvek související s časem. Přežijí lidé AI déle než jeden den? Na více než měsíc? Více než rok? Po více než století? Uvědomuji si, že to bohužel otevírá Pandořinu skříňku.

Jaký je přijatelný časový rámec, po kterém bychom byli ochotni připustit, že AI ve skutečnosti přežila nebo přežila lidi? Přesná odpověď se zdá být taková, že i když se to stane na nanosekundu (miliardtinu sekundy) nebo kratší, AI celkově vyhraje a lidé v této záležitosti prohrají. Povolit zeměpisnou šířku pomocí dne, týdne nebo měsíce by se možná mohlo zdát spravedlivější. Nechat to pokračovat roky nebo staletí se zdá být přehnané. Jak již bylo řečeno, podíváte-li se na svět v měřítku milionů let, myšlenka, že AI přežije nebo přežije lidi nanejvýš několik století, se zdá být pozoruhodně nevýrazná a mohli bychom prohlásit, že obě zanikly zhruba v ve stejnou dobu (zaokrouhleně).

Každopádně připusťme, že z různých rozumných důvodů může mít položená otázka tři možné odpovědi:

• Ano, lidé přežijí AI
• Ne, a tak tvrdí, že lidé budou ne přežít AI
• Neplatí ani ano, ani ne (vyžaduje se vysvětlení, chcete-li)

Zmínil jsem se, že pokud zvolíte „ani jedno“, měli byste svou odpověď také vysvětlit. To proto, abychom věděli, proč se domníváte, že „ani jedno“ neplatí, a také proč odmítáte použití ano nebo ne. Aby byl život spravedlivější pro všechny, předpokládám, že bychom měli do jisté míry trvat nebo alespoň povzbuzovat, že i když odpovíte ano nebo ne, měli byste nabídnout vysvětlení. Poskytnutí jednoduchého ano nebo ne nijak zvlášť neodhalí vaši logiku, proč odpovídáte tak, jak jste. Aniž bychom poskytli vysvětlení, mohli bychom si také hodit mincí. Mince neví, proč přistála na hlavách nebo ocasech (pokud nevěříte, že mince má duši nebo ztělesňuje nějakou vševědoucí ruku osudu, ale tím se prozatím zabývat nebudeme).

Očekáváme, že lidé, kteří odpovídají na otázky, poskytnou nějaké vysvětlení pro svá rozhodnutí. Všimněte si, že neříkám, že vysvětlení budou nutně logické nebo rozumné povahy a vysvětlení by skutečně mohlo být zcela prázdné a nepřidávalo žádnou zvláštní hodnotu. Nicméně můžeme upřímně doufat, že vysvětlení bude osvětlující.

Během této diskuse se objevil nevyslovený předpoklad, že z toho či onoho důvodu jedna z těchto věcí skutečně přežije tu druhou.

Proč máme věřit takové implikované podmínce?

Odpověď na tuto sekundární otázku je téměř samozřejmá.

Tady je dohoda.

Víme, že někteří prominentní věštci a intelektuálové učinili poměrně odvážné a otevřené předpovědi o tom, jak vznik nebo příchod vnímající umělé inteligence radikálně změní svět, jak jej dnes známe (připomínáme, že dnes vnímající umělou inteligenci nemáme) .

Zde je několik známých citátů, které zdůrazňují dopady vnímající umělé inteligence, které mění život:

• Stephen Hawking: "Úspěch ve vytvoření umělé inteligence by byl největší událostí v historii lidstva."
• Ray Kurzweil: „Během několika desítek let strojová inteligence překoná lidskou inteligenci, což povede k Singularitě – technologické změně tak rychlé a hluboké, že představuje trhlinu ve struktuře lidské historie.
• Nick Bostrom: „Strojová inteligence je posledním vynálezem, který lidstvo kdy bude muset udělat.“

Tyto spory jsou transparentně optimistické.

Jde o to, že bychom měli vzít v úvahu také ošklivé podbřišníky, pokud jde o jednání s vnímavou AI:

• Stephen Hawking: "Vývoj plné umělé inteligence by mohl znamenat konec lidské rasy."
• Elon Musk: „Stále se přikláním k názoru, že by měl existovat nějaký regulační dohled, možná na národní a mezinárodní úrovni, jen abychom se ujistili, že neuděláme něco velmi pošetilého. Myslím tím, že s umělou inteligencí vyvoláváme démona."

Očekává se, že vnímající AI bude tím pověstným tygrem, kterého jsme chytili za ocas. Vystřelíme lidstvo raketově kupředu díky využití vnímavé umělé inteligence? Nebo si hloupě způsobíme vlastní zánik vnímající AI, která se nás rozhodne zničit nebo zotročit? Pro moji analýzu tohoto hlavolamu s dvojím použitím AI viz odkaz zde.

Základní pochybnost o tom, zda lidé přežijí umělou inteligenci, spočívá v tom, že možná vyrábíme Frankensteina, který se rozhodne vymýtit lidstvo. AI se stává vítězem. Existuje mnoho možných důvodů, proč by nám to AI dělala. Možná je AI zlá a podle toho se chová. Možná má AI dost lidí a uvědomí si, že má moc zbavit se lidstva. Člověk předpokládá, že k tomu mohlo dojít i omylem. AI se snaží zachránit lidstvo a přitom nás všechny přímo zabije. Alespoň motiv byl čistý.

Možná vás bude zajímat slavný hlavolam s umělou inteligencí známý jako problém kancelářských sponek, o kterém jsem se zmínil odkaz zde.

Stručně řečeno, jednou vnímající AI je požádána, aby vyrobila kancelářské sponky. AI je na to fixovaná. Aby bylo zajištěno, že výroba kancelářské sponky bude plně provedena do posledního stupně, AI začne spolykat všechny ostatní planetární zdroje, aby tak učinila. To vede k zániku lidstva, protože umělá inteligence spotřebovala všechny dostupné zdroje pro jediný cíl, který jí dali lidé. Kancelářské sponky způsobují naši vlastní destrukci, chcete-li. Umělá inteligence, která je úzce navržena a postrádá jakékoli zdání zdravého rozumu, je druhem umělé inteligence, na kterou musíme být obzvláště opatrní.

Než se vrhneme dále na otázku, zda lidé přežijí AI, všimněte si, že stále zmiňuji otázku vnímající AI versus necítící AI. Činím tak ze závažných důvodů.

O vnímavé AI můžeme divoce spekulovat. Nikdo s jistotou neví, co to bude. Nikdo nemůže s jistotou říci, zda jednoho dne dosáhneme vnímavé AI. V důsledku této neznámé a dosud nepoznané okolnosti lze odvodit téměř jakýkoli scénář. Někdo může říct, že vnímající AI bude zlo. Někdo může říct, že vnímající AI bude dobrá a benevolentní. Můžete pokračovat dál a dál, přičemž nelze poskytnout žádný „důkaz“, který by dané tvrzení doložil k jakékoli jistotě nebo ujištění.

Tím se dostáváme do oblasti etiky umělé inteligence.

To vše také souvisí se střízlivě se objevujícími obavami o dnešní umělou inteligenci a zejména využívání strojového učení (ML) a hlubokého učení (DL). Víte, existují použití ML/DL, která mají tendenci zahrnovat antropomorfizaci AI širokou veřejností, věříc nebo rozhodnutí předpokládat, že ML/DL je buď vnímající AI, nebo blízko (není).

Mohlo by být užitečné nejprve objasnit, co mám na mysli, když mluvím o AI celkově, a také poskytnout stručný přehled o strojovém učení a hlubokém učení. Existuje velký zmatek v tom, co umělá inteligence znamená. Rád bych vám také představil zásady etiky umělé inteligence, které budou zvláště nedílnou součástí zbytku tohoto diskurzu.

Uvedení rekordu o AI

Ujistíme se, že jsme na stejné stránce ohledně povahy dnešní umělé inteligence.

Dnes neexistuje žádná AI, která by byla vnímavá.

Tohle my nemáme.

Nevíme, zda bude vnímající AI možná. Nikdo nemůže výstižně předpovědět, zda dosáhneme vnímající AI, ani zda se vnímající AI nějakým zázrakem spontánně objeví ve formě výpočetní kognitivní supernovy (obvykle označované jako The Singularity, viz moje zpravodajství na odkaz zde).

Uvědomte si, že dnešní umělá inteligence není schopna „myslet“ žádným způsobem na stejné úrovni jako lidské myšlení. Když komunikujete s Alexou nebo Siri, konverzační schopnosti se mohou zdát podobné lidským schopnostem, ale skutečnost je taková, že jsou výpočetní a postrádají lidské poznání. Nejnovější éra umělé inteligence široce využívá strojové učení a hluboké učení, které využívají porovnávání výpočetních vzorů. To vedlo k systémům umělé inteligence, které vypadají jako lidské sklony. Mezitím dnes neexistuje žádná umělá inteligence, která by měla zdání zdravého rozumu, ani žádný z kognitivních úžasů robustního lidského myšlení.

Součástí problému je naše tendence k antropomorfizaci počítačů a zejména AI. Když se zdá, že počítačový systém nebo umělá inteligence jedná způsobem, který si spojujeme s lidským chováním, existuje téměř zdrcující nutkání připsat systému lidské vlastnosti. Je to běžná mentální past, která dokáže chytit i toho nejneústupnějšího skeptika ohledně šancí dosáhnout rozumu. Pro mou podrobnou analýzu takových záležitostí viz odkaz zde.

To je do určité míry důvod, proč je etika a etická umělá inteligence tak zásadním tématem.

Předpisy etiky AI nás nutí zůstat ostražití. Technologové umělé inteligence mohou být občas zaneprázdněni technologií, zejména optimalizací špičkových technologií. Nezbytně nezvažují větší společenské důsledky. Mít etiku AI a dělat to nedílně pro vývoj a nasazení AI je životně důležité pro vytváření vhodné AI, včetně posouzení toho, jak je etika AI přijata firmami.

Kromě toho, že obecně používáme etické zásady AI, existuje odpovídající otázka, zda bychom měli mít zákony, které by řídily různá použití AI. Na federální, státní a místní úrovni se šíří nové zákony, které se týkají rozsahu a povahy toho, jak by měla být umělá inteligence navržena. Snaha navrhnout a přijmout takové zákony je postupná. Etika umělé inteligence slouží přinejmenším jako zvažovaná překážka a téměř jistě bude do určité míry přímo začleněna do těchto nových zákonů.

Uvědomte si, že někteří neústupně tvrdí, že nepotřebujeme nové zákony, které pokrývají AI, a že naše stávající zákony jsou dostatečné. Varují, že pokud uzákoníme některé z těchto zákonů AI, zabijeme zlatou husu tím, že potlačíme pokroky v AI, které nabízejí obrovské společenské výhody.

V předchozích sloupcích jsem pokryl různé národní a mezinárodní snahy o vytvoření a uzákonění zákonů regulujících umělou inteligenci, viz odkaz zde, například. Zabýval jsem se také různými principy a směrnicemi etiky AI, které různé národy identifikovaly a přijaly, včetně například úsilí OSN, jako je soubor etiky AI UNESCO, který přijalo téměř 200 zemí, viz. odkaz zde.

Zde je užitečný základní seznam etických kritérií nebo charakteristik AI systémů AI, které jsem dříve podrobně prozkoumal:

• Průhlednost
• Spravedlnost a férovost
• Neškodlivost
• Odpovědnost
• Ochrana osobních údajů
• Dobročinnost
• Svoboda a autonomie
• Věřte
• udržitelnost
• Důstojnost
• Solidarita

Předpokládá se, že tyto principy etiky AI budou vážně využívat vývojáři AI spolu s těmi, kteří řídí úsilí o vývoj AI, a dokonce i ti, kteří nakonec používají a provádějí údržbu systémů AI. Všechny zúčastněné strany během celého životního cyklu vývoje a používání AI jsou posuzovány v rámci dodržování zavedených norem etické AI. To je důležité upozornit, protože obvyklý předpoklad je, že „pouze kodéři“ nebo ti, kteří programují AI, podléhají dodržování etických pojmů AI. Jak bylo zdůrazněno výše, k vymýšlení a nasazení umělé inteligence je zapotřebí vesnice, přičemž celá vesnice musí být zběhlá a dodržovat etické předpisy AI.

Nechme věci při zemi a zaměřme se na dnešní výpočetní necítící AI.

ML/DL je forma porovnávání výpočetních vzorů. Obvyklý přístup je takový, že shromažďujete data o úloze rozhodování. Data vkládáte do počítačových modelů ML/DL. Tyto modely se snaží najít matematické vzorce. Po nalezení takových vzorů, pokud jsou nalezeny, systém umělé inteligence tyto vzory použije, když narazí na nová data. Po předložení nových dat se pro vykreslení aktuálního rozhodnutí použijí vzory založené na „starých“ nebo historických datech.

Myslím, že můžete hádat, kam to směřuje. Pokud lidé, kteří se rozhodovali podle vzoru, začlenili nežádoucí předsudky, je pravděpodobné, že data to odrážejí jemnými, ale významnými způsoby. Počítačové porovnávání vzorů Machine Learning nebo Deep Learning se jednoduše pokusí odpovídajícím způsobem matematicky napodobit data. Neexistuje žádné zdání zdravého rozumu nebo jiných vnímavých aspektů modelování vytvořeného umělou inteligencí jako takového.

Kromě toho si vývojáři AI nemusí uvědomit, co se děje. Tajemná matematika v ML/DL může ztížit odhalení nyní skrytých předsudků. Oprávněně byste doufali a očekávali, že vývojáři umělé inteligence budou testovat potenciálně pohřbené předsudky, i když je to složitější, než by se mohlo zdát. Existuje solidní šance, že i přes poměrně rozsáhlé testování, že v modelech porovnávání vzorů ML/DL budou stále zakomponovány zkreslení.

Dalo by se tak trochu použít slavné nebo nechvalně známé pořekadlo o smetí-do odpadu-ven. Jde o to, že je to spíše podobné předsudkům – in, které se zákeřně prolínají, když se předsudky ponoří do AI. Algoritmus rozhodování (ADM) umělé inteligence je axiomaticky zatížen nerovnostmi.

Špatný.

Věřím, že jsem nyní adekvátně připravil půdu pro další zkoumání, zda lidé přežijí AI.

Lidé a umělá inteligence jsou přátelé, nepřátelé nebo nepřátelé

Již dříve jsem prohlásil, že každá odpověď na otázku, zda lidé přežijí AI, by měla být doprovázena vysvětlením.

Podíváme se na Ano Odpovědět. Poskytnu krátký seznam vysvětlení. Jakékoli z těchto vysvětlení můžete přijmout. Vyzýváme vás také k tomu, abyste odvodili další vysvětlení, kterých si lze představit velké množství.

Ano, lidé přežijí AI, protože:

• Lidé jako tvůrci: Lidé jsou tvůrci a správci AI, takže bez lidí přestane AI fungovat nebo existovat
• Lidský vrozený duch: Lidé mají nezdolného ducha k životu, zatímco umělá inteligence ne, takže tak či onak lidé přežijí, ale umělá inteligence nepochybně upadne na vedlejší kolej kvůli nedostatku vrozeného povzbuzení pro přežití.
• Lidé jako přemožitelé: Lidé nedovolí AI přežít lidi v tom, že by se lidé rozhodli AI úplně porazit, pokud by byli lidé ohroženi AI nebo by jinak vyhynuli
• Ostatní

Podíváme se na odpověď Ne (ne ano). Poskytnu krátký seznam vysvětlení. Jakékoli z těchto vysvětlení můžete přijmout. Vyzýváme vás také k tomu, abyste odvodili další vysvětlení, kterých si lze představit velké množství.

Lidé nepřežijí AI, protože:

• AI schopná přetrvávat: I když jsou lidé tvůrci a správci AI, AI bude buď naprogramována nebo navržena lidmi, aby přetrvávala v nepřítomnosti lidí, nebo si AI najde svůj vlastní způsob přetrvávání (možná, aniž by si to lidé uvědomovali).
• Umělý duch AI: I když mají lidé nezdolného ducha k životu, víme, že lidé mají také ducha sebezničení; v každém případě může být umělá inteligence naprogramována umělým duchem, chcete-li, aby se umělá inteligence snažila přežít a/nebo umělá inteligence vytvořila zdání vrozeného oživení podle svých vlastních podmínek.
• AI překonává přemožitele: I když lidé nechtějí nechat AI přežít lidi, AI bude potenciálně naprogramována tak, aby vymanévrovala úsilí o přemožení lidí, nebo by si mohla sama odvodit, jak to udělat (a možná se podle toho rozhodnout porazit lidi, nebo ne)
• Ostatní

Stejně tak jsme povinni se podívat na „Ani“ (ne Ano, Ne Ne) Odpovědět. Poskytnu krátký seznam vysvětlení. Jakékoli z těchto vysvětlení můžete přijmout. Vyzýváme vás také k tomu, abyste odvodili další vysvětlení, kterých si lze představit velké množství.

Lidé nepřežijí AI a mezitím AI nepřežije lidi, protože:

• Lidé a AI existují srdečně navždy: Ukázalo se, že lidé a umělá inteligence mají být spolu, navždy. Po cestě mohou být hrboly. Dobrá zpráva nebo šťastný obličej je, že všichni spolu vycházíme.
• Lidé a AI existují nenávistně navždy: Páni, lidé a AI se začínají nenávidět. Scénář smutné tváře. Jde o to, že je na dosah patová situace. AI nemůže zvítězit nad lidmi. Lidé nemohou zvítězit nad AI. Přetahovaná o věčné podmínky.
• Lidé a AI se vzájemně ničí: Dvě těžké váhy se nakonec navzájem srazí z ringu a z tohoto světa. Lidé převládají nad umělou inteligencí, ale umělá inteligence také dokázala převládnout nad lidmi (možná nastavení soudného dne)
• Lidé a umělá inteligence jsou vymazáni z určitých důvodů: Lidé a umělá inteligence jsou zničeni úderem meteoru nebo možná mimozemšťana z jiné planety, který se rozhodne, že je to pro lidi a umělou inteligenci odvozenou od lidstva definitivní zákaz (dokonce ani nemá zájem ukrást nám naši úžasnou umělou inteligenci)
• Ostatní

Existují některé z nejčastěji uváděných důvodů odpovědí Ano, Ne a Ani na otázku, zda lidé přežijí AI.

Proč investovat do čističky vzduchu?

Možná si pamatujete, že jsem dříve nabízel tuto rozšířenou variantu otázky umělé inteligence lidí, kteří přežívají:

• Přežijí lidé jako živé bytosti AI, která je buď (1) neživá, nebo (2) živá bytost, pokud k tomu jednoho dne dojde?

Výše uvedené odpovědi se obecně zaměřují na druhou část otázky, konkrétně na okolnost zahrnující AI sentientní variety. Již jsem poukázal na to, že je to divoce spekulativní, protože nevíme, zda dojde k vnímající AI. Někdo by mohl namítnout, že jako just-in-case je právem moudré předem zvážit, co by mohlo nastat.

Pokud se vám to zdá hrubě nereálné, chápu, že toto vše je zcela hypotetické a plné domněnek nad předpoklady. Je to sud plný domněnek. Budete muset zjistit hodnotu, kterou si myslíte, že takové spekulativní snahy poskytují.

Když se dostaneme více k mosazným cvočkám, můžeme uvažovat o neživém nebo necítivém typu AI.

Zkraťte otázku na toto:

• Přežijí lidé nežijící necítící AI?

Věřte nebo ne, toto je věcně záslužná otázka.

Možná si nejste jisti, proč by tato nežijící necítící umělá inteligence mohla být kdekoli na hřišti, kde je možné přežít lidstvo.

Vezměme si situaci týkající se autonomních zbraňových systémů, o které jsem mluvil na adrese odkaz zde. Již nyní vidíme, že zbraňové systémy jsou vyzbrojovány umělou inteligencí, což umožňuje zbrani pracovat poněkud autonomně. Tato neživá necítící umělá inteligence nemá ani zdání myšlení, ani zdání zdravého rozumu atd.

Představte si jednu z těch apokalyptických situací. Několik národů vložilo tuto AI nízké ráže do svých zbraní hromadného ničení. Neúmyslně (nebo záměrně) jsou tyto autonomní zbraňové systémy poháněné umělou inteligencí spuštěny nebo uvolněny. Neexistuje dostatečné zabezpečení proti selhání, které by je zastavilo. Lidstvo je zničeno.

Přežila by AI v takovém scénáři lidi?

Za prvé, může vám to být úplně jedno. Jinými slovy, pokud bylo vyhlazeno celé lidstvo, starat se nebo starat se o to, zda AI stále bzučí, vypadá trochu jako přesun těchto lehátek na Titaniku. Záleží na tom, že AI stále běží?

Nápadník by mohl namítnout, že na tom stále záleží. Dobře, pobavíme toho panáčka. Umělá inteligence může fungovat sama o sobě prostřednictvím solárních panelů a dalších forem energie, které mohou nadále zásobovat strojní zařízení. Možná jsme také vymysleli systémy umělé inteligence, které opravují a udržují jiné systémy umělé inteligence. Všimněte si, že to nevyžaduje vnímavou AI.

Celkově vzato můžete vykouzlit scénář, kdy lidstvo vyprší a AI stále funguje. Možná, že AI bude pokračovat jen krátkou dobu. Nicméně, podle dřívější diskuse o přesném načasování, AI ve skutečnosti přežila lidi (na chvíli).

Zatím poslední úvaha na toto téma.

Diskutovat o tom, zda lidé přežijí vnímavou umělou inteligenci, je skoro jako příslovečná lžíce cukru (jak je to možné, možná si říkáte, no, držte si klobouk a já vám to povím).

Víte, rozhodně si musíme uvědomit, že necítící umělá inteligence má také velký a žalostný potenciál podílet se na vyhlazení lidstva a přežití. Ne zvlášť proto, že by nás umělá inteligence „chtěla přežít“, ale jednoduše našimi vlastními rukama při vytváření umělé inteligence, která k pokračování fungování nepotřebuje lidský zásah. Někteří by silně tvrdili, že umělá inteligence, která je navržena tak, aby byla poněkud věčná, může mít destabilizující vliv, který by mohl přimět některé lidi, aby chtěli udělat první krok ke zničení jiných lidí, viz mé vysvětlení na odkaz zde.

Část o přežití lidí není hlavním pilířem toho, proč si tato otázka dnes zasluhuje takovou váhu. Skrytý spodní proud o tom, jak vytváříme dnešní umělou inteligenci a jak ji používáme, je skutečným nakopávačem. Musíme hodně přemýšlet o důsledcích etiky umělé inteligence a společenských dopadech současné umělé inteligence.

Pokud se poněkud bláznivá otázka, zda lidé přežijí AI, dostane na stůl problémy současné AI tady a teď, budeme na tom lépe. Při tomto způsobu uvažování jsou vnímající aspekty umělé inteligence lidí, kteří přežívají AI, lžičkou cukru, která, doufejme, dostane lék dolů, aby se vypořádal s AI tady a teď.

Pouhá lžíce cukru někdy pomůže snížit hladinu léku. A tím nejúžasnějším způsobem. Nebo alespoň poutavým způsobem, který upoutá naši pozornost a udrží nás připoutané k tomu, o co se musíme starat.

Jak dále říká ditty, jako červenka, která si peří hnízdo, máme velmi málo času na odpočinek.