Etika umělé inteligence a uznávaná umělá inteligence Uncanny Valley, která také chrastí samořídícími auty na bázi umělé inteligence

Někdy jsou trochu podivné věci, které upoutají vaši pozornost a přivedou vaše intuitivní šťávy, že je něco špatně. Ta podivnost není do očí bijící, už vůbec ne do očí bijící. Možná byste ani nebyli schopni okamžitě položit prst na to, co je to nesrovnalost nebo jak to, že váš pověstný pavoučí smysl brní.

Možná jsou vnímány jemné náznaky. Možná si náhodou ve svém nitru uvědomíte, že existuje disonance. Hádám, že byste mohli říci, že je tu jen ten nejmenší náznak nenápadné tajemnosti a váš jemný lidský radar zachycuje jinak zdánlivě skryté signály.

Vítejte v tajemném údolí.

Pokud jste nikdy neslyšeli o tajemném údolí, což je téma poměrně populární v oblasti umělé inteligence a zejména robotiky, budete se těšit, protože to je téma, o kterém zde budu podrobně diskutovat a analyzovat.

Zastřešující pojem se může vztahovat na spoustu věcí, které v životě zažíváme, ačkoli základní principy a původní definice zahrnují systémy umělé inteligence a roboty. Nejprve prozkoumáme původ a počáteční význam tajemného údolí a poté přistoupíme k rozšíření, abychom viděli, jak se tyto jevy zdají být použitelné v širších kontextech.

Ještě bych mohl dodat, že zvážíme, zda to tajemné údolí vůbec existuje.

Víte, někteří skeptici a cynici tvrdí, že celá záležitost je tak trochu podvod a nedrží vodu. Buďte opatrní, když téma předkládáte znalým. Někteří se budou vesele usmívat a poplácat vás po zádech, že to tajemné údolí dobře znáte, zatímco jiní vás budou důrazně poučovat, že je to šmejd a musíte si stručně vyčistit mysl pěnou mýdla na duševní očistu. .

Dobrou zprávou je, že se musíte rozhodnout, zda je tajemné údolí skutečné nebo ne, spolu s tím, zda má smysl pro uvědomělé použití, nebo by se místo toho mělo bez obřadů hodit na smetiště techno-myšlenek. V tomto smyslu jste na sedadle řidiče.

To vše také úzce souvisí s rozvíjející se oblastí etické umělé inteligence a rostoucím uvědoměním, že společnost musí vážně a střízlivě věnovat pozornost etice umělé inteligence. Za chvíli uděláme tu kravatu.

Nejlepší místo, kde začít, je přímo citovat profesora, který přišel s konceptem tajemného údolí a tento proklamovaný fenomén přímo pojmenoval. V roce 1970 publikoval profesor Masahiro Mori z Tokijského technologického institutu dosti drobný článek v poněkud méně známém časopise tzv. Energie (nejedná se zvláště o ohnisko pro AI a robotiku jako takovou) a řekl toto:

"Všiml jsem si, že když šplháme k cíli, aby roboti vypadali jako lidé, naše náklonnost k nim roste, dokud nedojdeme do údolí, kterému říkám tajemné údolí."

Vezměte prosím na vědomí, že výše uvedená fráze je uvedena v angličtině, ačkoli původní článek byl v japonštině. Anglicky přeložená verze byla pod dohledem autora a později byla vydána v IEEE Spectrum v roce 2012 a připsán jako autor Masahiro Mori. Noviny si můžete přečíst sami, protože jsou otevřeně a volně dostupné online. Je to rozhodně rychlé čtení, které trvá asi deset minut a neobsahuje žádnou technickou terminologii.

Jak již bylo řečeno, je zajímavé a poněkud úžasné, že tak svižný článek, publikovaný v roce 1970, nakonec odstartoval celou arénu bádání a odstartoval nesčetné množství souvisejících studií, projektů, výzkumů a občas i ohnivou polemiku o tom, zda představený koncept tajemného údolí skutečně existuje. Předpokládám, že to ukazuje, že zajímavé a občas měnící myšlenky nemusí být masivně spletité nebo přecpané žargonem a vznešeností. Stručná myšlenka může být stejně mocná, ne-li ještě mocnější, než by se na první pohled zdálo.

Věřím, že vás to povzbudí, abyste zkoušeli a podporovali své nové nápady, přičemž si uvědomíte, že sladké a jednoduché může být stejně velkolepé nebo někdy více než spletité a složité.

Pojďme skočit zpět do tajemného údolí.

Narazíte na robotický systém, který má obličej podobný lidskému obličeji. Představte si, že tato robotická tvář byla navržena v mnoha iteracích. Vývojáři umělé inteligence, kteří dali dohromady hlavu robota, se postupně snažili, aby část obličeje robota vypadala stále více jako skutečná lidská tvář.

Jejich první pokus byl mimořádně primitivní. Tvář robota měla stejný vzhled, jaký jste viděli ve sci-fi filmech, že je celá kovová a předvádí ozubená kola a dráty. Okamžitě víte, když se podíváte na zařízení, že je to robot. Nemáš o tom v mysli žádnou otázku.

Další pokus vývojářů umělé inteligence zahrnoval obalování kovových částí nějakými plastovými materiály. I když to vypadá poněkud přívětivější, stále okamžitě víte, že jde o hlavu robota a robotickou tvář. Opět snadno zjistitelné.

Tito vývojáři AI jsou odhodláni v tom pokračovat. Vytvarují plast a dodají mu tóny pleti. Přidávají rysy, které se zdají velmi podobné lidské tváři, jako jsou krtci, vlasy, skvrny a podobně.

Na první pohled byste mohli uvěřit, že se jedná o lidskou tvář. Pokud byl vyfotografován robotický obličej a byli jste požádáni, abyste určili, zda obrázek zobrazuje osobu nebo robotický obličej, mohlo by vás znepokojit, že budete okamžitě schopni říci, který to byl. Na druhou stranu, pokud byste stáli vedle zařízení, pravděpodobně byste při bližším ohledání byli schopni rozeznat, že nejde o člověka, ale o robotický stroj.

Jde o to, že předtím, než jste dostali příležitost provést detailní prozkoumání, bylo na obličeji něco, co se nezdálo úplně sčítané. Určitě to vypadalo jako lidská tvář. Ale něco nebylo v pořádku. Museli jste napjatě zírat znovu a znovu, abyste mohli položit prst na to, co nevypadá úplně správně. Možná je to skutečná tvář. Pak znovu, možná není. Podle toho se točí vaše mysl.

Do vaší mysli vstoupí zdání děsivosti.

Když jste viděli dvě dřívější verze, neměli jste stejné zdání děsivosti. Bez pauzy nebo váhání jste mohli zjistit, že robot byl robot. Jen dítě se může nechat zmást, aby uvěřilo, že jedna z těchto verzí byla skutečnou osobou.

Tato nejnovější verze však byla jiná. Ještě to nebylo dokonalé, aby vypadalo jako lidská tvář. Nebylo to ani tak daleko od skutečné věci, aby bylo zřejmé, že to musí být robot. Bylo dosaženo jakési rozbahněné půdy.

Předpokládejme, že vývojáři posunuli své výzkumné úsilí dále a upravili vše tak, že robotická tvář byla téměř k nerozeznání od lidské. Bez ohledu na to, jak dlouho na věc zíráte, nejste si jisti, zda je to člověk nebo ne. Když se dozvíte, že se jedná o robotický obličej, budete překvapeni. Bože, udělali skvělou práci, aby to vypadalo jako skutečné.

Všimněte si, že jste dosud zvažovali robotické aspekty pouze na základě vzhledu.

Do rovnice bychom mohli přidat pohyb. To vám přidává další rozměr, abyste mohli rozeznat, zda je robot robot nebo člověk. Nechci to v této diskusi plně považovat za vícerozměrný druh problému, protože to činí objasnění tohoto tématu složitějším (existují však nevyhnutelně propojené vícerozměry). V každém případě si představte, že jste nejen viděli robotický obličej, ale také mohli sledovat, jak robot pohybuje rysy obličeje, jako jsou ústa, oči, nos atd. Je zřejmé, že by to mohly být také informace o tom, zda se jedná o robot nebo člověk.

Jedním ze zásadních aspektů, které je třeba udržet v popředí tajemného údolí, je, že původní koncepce zdůrazňuje akt lidské spřízněnosti. Prohlašovaným fenoménem je, že vaše afinita se zvyšuje, jak vidíte postupně se vylepšované robotické tváře, až do okamžiku, kdy vznikne ta záhadná varianta. V tomto okamžiku se říká, že váš smysl pro afinitu dramaticky poklesne a padá dolů do afinitní propasti nebo údolí.

Ke konkrétní verzi, která ve vás vyvolala podezření, že něco není v pořádku, vaše příbuznost údajně radikálně klesla. Navíc, podle teorie, vaše afinita může raketově vzrůst, jakmile narazíte na pokročilejší verzi, která je téměř identická se skutečně lidskou podobou.

Zde je více o tom, co autor uvedl o našem normálním sklonu předpokládat, že aspekty života plynule přibývají: „Matematický termín monotónně rostoucí funkce popisuje vztah, ve kterém funkce y = ƒ(x) se plynule zvyšuje s proměnnou x. Například jako úsilí x roste, příjem y zvyšuje, nebo když je sešlápnut plynový pedál, vůz se pohybuje rychleji. Tento druh vztahu je všudypřítomný a velmi snadno pochopitelný. Ve skutečnosti, protože takové monotónně rostoucí funkce pokrývají většinu jevů každodenního života, mohou lidé propadnout iluzi, že představují všechny vztahy. Tento mylný dojem potvrzuje také skutečnost, že mnoho lidí se životem probojovává tím, že vytrvale tlačí, aniž by chápali účinnost stahování. To je důvod, proč jsou lidé obvykle zmateni, když čelí nějakému fenoménu, který tato funkce nemůže představovat. Toto je citováno podle IEEE Spectrum přeložený papír.

Tento téměř univerzální předpoklad o neustálém zvyšování může být vyvrácen, když narazíme na něco špatně. Tajemství a podezíravost způsobí relativně náhlý a dramatický pokles afinity, říká teorie, jako je robotická ruka, kterou jste se rozhodli potřást a necítili jste kostnaté vlastnosti lidské ruky: „Když se to stane, ztrácíme smysl. afinity a ruka se stává záhadnou. Matematicky to může být reprezentováno zápornou hodnotou.

Pokud přijmete premisu, že existuje tento fenomén tajemného údolí, jsem si jist, že se ptáte, k čemu vám bude dobré vědět, že tajemné údolí zjevně existuje.

To je klasika všech dob „tak co?“ test praktičnosti.

Ukázalo se, že mnoho lidí přišlo s mnoha výklady toho, co bychom měli nebo mohli dělat s tajemným údolím. Názorů jsou tuny. Něco z toho budu brzy řešit.

Mezitím Masahiro Mori nabídl toto: „Doufáme, že navrhneme a postavíme roboty a protetické ruce, které nespadnou do tajemného údolí. Takže kvůli riziku spojenému se snahou zvýšit míru své lidské podobnosti, aby dosáhli druhého vrcholu, doporučuji návrhářům, aby místo toho vzali za cíl první vrchol, což vede k mírnému stupni lidské podobnosti a značnému pocitu spřízněnosti. . Ve skutečnosti předpovídám, že je možné vytvořit bezpečnou úroveň afinity záměrným sledováním nelidského designu. Žádám designéry, aby se nad tím zamysleli."

Rychlá kondenzace z mé strany dvanácti praktických pravidel pro sedlo-of-the-pants o tom, co dělat v tajemném údolí, vypadá takto zejména pro vývojáře AI:

1) Buďte si vědomi tajemného údolí a buďte podle toho ve střehu

2) Pravděpodobně chcete dosáhnout lidské afinity ke své AI co nejvíce

3) Buďte připraveni na ztrátu lidské afinity, pokud vaše AI spadne do tajemného údolí

4) Snažte se vyhnout tajemnému údolí tím, že vymyslíte svou AI takto

5) Je úctyhodné mít cíl, který je kousek od tajemného údolí

6) Skloňte se k okraji tajemného údolí, ale neklesejte přes útes

7) Nebuďte posedlí tím, že půjdete za tajemné údolí

8) Existuje šance, že můžete přeskočit tajemné údolí

9) Nezaměstnávejte skokem, protože byste stejně mohli spadnout do údolí

10) Maximální lidské spřízněnosti by se jistě dosáhlo tím, že se dostaneme přes tajemné údolí

11) Nicméně před tajemným údolím existuje adekvátní a vhodná afinita

12) Neustále pamatujte na tajemné údolí a nenechte si to vyklouznout z mysli

Všech těchto tucet jsou obecné zásady, které lze považovat za základní kámen nebo kotvící body poznání o tajemném údolí. Okamžitě uznávám, že existují další body, které nejsou uvedeny v tomto nepatrném tuctu a které by mohly být považovány za stejně důležité. Ochotně také uznám, že u každého z uvedených bodů musí existovat nesouhlas a že o každém uvedeném bodu může následovat zdlouhavá vzrušená debata.

Někteří by navíc řekli, že těch dvanáct bodů je pro začátek úplně nesmysl, protože jsou založeny na nepravdách. Nic takového jako tajemné údolí neexistuje, tvrdili by. Všechno je to jen šikanování a vymyšlený výmysl, který oslovuje pouze a smutně slabé mysli (au, to vážně bolí!). Jakákoli pozornost věnovaná tajemnému údolí je plýtváním vzduchu a někdo by měl přijít a vložit ostrý dřevěný teoretický kolík do podstaty věci (někteří výzkumníci se o to pokoušeli).

V zájmu diskuse pojďme s proudem a předpokládejme, že existuje tajemné údolí a že se obecně shoduje s tím, co jsem doposud naznačil. Ti, kteří nesouhlasí s konceptualizací tajemného údolí, jsou vítáni, aby se vyhnuli nebo pokračovali ve čtení se zaťatými zuby a intelektuálním vztekem, který se vaří a vaří (to se omlouváme).

Zde je návod, jak se projevuje etická umělá inteligence a zaměření na vymýšlení a nasazení etické umělé inteligence. Mimochodem, pro mé pokračující a hloubkové zkoumání etiky umělé inteligence viz moji diskusi na adrese odkaz zde a odkaz zde, Abychom jmenovali jen několik.

Tajemné údolí je rozhodně záležitostí lásky a nenávisti pro milovníky etické AI.

Nejprve nějaké potřebné pozadí. Jedním z nejvíce přitahujících etických problémů souvisejících s umělou inteligencí je, že lidé mohou být oklamáni, aby věřili, že systém umělé inteligence je vnímavý. Uvědomte si prosím, že v dnešní době neexistuje žádná umělá inteligence, která by se vzdáleně přiblížila vnímavosti. V tuto chvíli se to prostě neděje. Moje zdánlivě „drzé“ tvrzení je učiněno navzdory těm neustálým a křiklavým titulkům, které prohlašují, že tato umělá inteligence je buď vnímavá, nebo je natolik blízká, že ji lze za takovou považovat. Malarkey. Nejsme na AI sentience.

Nevíme, jak se tam dostat. Nevíme, zda se tak stane. Umělá inteligence je cenným snem a touhou, i když neskákejte z pušky a nemyslete si, že jsme na pokraji jeho dosažení.

Mnozí samozřejmě vroucně varují, že pokud se nám nějakým způsobem podaří zbavit AI vnímavost, ať už to uděláme záměrně nebo čirou náhodou, budeme čelit existenčnímu riziku. Při tomto způsobu myšlení se možná hledání AI sentience tak úplně nevyplatí. Riziko spočívá v tom, že tato vnímající umělá inteligence může určit, že lidé nestojí za to mít kolem sebe. Mohli bychom se zmlátit jako brouk. Nebo se staňte otroky AI. K tomu může dojít tím, že se AI otevřeně rozhodne to udělat, nebo se AI může stát naším vlastním strojem soudného dne, který nás zničí naší vlastní neschopností. Pro mé pokrytí těchto znepokojivých výsledků AI sentience nebo singularity viz odkaz zde.

Zásadní etická obava z AI spočívá v tom, že vývojáři AI a ti, kteří používají AI, občas lidi vysávají, aby si mysleli, že AI je vnímavá. Způsob, jakým se AI projevuje, například pomocí robotické formulace nebo její konverzační interaktivity, může lidi zákeřně podnítit k domněnce, že AI je vnímavá. To vás zase vede po potenciálně odporné petrklíčové cestě.

Pokud upadnete do mentální pasti myslet si, že systém umělé inteligence je vnímavý, pravděpodobně se na něj budete spoléhat při provádění věcí, které by dělaly vnímající bytosti. Ale v žádné z dnešních AI zatím neexistuje žádný zdravý smysl pro kvalitu jako u člověka. Umělá inteligence, kterou v současnosti zažíváme, je extrémně křehká a mělká, pokud jde o schopnosti podobné lidským. Mohli byste se dostat do nechutných a nebezpečných vod tím, že věříte, že systém umělé inteligence je vnímavý.

Jak to souvisí s tajemným údolím?

Tady je dohoda.

Připomeňme, že tajemné údolí nám zdánlivě říká, že lidská spřízněnost bude postupně stoupat, jak se systém umělé inteligence nebo robot přibližují a přibližují formulaci podobné lidem. Ve chvíli, kdy se systém umělé inteligence blíží bodu, kdy je docela blízko, ale přesto, ještě ne tak docela, máme děsivý pocit, že něco není v pořádku. Do té doby jsme věděli, že AI není člověk. Teď si nejsme jisti. Naše lidská spřízněnost klesá. Teprve jakmile se AI nebo robot přesvědčí o schopnostech podobných lidem, znovu získáme zdání afinity k zařízení.

Vývojáři umělé inteligence, kteří se zabývají tímto srdcem, by pravděpodobně záměrně snažte se udržet jejich AI mimo tajemné údolí, s cílem zastavit se, pokud jde o rysy AI, těsně před pádem do tajemné propasti (připomeňme, že to je také to, co Masahiro Mori zdůraznil). Vývojáři by to očividně udělali tak, že by se ujistili, že stále existuje spousta výmluvných vodítek, aby bylo docela jasné, že AI je méně vnímavá AI a ergo není člověk nebo stejně tak.

Etikové AI by toto srdečné úsilí obecně uvítali.

Zdůvodnění je přímočaré. Tito tak informovaní a vstřícní vývojáři umělé inteligence se snaží zajistit, aby systém umělé inteligence nesváděl lidi k tomu, aby uměle připisovali zařízení podobná lidem. To je jistě dobrá zpráva. Vývojáři záměrně vytvoří AI, aby zabránili ponoru do tajemného údolí. Lidé si snadno uvědomí, že AI není vnímavá.

Pokusit se přimět vývojáře AI, aby přijali takový přístup, není snadné. Ve skutečnosti to může být v rozporu s jejich obvyklými instinkty a řidičskými ambicemi.

Existuje mnoho tvrzení, že vývojáři a technici AI obecně jsou pohlceni cíli. Vidí cíl a často za ním slepě jdou s velkou chutí. Není čas se zastavit a přivonět k růžím. Jdeme na závody. V oblasti umělé inteligence by normativním cílem byla idealizovaná umělá inteligence, která by byla nerozeznatelná od lidí v tom, že umělá inteligence by mohla být inteligentně stejná v paritě. Ale ještě tam nejsme. Záhadné údolí jako takové poskytuje sekundární cíl, přistává před jinak přehrazujícím tajemným údolím a stává se cílem, který je nicméně přijatelný. Jasně, není to zlatý prsten, ale myšlenka je taková, že tato „vedlejší“ cena je v pořádku, děkujeme moc a můžete být na ni hrdí.

Změnili jsme zničující nejvyšší ambice směřující k cíli a spojili jsme je do logicky znějícího logického základu, abychom udělali správnou věc.

Hurá!

Získejte výhru za etiku umělé inteligence.

Ale počkejte na sekundu, upozornění na spoilery, je tu ještě něco, co musíme stejně zvážit.

Nyní, když tito důvtipní vývojáři umělé inteligence vědí o tajemném údolí, mohou obrátit svůj důvtip a technické dovednosti k záměrnému přeskakování propasti, a přesto tak činit se zdáním podvodu na mysli. Aby umělá inteligence vypadala a vypadala úplně jako člověk, i když vývojáři vědí, že to není pravda.

Darebné myšlení vypadá takto. Nedovolte, aby váš systém umělé inteligence smekl klobouk a nezpůsobil lidem ten nepolapitelný spodní proud děsivosti. Odstraňte aspekty, které by mohly napovědět nebo napovědět, že AI není lidských schopností. Udělejte to a přitom si skrytě uvědomujte a neomluvitelně s vědomím, že AI není lidských schopností a je to celé o skrytí této pravdy před těmi, kteří s AI interagují nebo jsou na ní závislí.

Jaké ďábelské plány.

Je ironií, že tajemné údolí by mohlo být jakýmsi probuzením pro vývojáře AI, že pokud chtějí lidi skutečně oklamat, musí být dostatečně chytří, aby unikli propasti. Nedělají tak dosažením úplné umělé inteligence, ale vztyčením kouře a zrcadel, aby se AI zdála zavádějící, jako by byla lidská. Kdyby si vývojáři AI neuvědomili, že toto tajemné údolí existuje, z velké části by do něj spadli. To je pro lidstvo dobré, protože lidé by tak ztratili svou afinitu k AI, pokud by se příliš nespoléhali na dnešní kvalitu AI.

Bohužel, když vědí, že past existuje, vývojáři AI, kteří se kolem ní chtějí proplížit, najdou zhoubně chytré způsoby, jak toho dosáhnout.

Zasáhněte proti zásadám etické AI.

Vidíte, jak to vytváří vztah lásky a nenávisti pro etiky umělé inteligence o tajemném údolí?

Zatraceně, pokud ano, zatraceně, pokud ne.

Uvědomuji si, že to byla poněkud vysoká prohlídka tajemného údolí a možná toužíte po nějakých každodenních příkladech. Existuje speciální a jistě oblíbený soubor příkladů, které jsou mému srdci blízké. Víte, jako odborník na AI včetně etických a právních důsledků jsem často žádán, abych určil realistické příklady, které předvádějí dilemata etiky AI, aby bylo možné snáze pochopit poněkud teoretickou povahu tématu. Jednou z nejvíce sugestivních oblastí, která živě prezentuje tento etický problém umělé inteligence, je příchod skutečně samořídících vozů založených na umělé inteligenci. To poslouží jako praktický příklad použití nebo příklad pro rozsáhlou diskusi na dané téma.

Zde je pak pozoruhodná otázka, která stojí za zamyšlení: Osvětluje příchod skutečně samořídících aut na bázi umělé inteligence něco o tajemném údolí, a pokud ano, co nás to informuje, že máme dělat?

Dovolte mi chvíli rozbalit otázku.

Za prvé, všimněte si, že ve skutečném samořídícím autě není žádný lidský řidič. Mějte na paměti, že skutečně samořídící auta jsou řízena systémem AI. Není potřeba, aby za volantem byl lidský řidič, ani neexistuje ustanovení, aby vozidlo řídil člověk. Pro mé rozsáhlé a průběžné pokrytí Autonomních vozidel (AV) a zejména samořiditelných vozů viz odkaz zde.

Rád bych dále objasnil, co je míněno, když mluvím o skutečných samořídících autech.

Porozumění úrovním samořídících automobilů

Pro objasnění platí, že skutečná samojízdná auta jsou ta, která AI řídí auto zcela sama a během řízení neexistuje žádná lidská asistence.

Tato vozidla bez řidiče jsou považována za úroveň 4 a úroveň 5 (viz mé vysvětlení na adrese odkaz zde), zatímco vůz, který vyžaduje, aby se na řízení společně podílel lidský řidič, se obvykle považuje za úroveň 2 nebo úroveň 3. Vozy, které spolu sdílejí úkol řízení, jsou popsány jako semi-autonomní a obvykle obsahují různé automatizované doplňky, které se označují jako ADAS (Advanced Driver-Assistance Systems).

Na úrovni 5 zatím není opravdové samonaváděcí auto, které ještě nevíme, jestli to bude možné dosáhnout, ani jak dlouho to bude trvat.

Mezitím se úsilí úrovně 4 postupně snaží získat určitou trakci tím, že podstupují velmi úzké a selektivní testy na veřejných komunikacích, ačkoli existuje spor o to, zda by toto testování mělo být povoleno jako takové (všichni jsme pokusnými pokusnými králíky na život a na smrt odehrávající se na našich dálnicích a vedlejších cestách, někteří tvrdí, viz moje zpravodajství na odkaz zde).

Protože poloautonomní auta vyžadují řidiče, přijetí těchto typů automobilů se nebude výrazně lišit od řízení konvenčních vozidel, takže o tomto tématu není samo o sobě nic nového (jak vidíte, uvidíte) za okamžik jsou obecně použitelné následující body).

U poloautonomních automobilů je důležité, aby veřejnost musela být upozorněna na znepokojující aspekt, který se objevuje v poslední době, a to navzdory těm lidským řidičům, kteří neustále vysílají videa, která usínají za volantem auta úrovně 2 nebo 3 , všichni se musíme vyhnout tomu, aby byli uvedeni v omyl v přesvědčení, že řidič může odvrátit jejich pozornost od úkolu řízení při řízení poloautonomního automobilu.

Jste odpovědnou stranou za řízení vozidla, bez ohledu na to, kolik automatizace může být hodeno do úrovně 2 nebo úrovně 3.

Samořídící Auta A Záhadné údolí

U vozidel s vlastním řízením úrovně 4 a 5 nebude do řízení zapojen lidský řidič.

Všichni cestující budou cestující.

AI řídí.

Jedním z aspektů, které je třeba okamžitě projednat, je skutečnost, že umělá inteligence zapojená do dnešních řídicích systémů umělé inteligence není vnímavá. Jinými slovy, AI je celkově kolektiv počítačového programování a algoritmů a nejspíše není schopen uvažovat stejným způsobem jako lidé.

Proč je tento dodatečný důraz na to, aby AI nebyla vnímavá?

Protože chci zdůraznit, že při diskusi o roli řídícího systému AI nepřičítám AI lidské vlastnosti. Uvědomte si, že v dnešní době existuje trvalá a nebezpečná tendence k antropomorfizaci AI. V zásadě lidé dnešní AI připisují lidskou vnímavost, a to navzdory nepopiratelné a nepopiratelné skutečnosti, že taková AI dosud neexistuje.

S tímto vysvětlením si můžete představit, že systém řízení AI nebude nativně nějak „vědět“ o aspektech řízení. Řízení a vše, co to obnáší, bude muset být naprogramováno jako součást hardwaru a softwaru samořízeného automobilu.

Pojďme se ponořit do nesčetných aspektů, které na toto téma hrají.

Zaprvé je důležité si uvědomit, že ne všechna samořídící auta s umělou inteligencí jsou stejná. Každá automobilka a technologická firma s vlastním řízením přistupuje k navrhování samořídících vozů. Jako takové je obtížné činit rozsáhlá prohlášení o tom, co budou či nebudou dělat řídicí systémy AI.

Kromě toho, kdykoli uvedou, že řídící systém AI nedělá nějakou konkrétní věc, může to později předběhnout vývojáři, kteří ve skutečnosti naprogramují počítač, aby udělal právě tuto věc. Krok za krokem se postupně zdokonalují a rozšiřují systémy řízení AI. Stávající omezení dnes již nemusí existovat v budoucí iteraci nebo verzi systému.

Věřím, že to poskytne dostatečnou litanii námitek, které jsou základem toho, o čem se chystám vyprávět.

Nyní jsme připraveni se hluboce ponořit do samořídících aut a etických otázek umělé inteligence, které s sebou nesou tajemné údolí.

Existují čtyři aspekty týkající se této záležitosti, které zde budou zahrnuty:

1. Celkový vzhled samořiditelných aut

2. Otázka, kam se samořiditelná auta „koukají“

3. AI řízení samořídících vozů

4. Roboti, kteří řídí jako prostředek k dosažení samořídících aut

Další aspekty jsou také životaschopně zahrnuty, ale vzhledem k prostorovým omezením budou tato čtyři témata dostatečná k tomu, aby objasnila směr tajemného údolí ve vztahu k samořídícím autům založeným na umělé inteligenci.

1. Celkový vzhled samořídících vozů

Vsadím se, že jste viděli obrázky nebo videa dnešních zkoušek samořiditelných aut. Možná jste si všimli, že většina vozidel jsou vozy konvenčního vzhledu, které jsou vybaveny dalším specializovaným vybavením. Může to být například střešní nosič, který obsahuje řadu elektronických senzorů. Senzory někdy zahrnují videokamery, radarové jednotky, zařízení LIDAR, ultrazvukové senzory a podobně.

Futuristické designy mají tendenci naznačovat, že bychom se mohli odchýlit od konvenčně vyhlížejícího vozu a místo toho předělat auta na interiéru i exteriéru tak, aby byla úhlednější autonomní vozidla. Právě teď obecně platí, že je jednodušší používat konvenční auta a nevynakládat energii na natahování úsilí současným pohráváním si s nekonvenčně vyhlížejícími auty (existují některé výjimky z tohoto obecného hlediska, viz moje zpravodajství na odkaz zde).

Podstatou právě teď je, že pokud jedete po vozovce a narazíte na nedaleké samořídící auto, můžete téměř vždy okamžitě rozpoznat, že se pravděpodobně jedná o autonomní auto, a to pouhým zaznamenáváním roztříštěnosti senzorů namontovaných na autonomním vozidle. Toto je rychlý vizuální dárek. Samozřejmě nevíte jistě, že jde o samočinné řízení, protože v tomto okamžiku jsou ovládací prvky řízení obvykle stále nedotčené a za volantem může být lidský záložní řidič.

Jedním způsobem myšlení můžete naznačit, že je obzvláště užitečné, že samořídící auta fyzicky vypadají, že vyčnívají a jsou snadno vizuálně spatřena lidskými řidiči v blízkých lidsky řízených autech a také chodci poblíž. Uvědomění si, že v blízkosti se potuluje samořídící auto, může být užitečným vodítkem, jak být ve střehu, a vybízet vás k tomu, abyste byli ostražití a uvědomovali si, že vozidlo řídí nebo může řídit AI.

Předpokládejme, že samořídící auta vypadala identicky jako konvenční člověkem řízené auto. To je reálně proveditelné minimálně dvěma způsoby. Za prvé, senzory by mohly být potenciálně skryté nebo tvarované tak, aby nebyly tak zřejmé pro příležitostnou vizuální kontrolu. Zadruhé, mohlo by se stát, že všechna auta, včetně konvenčních aut řízených lidmi, budou postupně vybavena podobnými senzory, i když vozidlo přesto zůstane jako auto řízené převážně lidmi. Podívejte se na mé další pokrytí na odkaz zde.

Pokud se důkladně zamyslíte nad tím, zda samořídící auta mohou nebo by měla být vzhledově identická s konvenčními lidmi řízenými auty, možná vás napadne, že v tomto guláši může číhat tajemné údolí.

Víte, auta, která bezostyšně vypadají jako samořídící auta, by mohla být typizována jako na křižovatce, která je jen kousek od tajemného údolí. V podstatě „víte“, že jde o robota nebo robotický druh systému. To je úsudek, ke kterému můžete téměř okamžitě skočit.

Když samořídící auta vypadají stejně jako auta řízená lidmi, možná to naznačuje, že autonomní vozidla přeskočila tajemné údolí, pokud jde o jejich vzhled podobný robotům. Existuje mezi těmito dvěma fyzickými zjevy střední cesta, která nás přivede do tajemného údolí?

Možná si všimnete samořídícího auta přijíždějícího po ulici a trochu to vypadá, jako by to pravděpodobně bylo samořídící auto, na druhou stranu vzhled nevypadá ani přísně autonomně, ani vyloženě člověkem řízený. Dalo by se namítnout, že samořídící auto je nyní v děsivém nebo znepokojivém stavu.

Samořídící auto se zdánlivě ponořilo do tajemného údolí.

Jak již bylo řečeno, ne každý by s touto kategorizací souhlasil. Někdo by tvrdil, že fyzický vzhled nemá nic společného s tajemným údolím. Někteří samozřejmě také tvrdí, že neexistuje nic realisticky známého jako tajemné údolí.

Jak již bylo zmíněno, můžete se o tom rozhodnout sami.

2. Otázka, kam se samořídící auta dívají

Rýsující se obavou, kterou mnozí mají ohledně samořídících aut, je to, že jim obvykle na sedadle řidiče chybí jakýkoli lidský řidič, a proto je obtížné zjistit, kam se „řidič“ při řízení auta dívá.

Normálně se podíváte na lidské řidiče, abyste špehovali, kam se dívají. Můžete být například chodec na přechodu a k přechodu se blíží auto. Pozorně se díváte na osobu sedící na sedadle řidiče a snažíte se rozeznat, kam má natočenou hlavu a kam se dívají oči. Pokud se domníváte, že vás lidský řidič viděl, možná vám bude příjemnější přejít ulici. Naproti tomu, pokud se zdálo, že vás lidský řidič neviděl, máte z přecházení oprávněné obavy.

V některých městech se v těchto aspektech hraje určitý druh kočky a myši. Zvláštní kulturní normou v daném městě může být to, že když navážete oční kontakt s řidičem, řidič „vyhraje“ a má zdánlivé právo pokračovat bez ohledu na zákonnost jízdní situace. Jiná města by mohla být úplně opačná, totiž že kulturní normou je, že při očním kontaktu chodec „vyhraje“ a lidský řidič se má odložit jednání chodce.

Zdá se, že jsme tento zvyk přijali za relativně dlouhou dobu, kdy auta jezdila uprostřed našich měst a komunit. Problém s příchodem samořiditelných aut je v tom, že na sedadle řidiče nesedí lidský řidič, a tudíž jakýkoli chodec nebo blízký lidský řidič, který běžně používá hlavu a oči řidičů automobilů jako kulturní indikátor záměru řízení, je nyní bez štěstí.

Výrobci automobilů a vývojáři aut s vlastním pohonem jsou si tohoto nově vznikajícího problému dobře vědomi. Jedno navržené řešení spočívá v tom, že samořídící auto bude blikat světlomety autonomního vozidla nebo případně zatroubí. Další představa je, že samořídící auto může mít variantu reproduktoru a říct lidem poblíž, jaké jsou „záměry“ systému řízení AI. Každý z těchto nápadů má významné nevýhody.

Jiný návrh však znamená udělat něco, co byste mohli zpočátku považovat za směšné. Návrh spočívá v umístění očních koulí na vnější stranu autonomního vozidla. Tyto koule by v podstatě vypadaly jako lidské oči ve zdání, že jsou schopny se otáčet tam a zpět, což vám dává okamžitou indikaci, která naznačuje, že vás AI „viděla“ (interpretovali byste to tak, že se oční bulvy dívají vaším konkrétním směrem). Tento přístup jsem analyzoval na odkaz zde.

Jaká by byla vaše reakce na to, kdybyste viděli samořídící auto sjíždět po vozovce a mít na kapotě nebo střeše namontované tyto velké podivné oční koule?

Předpokládám, že si můžete myslet, že je to děsivé, možná strašidelné.

Někteří by naznačovali, že děsivost pramení z toho, že jako vybavené samořídící auto je v tajemném údolí. Jiní by vehementně tvrdili, že to nemá nic společného s tajemným údolím. Někteří z těchto vědátorů by řekli, že existuje děsivost, která může být děsivá, aniž by musela být zakořeněna v tajemném údolí (tj. tajemné údolí zdánlivě vždy vytváří děsivost, ale ne všechna strašidelnost se vytváří pouze prostřednictvím tajemného údolí). Dalším úhlem pohledu je, že koule by mohly být pravděpodobně navrženy tak, aby vypadaly méně oční bulvy a vypadaly více roboticky, nebo že všichni nevyhnutelně přijmeme vzhled těchto koulí a počáteční překvapivá reakce odezní.

3. Řízení AI samořídících vozů

Mnohé z dnešních testů samořídících aut ukázaly, že stávající řídicí systémy AI mají tendenci být naprogramovány tak, aby jezdily spíše vlažným a poněkud přísně dodržujícím zákonným způsobem. Řídicí systém AI obvykle zastaví samořídící auto na značce Stop. Řídicí systém AI nedělá odvážné průjezdy křižovatkami, když se na semaforu blíží červená. Tyto svéhlavé jízdní praktiky jsou záležitostí lidských řidičů.

Svým způsobem by se dalo skoro tušit, že samořídící auto je samořídící auto podle stylu jízdy, který předvádí. I když se autonomní vozidlo vizuálně jevilo jako konvenční člověkem řízené auto, můžete pozorovat jízdní akce a možná logicky odvodit, že je pravděpodobně řízeno systémem AI.

Někteří se domnívají, že budeme muset vytvořit systémy řízení AI tak, aby se více podobaly dovádění lidských řidičů, aby účinně zapadly do normativních přístupů k řízení. Předpokládám, že byste to mohli vyložit jako boj s ohněm ohněm.

Má to smysl dělat?

Uvědomte si, že otevření skeptici a kritici tento nápad nenávidí. Usilovně by tvrdili, že chceme, aby řídicí systémy AI jezdily správně a opatrně. Přidání potenciálně milionů samořiditelných aut na vozovky, které jsou naprogramované jako potulní lidští řidiči, by se zdálo být kolosální noční můrou. Diskutoval jsem o tomto kontroverzním návrhu na odkaz zde.

Pojďme přeformulovat dilema tím, že využijeme tajemné údolí.

Když je systém řízení AI přísně legální díky svým činnostem při řízení, je to možná prozrazující vodítko, že se pravděpodobně jedná o robotický systém (nehledě na to, že lidští řidiči to nepochybně dělají, i když v dnešním světě se zdá, že jsou daleko od sebe). Pokud mají řídicí systémy umělé inteligence řídit tak svérázně jako lidští řidiči, skočí to přes tajemné údolí nebo spadne do tajemného údolí?

Přemýšlejte o tom.

4. Roboti, kteří jezdí jako prostředek k dosažení samořídících aut

Tato poslední položka pro pokrytí je z těchto čtyř nejpřekvapivější.

Možná si vůbec neuvědomujete, že někteří vývojáři AI se snaží vytvořit roboty, kteří by řídili auta. Robot by měl tendenci vypadat jako člověk v různých ohledech, měl by robotické nohy a robotické ruce jako končetiny. Když chcete, aby se z jakéhokoli konvenčního člověkem řízeného auta stalo auto s vlastním pohonem, stačí umístit tohoto specializovaného AI řídícího robota do sedadla řidiče svého auta. Viz můj rozbor tohoto pojmu na odkaz zde.

Proč bychom chtěli řídit roboty?

Krása takového robota spočívá v tom, že ze všech dnešních aut řízených lidmi by se v určitém smyslu mohla téměř přes noc stát samořídící auta. Pouze si koupíte, pronajmete nebo si nějakým způsobem pořídíte řídícího robota. Když se vydáte na cestu, posadíte robota na sedadlo řidiče. Robot vás doveze do cíle. Pokud chcete přejít na řízení člověka, vyjmete robota z vozidla, možná ho uložíte do kufru pro pozdější použití.

Ve Spojených státech je dnes asi 250 milionů konvenčních automobilů. Někteří věří, že ty budou nakonec vyřazeny, jakmile se objeví samořídící auta. Spíše než vyhazovat ta konvenční auta, možná bychom je mohli zkusit dodatečně upravit tak, aby se z nich stala samořídící auta, i když je to možná docela nákladný nápad. Zdánlivě prozíravějším přístupem by bylo dát k dispozici řídící roboty.

Kdybyste viděli konvenčně vyhlížející auto přijíždět ulicí vaší čtvrti a za volantem by měl robota, jaká by byla vaše reakce?

Pravděpodobně děsivost.

Jedním z nepochybně diskutabilních tvrzení je, že tato záhada je způsobena tím, že robot řídil konvenční auto, který se ponořil do slavného nebo nechvalně známého tajemného údolí.

Proč investovat do čističky vzduchu?

Z pohledu etické umělé inteligence představuje tajemné údolí zajímavou hádanku.

Někteří v AI plně věří v tajemné údolí a někteří ne. Ale ať už v tajemné údolí věříte, nebo nevěříte, téma samotné je stále opředeno. Nemůžete skrýt hlavu a předstírat, že konstrukce jako taková neexistuje. Konstrukt jako myšlenka žije a v určitém zdání je virálně silný. Nenávist nebo milovat, zatracené nebo možná vznešené téma přetrvává.

Podle mého dřívějšího diskursu o přednostech tajemného údolí z hlediska etiky umělé inteligence v něm existuje vzájemný vztah lásky a nenávisti. Měli by ti v etické sféře umělé inteligence přijmout tajemné údolí, nebo toto tajemné údolí souhrnně odmítnout, nebo zůstat poněkud neutrální ohledně pravdivosti a místo toho se zaměřit na dopad, který narůstá kvůli přetrvávajícím rozdílným názorům na něj.

Tato výzva přivádí předního ekonoma Adama Smithe, jak kdysi řekl (parafrázuje), že na cestě z Města skepticismu musíte projít Údolím nejednoznačnosti.