Umělá inteligence Shake-Up jako prominentní guru AI navrhuje „počítače smrtelníků“, které ohýbají mysl, které také začleňují etiku AI a zákon o AI

Zde je něco, nad čím jste pravděpodobně ještě nepřemýšleli: Smrtelné počítače.

Ale možná bys měl být.

Opojné téma se objevilo na nedávné a celkem prominentní výroční konferenci o AI, která je zaměřena zejména na nástup neuronových sítí a strojového učení, konkrétně na Konferenci o systémech zpracování neuronových informací (zasvěcenými lidmi známá jako NeurIPS). Pozvaný hlavní řečník a uznávaný dlouholetý guru AI Geoffrey Hinton vznesl zajímavé a možná kontroverzní tvrzení, že o počítačích bychom měli uvažovat ve smrtelném a nesmrtelném kontextu.

Budu se zabývat pozoruhodným tvrzením a udělám to dvěma způsoby, které se na první pohled nemusí nutně zdát propojené, i když po troše dodatečného objasnění se stanou navzájem jasněji související, pokud jde o spory mezi smrtelníky a nesmrtelnými.

Tato dvě témata jsou:

1) Integrální propojení hardwaru i softwaru pro mechanizace umělé inteligence spíše než jejich samostatné a samostatné spojence

2) Přenos nebo destilace formulací strojového učení z jednoho modelu umělé inteligence do druhého, aniž by to vyžadovalo ani nezbytně vyžadovalo (nebo je dokonce jinak možné) přímé plnokrevné kopírování.

To vše má velký význam pro AI a budoucí směr vývoje AI.

Kromě toho vyvstává také řada velmi ožehavých obav z etiky a práva AI. Tyto typy technologických vylepšení předvídaných umělou inteligencí jsou obvykle spojeny na čistě technologickém základě dlouho předtím, než dojde k poznání, že by to mohlo mít také pozoruhodné dopady na etické AI a zákony AI. V jistém smyslu je obvykle kočka venku z pytle nebo kůň ze stáje, než se probudí, že etice umělé inteligence a právu umělé inteligence by se měla věnovat náležitá péče.

No, přerušme ten opožděný myšlenkový cyklus a pojďme do přízemí na tohle.

Pro ty z vás, kteří se celkově zajímají o nejnovější poznatky související s etikou AI a zákonem o umělé inteligenci, můžete najít informativní a inspirativní poutavé mé průběžné a rozsáhlé pokrytí na adrese odkaz zde a odkaz zde, Abychom jmenovali jen několik.

Nejprve zde popíšu výše uvedený bod o spojení hardwaru a softwaru. Diskuse a analýza tématu budou probíhat ruku v ruce. Dále se dotknu věci kopírování, nebo někdo říká destilační klíčové prvky systému umělé inteligence se strojovým učením od jedné umělé inteligence po nově navrženou AI jako cíl.

Začněme.

Spojení hardwaru a softwaru pro umělou inteligenci

Pravděpodobně víte, že celkově je design počítačů takový, že existuje hardwarová stránka věci a zvlášť softwarová stránka věci. Když si koupíte každodenní notebook nebo stolní počítač, je to považováno za univerzální výpočetní zařízení. Uvnitř počítače jsou mikroprocesory, které se používají k následnému spouštění a spouštění softwaru, který si můžete zakoupit nebo napsat sami.

Bez jakéhokoli softwaru pro váš počítač je to kus kovu a plastu, který vám v podstatě neudělá nic jiného, ​​než že bude fungovat jako těžítko. Někdo by řekl, že software je král a vládne světu. Samozřejmě, že pokud nemáte hardware, na kterém byste software spouštěli, software vám moc nepomůže. Můžete napsat tolik řádků kódu, kolik si vaše srdce přeje, ale dokud není software používán prostřednictvím počítače, je formulovaný zdrojový kód stejně chatrný a nelétavý jako krásné básnické dílo nebo napínavý detektivní román.

Dovolte mi, abych na chvíli přešel na jinou cestu, která se může zdát daleko (nebude).

Často se snažíme nakreslit analogie mezi tím, jak fungují počítače a jak funguje lidský mozek. Tento pokus o koncepční paralely je užitečný. Jak již bylo řečeno, musíte být opatrní, abyste tyto analogie nepřehnali, protože srovnání mají tendenci se rozpadat, když se přiblížíte k masitým detailům.

Každopádně, kvůli diskuzi, zde je často používaná analogie.

Mozek sám je neformálně někdy označován jako mokré nádobí. To je chytlavý způsob, jak věci formulovat. Víme, že počítače se skládají z hardwaru a softwaru, takže je chytré použít „ware“ část ražení k popisu toho, co obnáší mozek. Mocný a tajemný mozek, uhnízděný v našich noggins, se vznáší kolem a mentálně vypočítává všechny naše skutky (některé dobré, zatímco některé naše myšlenky rozhodně nejsou naplněny dobrotou).

Při průměrné hmotnosti kolem pouhých tří liber je mozek pozoruhodným orgánem. Nějak, a my zatím nevíme jak, je mozek schopen použít řádově 100 miliard neuronů a možná kdekoli od 100 do 1,000 bilionů propojení nebo synapsí, aby za nás udělal všechno naše myšlení. Jak biologické a chemické vlastnosti mozku dávají vznik inteligenci? Nikdo nemůže s jistotou říci. Toto je hledání věků.

Ptám se vás, je mozek zdánlivě pouze hardware, nebo jde o kombinaci hardwaru a softwaru?

Nudle na tom hlavolamu.

Můžete být v pokušení tvrdit, že mozek je prostě hardware (v obecném smyslu). Je to orgán těla. Podobně byste mohli říci, že srdce je hardware, močový měchýř je hardware a tak dále. Všechny jsou to mechanizace podobné, když mluvíme o artefaktech, které mají fyzickou podobu a provádějí fyzicky související akce.

Kde je tedy software, který řídí lidi?

Troufám si tvrdit, že se všichni do značné míry shodneme na tom, že „software“ lidstva nějak sídlí v mozku. Kroky potřebné k uvaření vajíčka nebo opravě defektu pneumatiky jsou pokyny, které jsou vtěleny do našich mozků. Při použití oné dříve známé počítačové analogie hardwaru a softwaru je náš mozek kusem hardwaru, pro který se učíme o světě a pokyny, co máme dělat, „běží“ a „ukládají se“ v našem mozku.

Na počítači můžeme snadno ukázat na hardware a říci, že se jedná o hardware. Můžeme mít výpis zdrojového kódu a ukázat na výpis jako software. V současné době stahujeme software elektronicky online a instalujeme jej do našich notebooků a chytrých telefonů. V dobách starých časů jsme používali diskety a děrné štítky k ukládání softwaru pro nahrání na hardware počítače.

Dostávám vás do důležitého rébusu.

Jakmile jste se něco naučili a znalosti jsou přítomny ve vašem mozku, dokážete stále rozlišovat mezi „hardwarem“ vašeho mozku a předpokládaným „softwarem“ vašeho mozku?

Jedna argumentovaná pozice je, že znalosti ve vašem mozku nejsou nijak zvlášť oddělitelné od koncepcí hardwaru a softwaru. Analogie s povahou počítačů se tak hroutí, někteří by horlivě tvrdili. Znalosti v mozku jsou propletené a neoddělitelné od hardwaru vašeho mozku. Biologické a chemické vlastnosti prolínají znalosti, které mentálně vlastníte.

Poduste to pro trochu duševního zamyšlení.

Pokud doufáme, že jednoho dne vymyslíme počítače, které budou na stejné úrovni s lidskou inteligencí, nebo dokonce předčí lidskou inteligenci, možná můžeme použít struktury mozku a jeho vnitřní fungování jako vodítko k tomu, co musíme udělat, abychom dosáhli tak vysokého cíle. Někteří lidé v oblasti umělé inteligence zastávají názor, že čím více víme o tom, jak mozek funguje, tím větší jsou naše šance na vytvoření skutečné umělé inteligence, někdy označované jako umělá všeobecná inteligence (AGI).

Ostatní v AI jsou méně zamilovaní do nutnosti vědět, jak funguje mozek. Zdůrazňují, že při vytváření AI můžeme postupovat rychle, bez ohledu na to, zda jsme schopni odemknout tajné vnitřní fungování mozku. Nedovolte, aby záhady mozku bránily našemu úsilí AI. Jistě, snažte se dál dekódovat a dešifrovat lidský mozek, ale nemůžeme sedět a čekat, až bude mozek reverzně analyzován. Pokud je to jednoho dne proveditelné, je to skvělá zpráva, i když možná je to nemožné nebo se to bude odehrávat po věky.

Jsem připraven se s vámi podělit o smrtelný a nesmrtelný počítačový spor. Ujistěte se, že sedíte a jste připraveni na velké odhalení.

Počítač, který má jasně oddělený hardware a software, by mohl být prohlášen za „nesmrtelný“, protože hardware může přetrvávat navždy (samozřejmě v rámci limitů), zatímco software by mohl být znovu a znovu psán a přepisován. Konvenční počítač můžete udržovat v chodu tak dlouho, dokud můžete provádět opravy hardwaru a udržovat zařízení schopné zapnutí. I dnes můžete používat hrubé domácí počítače ze 1970. let minulého století, které se dodávaly v sadách pro sestavení, přestože byly téměř padesát let staré (je to dlouhá doba v počítačová léta).

Předpokládejme však, že jsme se rozhodli vyrábět počítače, jejichž hardware a software fungují neoddělitelně (více o tom řeknu brzy). Zvažte to na stejném základě, na kterém jsem se již zmínil, že mozek má možná integrální složení hardwaru a softwaru. Pokud by tomu tak bylo, dalo by se naznačit, že počítač tohoto typu by již nebyl nesmrtelný. Místo toho by to bylo vykládáno jako „smrtelné“.

Podle poznámek, které na konferenci NeurIPS učinil pozvaný hlavní řečník a pozoruhodný guru AI Geoffrey Hinton, a jak je uvedeno v jeho doprovodném výzkumném dokumentu:

• „Všeobecné digitální počítače byly navrženy tak, aby věrně dodržovaly pokyny, protože se předpokládalo, že jediný způsob, jak přimět univerzální počítač k provedení konkrétního úkolu, je napsat program, který přesně specifikuje, co se má dělat, do nesnesitelných podrobností. To již není pravda, ale výzkumná komunita jen pomalu chápala dlouhodobé důsledky hlubokého učení pro způsob, jakým jsou počítače stavěny. Přesněji řečeno, komunita lpěla na myšlence, že software by měl být oddělitelný od hardwaru, aby mohl být stejný program nebo stejná sada závaží spuštěna na jiné fyzické kopii hardwaru. Díky tomu znalosti obsažené v programu umírají nebo jsou váhy nesmrtelné: Znalosti nezemřou, když zemře hardware“ (jak je obsaženo a citováno v jeho výzkumné práci „The Forward-Forward Algorithm: Some Preliminary Investigations“, předtisk dostupný online) .

Všimněte si, že konkrétní druh počítání, o kterém se diskutuje v tomto typu AI, využívá umělé neuronové sítě (ANN).

Pojďme si to ujasnit.

V našem mozku jsou biologické neurony reálného světa. Používáte je neustále. Jsou biologicky a chemicky propojeny do sítě ve vašem nogginu. Můžeme to tedy označit jako a nervová síť.

Jinde existují řekněme falešné „neurony“, které výpočetně reprezentujeme v počítačích pro účely vymýšlení umělé inteligence. Mnoho lidí v AI je také nazývá neuronové sítě. Věřím, že je to poněkud matoucí. Víte, raději je označuji jako umělý neuronové sítě. To pomáhá okamžitě rozlišovat mezi odkazem na in-your-head neuronové sítě (skutečnou věc, jak to bylo), a počítačové (umělý neuronové sítě).

Ne každý zaujímá tento postoj. Mnoho lidí v AI jen předpokládá, že všichni ostatní v AI „ví“, že když mluví o neuronových sítích, téměř vždy mluví o ANN – pokud nenastane situace, kdy by z nějakého důvodu chtěli diskutovat o skutečných neuronech a skutečných neuronových sítích v mozek.

Věřím, že pochopíš můj drift. Lidé s umělou inteligencí většinou řeknou „neuronové sítě“, což je potenciálně nejednoznačné, protože nevíte, zda mají na mysli ty skutečné v našich hlavách, nebo ty výpočetní, které naprogramujeme do počítačů. Ale protože lidé s umělou inteligencí se z velké části zabývají počítačovými instancemi, předpokládají, že máte na mysli umělé neuronové sítě. Rád přidávám slovo „umělý“ na začátek formulace, aby bylo jasnější o záměrech.

Posuneme-li se dále, můžete tyto výpočetní umělé neurony poněkud považovat za matematickou nebo výpočetní simulaci toho, co si myslíme, že dělají skutečné biochemické fyzikální neurony, jako je použití číselných hodnot jako váhových faktorů, které se jinak biochemicky dějí v mozku. Dnes tyto simulace nejsou zdaleka tak složité jako skutečné neurony. Současné ANN jsou extrémně hrubé matematické a výpočetní reprezentace.

Obecně platí, že ANN jsou často základním prvkem pro strojové učení (ML) a hluboké učení (DL) – mějte prosím na paměti, že je zde mnohem více podrobností, a vyzývám vás, abyste se podívali na mé rozsáhlé pokrytí ML/DL v odkaz zde a odkaz zde, například.

Vrátíme-li se k nesmrtelným versus smrtelným typům počítačů, zde je více k přemýšlení podle výzkumníka:

• „Oddělení softwaru od hardwaru je jedním ze základů informatiky a má mnoho výhod. Umožňuje studovat vlastnosti programů bez obav z elektrotechniky. Umožňuje napsat program jednou a zkopírovat jej do milionů počítačů. Pokud jsme však ochotni opustit nesmrtelnost, mělo by být možné dosáhnout obrovských úspor energie potřebné k provedení výpočtu a nákladů na výrobu hardwaru, který výpočet provádí. Můžeme povolit velké a neznámé variace v konektivitě a nelinearity různých instancí hardwaru, které jsou určeny k provádění stejného úkolu, a spoléhat se na postup učení, abychom objevili hodnoty parametrů, které efektivně využívají neznámé vlastnosti každé konkrétní instance. hardware. Tyto hodnoty parametrů jsou užitečné pouze pro konkrétní instanci hardwaru, takže výpočet, který provádějí, je smrtelný: zemře s hardwarem“ (ibid).

Nyní jste byli seznámeni s tím, jak se v této souvislosti používá nesmrtelnost a smrtelnost.

Dovolte mi to upřesnit.

Návrh je, že počítač, který je účelově postaven na základě ANN, by mohl být navržen tak, že hardware a software jsou považovány za neoddělitelné. Jakmile hardware jednoho dne přestane fungovat (což samozřejmě říkáme integrálně zapletené se softwarem), tento typ počítače již zdánlivě přestane být užitečný a fungovat nebude. Říká se, že je smrtelný. Počítač založený na ANN byste také mohli pohřbít, protože od nynějška vám nebude moc dobře fungovat poté, co neoddělitelný hardware a software již nebudou fungovat jako tým.

Kdybyste to chtěli zkusit přirovnat k analogii lidského mozku, mohli byste si představit krutou situaci lidského mozku, který se úplně zhorší nebo je nějak nenapravitelně poškozen. Přijímáme představu, že člověk je smrtelný a jeho mozek nakonec a nevyhnutelně přestane fungovat. Znalosti, které obsahovaly ve svém mozku, již nejsou k dispozici. Pokud se náhodou nepokusili říct ostatním nebo zapsali, co věděli, jejich znalosti jsou pryč do celého světa.

Nepochybně jste slyšeli nebo viděli zprávy o pokusech o zachování mozků, jako je jejich uvedení do zmrazeného stavu, podle teorie, že by možná lidé mohli být jednoho dne nesmrtelní nebo alespoň překročit jejich obvyklou životnost. Váš mozek může žít dál, i když ne ve vašem těle. Spousta sci-fi filmů a příběhů spekulovala o takových nápadech.

Nyní jsme připraveni na podrobný pohled na smrtelný počítač a nesmrtelný počítač jako koncept a na to, co předpovídá.

Všímavá diskuse a pečlivá analýza

Než se ponoříme do nitra této analýzy postulovaného přístupu, stojí za zmínku několik důležitých upozornění a dalších bodů.

Badatel zdůraznil, že ražené smrtelné počítače by nijak zvlášť nenahradil nebo vytlačil z existence nesmrtelné počítače které dnes označujeme jako konvenční digitální počítače. Došlo by ke koexistenci obou typů počítačů. Říkám to proto, že reakce některých byla taková, že výzva k objednání byla všeobecným tvrzením všechno počítače nezbytnosti míří nebo budou směřovat ke smrtelnému typu.

To nebyl nárok.

Během svého vystoupení zmínil, že tyto specializované neuromorfně orientované počítače by prováděly výpočetní práci známou jako smrtelné výpočty: „Budeme dělat to, čemu říkám smrtelné výpočty, kde znalosti, které se systém naučil, a hardware, jsou neoddělitelné“ (jak je citováno v článku ZDNET od Tiernana Raye z 1. prosince 2022).

A zejména: „Nenahradí digitální počítače“ (tamtéž).

Tyto nové typy počítačů také rozhodně nebudou brzy k dispozici ve vašem místním obchodě s počítači nebo k okamžitému nákupu online, jak uvedl během své prezentace: „Myslím si, že uvidíme úplně jiný typ počítač, ne na pár let, ale existují všechny důvody pro zkoumání tohoto úplně jiného typu počítače.“ Lišila by se také použití: „Nebude to počítač, který bude mít na starosti váš bankovní účet a přesně ví, kolik peněz máte.“

Dalším zvratem je, že smrtelné počítače by se zdánlivě spíše pěstovaly, než aby byly vyráběny, jak to děláme dnes pro výrobu počítačových procesorů a počítačových čipů.

Během procesu růstu by smrtelný počítač zvýšil své schopnosti ve stylu výpočetního zrání. Takže daný smrtelný počítač mohl začít s téměř jakoukoli schopností a dospět k tomu, čím se měl stát. Předpokládejme například, že bychom chtěli vytvořit mobilní telefony pomocí smrtelných počítačů. Začali byste jednoduchou variantou smrtelného počítače, který byl původně vytvořen nebo nasazen pro tento účel. To by pak dospělo do pokročilejší verze, kterou jste hledali. Stručně řečeno: „To byste nahradili každým z těchto mobilních telefonů, museli byste začít jako dětský mobilní telefon a museli byste se naučit, jak být mobilním telefonem.“

Na jednom z jeho základních snímků o smrtelných výpočtech byly výhody popsány takto: „Pokud opustíme nesmrtelnost a přijmeme, že znalosti jsou neoddělitelné od přesných fyzických detailů konkrétního kusu hardwaru, získáme dvě velké výhody: (1) Můžeme použít analogové výpočty s velmi nízkou spotřebou, (2) Můžeme rozšiřovat hardware, jehož přesné připojení a analogové chování nejsou známy.“

Součástí stejné přednášky a také jak je obsaženo v jeho předtiskové výzkumné práci je navrhovaná technika, jak lze ANN lépe navrhnout, kterou nazývá dopředu-dopředu síťový přístup. Někteří z vás, kteří jsou zběhlí v ANN, jsou si nepochybně již zcela vědomi použití backpropagation nebo back-prop. Možná se budete chtít podívat na jeho navrhovanou techniku ​​vpřed. Budu pokrývat tento fascinující přístup v budoucím sloupku vysílání, takže buďte na pozoru na mé nadcházející pokrytí o tom.

Zařazujeme, zamysleme se nad tím, co se o tomhle drzosti říká v chodbách a postranních chodbách komunity AI smrtelný počítač machinace.

Začneme tím, co by někteří řekli, že je to nezačátečník na celé téma.

Jste připraveni?

Přestaň tomu říkat a smrtelný počítač.

Stejně tak přestaňte hlásat, že dnešní konvenční počítače jsou nesmrtelný.

Obě použití jsou prostě špatná a značně zavádějící, nabádají skeptici.

Každodenní slovníková definice toho, co je nesmrtelné, se skládá z něčeho, co nemůže zemřít. Žije věčně. Abyste nezemřeli, musíte pravděpodobně říci, že ta věc je sama o sobě živá. Kráčíte po špatné cestě, abyste tvrdili, že dnešní počítače jsou živé. Žádný rozumný člověk by moderním počítačům nepřipisoval bona fide „živé“ vlastnosti. Jsou to stroje. Jsou to věci. Nejsou to osoby, zvířata ani životní podmínky.

Chcete-li rozšířit definici nesmrtelného, ​​abychom dovolili, že mluvíme také o neživých entitách, v tom případě se neživá entita zdánlivě nebude muset nikdy rozpadnout a nemůže se nevyhnutelně rozpadnout v prach. Můžete takto tvrdit o dnešních počítačích? To se zdá být natažené (poznámka na okraj: samozřejmě bychom se mohli pustit do velké filozofické diskuse o povaze hmoty a existence, ale v tomto případě tam nechoďme).

Podstatou je, že použití nebo někdo by řekl nesprávné použití slov „smrtelný“ a „nesmrtelný“ je podivné a zbytečné. Vzít běžně používaný lidový jazyk a znovu jej použít pro jiné účely je matoucí a vytváří kalné vody. Musíte být ochotni zjevně přehodnotit, co v tomto specifickém kontextu znamená smrtelný a nesmrtelný. To se stává problematickým.

Ještě více znepokojující je, že tyto výběry slov mají tendenci antropomorfizovat počítačové aspekty.

Problémů spojených s antropomorfizací AI je již více než dost, takových možností rozhodně nemusíme vymýšlet. Jak jsem obšírně diskutoval ve svém pokrytí etiky umělé inteligence a etické umělé inteligence, existuje mnoho divokých způsobů, jak lidé připisují vnímající schopnosti počítačům. To zase vede lidi k mylnému přesvědčení, že počítače založené na umělé inteligenci mohou myslet a jednat jako lidé. Je to kluzký svah ohrožení, když společnost ukolébá vírou, že dnešní umělá inteligence a výpočetní technika jsou na stejné úrovni s lidským intelektem a zdravým rozumem, viz například moje analýza na odkaz zde a odkaz zde.

Dobře, můžeme odmítnout nebo pohrdat trapnými volbami formulace, ale naznačuje to, že bychom měli s vaničkou vylít i dítě (starý výraz, pravděpodobně se blíží k důchodu)?

Někteří tvrdí, že pro tento celkový přístup nebo koncepci možná najdeme lepší formulaci. Odhoďte použití slov „smrtelný“ a „nesmrtelný“, aby zbytek myšlenek nebyl poskvrněn nevhodným nebo nesprávným použitím. Mezitím existují protiargumenty, že je naprosto přijatelné používat tyto volby slov, buď proto, že se hodí, nebo proto, že bychom neměli být neflexibilní v tom, jak se rozhodneme slova znovu používat. Růže je pod jakýmkoli jiným jménem růže, prohlašují.

Abych se vyhnul další vyhrocené debatě, budu se od nynějška vyhýbat používání slov „smrtelný“ a „nesmrtelný“ a budu pouze konstatovat, že máme dva hlavní typy počítačů, které se kolem nás proplétají, jeden, který je dnes konvenčním digitálním počítačem a jiný je navrhovaný neuromorfní počítač.

Zdá se, že není třeba do toho zatahovat hlavolam o úmrtnosti. Udržujte oblohu čistou, abyste viděli, co dalšího můžeme udělat z dané záležitosti.

V takovém případě by někteří tvrdili, že navrhovaná myšlenka neuromorfního počítače není nic nového.

Můžete vysledovat zpět do dřívějších dnů AI, zejména když byly zpočátku zkoumány ANN, a uvidíte, že se mluvilo o vymýšlení specializovaných počítačů pro práci umělých neuronových sítí. Byly navrženy všechny druhy nového hardwaru. K tomu dochází dodnes. Samozřejmě můžete namítnout, že většina dnešního zkoumání specializovaného hardwaru pro ANN a strojové učení je stále založena na konvenčním přístupu k počítačům. V tomto smyslu tato analogová neoddělitelnost hardwaru a softwaru poněkud posouvá laťku a návrh „růst“ počítače také, alespoň pokud jde o opuštění uvažovaného hlavního proudu.

Stručně řečeno, jsou někteří, kteří jsou plně ponořeni do těchto záležitostí, kteří jsou překvapeni, že někdo jiný může být překvapen návrhy, které se vznášely. Tyto pojmy jsou buď stejné jako dříve, nebo odrážejí to, co se již zkoumá v různých výzkumných laboratořích.

Nedělej si z toho vlasy, říká se.

Tím se dostáváme k dalšímu aspektu, který je pro mnohé obtěžující.

Jedním slovem: Předvídatelnost.

Dnešní počítače jsou obecně považovány za předvídatelné. Můžete se podívat na hardware a software, abyste zjistili, co bude počítač dělat. Podobně můžete vysledovat, co počítač již udělal, abyste zjistili, proč udělal to, co udělal. To má samozřejmě své limity, takže nechci přehánět předvídatelnost, ale myslím, že celkově chápete myšlenku.

Možná si uvědomujete, že jedním z ožehavých problémů, kterým dnes AI čelí, je to, že některá umělá inteligence je navržena tak, aby se sama přizpůsobovala. AI, kterou vývojáři zavedli, se může během používání sama změnit. V oblasti etiky AI existuje mnoho příkladů AI, které byly uvedeny do provozu, které zpočátku neměly nepřiměřené zaujatosti nebo diskriminační tendence, které se pak během doby, kdy byla AI ve výrobě, postupně výpočetně samy mutovaly, viz můj podrobné posouzení na odkaz zde.

Obáváme se, že již vstupujeme do nastavení zahrnujícího AI, které není nutně předvídatelné.

Předpokládejme, že umělá inteligence pro zbraňové systémy se sama upraví a výsledkem je, že se umělá inteligence ozbrojí a vypustí smrtící zbraně na cíle a časy, které se neočekávají. Lidé nemusí být ve smyčce, aby zastavili AI. Lidé, kteří jsou ve smyčce, nemusí být schopni reagovat dostatečně rychle, aby předběhli akce AI. Další mrazivé příklady naleznete v mé analýze na adrese odkaz zde.

U neuromorfních počítačů je obava, že na steroidy vkládáme nepředvídatelnost. Od samého začátku by podstatou neuromorfního počítače mohlo být to, že funguje způsobem, který se vzpírá předpovědi. Předvádíme nepředvídatelnost. Stává se čestným odznakem.

Existují dva tábory.

Jeden tábor říká, že můžeme žít s nepříjemnými obavami z nepředvídatelnosti tím, že postavíme zábradlí, aby AI nezašla příliš daleko. Druhý tábor argumentuje, že vedete svět nebezpečnou cestou. Nastane den, kdy nárokované zábradlí buď selžou, nebo nejsou dostatečně přísné, nebo že nešťastnou náhodou nebo zlým úmyslem budou zábradlí odstraněny nebo se s nimi pohrává.

Měli bychom mávnout rukou nad výčitkami ohledně neuromorfních počítačů a předvídatelnosti?

Podle poznámek výzkumníka: "Mezi lidmi, kteří se zajímají o analogové výpočty, je stále velmi málo těch, kteří jsou ochotni vzdát se nesmrtelnosti." Navíc: „Pokud chcete, aby váš analogový hardware dělal pokaždé to samé... Máte skutečný problém se všemi těmi zbloudilými elektrickými věcmi a tak.“

Zvednu to.

Rýsující se a poněkud chmurnou perspektivou je, že takzvaná předvídatelnost spojená s dnešními digitálními počítači jde tak jako tak směrem nepředvídatelnosti. Jak již bylo zmíněno, může se to stát zejména u AI, která se sama přizpůsobí na konvenčních počítačových platformách. Jen proto, že neuromorfní počítače mohou být zdánlivě nepředvídatelné, není ergo známkou toho, že konvenční digitální počítače jsou ve skutečnosti předvídatelné.

Parní válec nepředvídatelnosti se k nám řítí plnou parou, bez ohledu na to, jakou výpočetní platformu si chcete vybrat. Pro mé hodnocení nejnovějších snah pokusit se dosáhnout bezpečnosti AI v tomto světle viz odkaz zde.

Tento obrat o předvídatelnosti by měl přimět vaši mysl k tomu, abyste se zamysleli nad něčím neobjeveným druhem. Ti z vás, kteří se zabývají etikou AI a zákonem AI, by mohli ne zvažovali důsledky neuromorfní počítače.

Pravděpodobně jste mířili na konvenční digitální počítače s umělou inteligencí. No, hádejte co, máte zcela další a nově vznikající segment výpočetní techniky s umělou inteligencí, o který se nyní můžete starat i v noci. Ano, neuromorfní počítače. Dejte si to na svůj seznam úkolů.

Promiňte, pro vás další bezesné noci.

Pojďme se stručně zamyslet nad tím, co etika umělé inteligence a zákon o umělé inteligenci dělají s konvenčními digitálními počítači a umělou inteligencí.

V předchozích sloupcích jsem pokryl různé národní a mezinárodní snahy o vytvoření a uzákonění zákonů regulujících umělou inteligenci, viz odkaz zde, například. Zabýval jsem se také různými principy a směrnicemi etiky AI, které různé národy identifikovaly a přijaly, včetně například úsilí OSN, jako je soubor etiky AI UNESCO, který přijalo téměř 200 zemí, viz. odkaz zde.

Zde je užitečný základní seznam etických kritérií nebo charakteristik AI systémů AI, které jsem dříve podrobně prozkoumal:

• Průhlednost
• Spravedlnost a férovost
• Neškodlivost
• Odpovědnost
• Ochrana osobních údajů
• Dobročinnost
• Svoboda a autonomie
• Věřte
• udržitelnost
• Důstojnost
• Solidarita

Předpokládá se, že tyto zásady etiky AI budou vážně využívat vývojáři AI spolu s těmi, kteří řídí úsilí o vývoj AI, a dokonce i ti, kteří nakonec používají a provádějí údržbu systémů AI.

Všechny zúčastněné strany během celého životního cyklu vývoje a používání AI jsou posuzovány v rámci dodržování zavedených norem etické AI. To je důležité upozornit, protože obvyklý předpoklad je, že „pouze kodéři“ nebo ti, kteří programují AI, podléhají dodržování etických pojmů AI. Jak již bylo zdůrazněno v tomto dokumentu, vymyslet a nasadit AI je zapotřebí vesnice, v níž se celá vesnice musí orientovat a dodržovat etické předpisy AI.

Část toho, o čem jste možná dříve moc nepřemýšleli, je to, jak se tytéž etické předpisy AI a rostoucí seznam nových zákonů AI budou vztahovat na neuromorfní počítače. Abychom to objasnili, etika umělé inteligence a zákon o umělé inteligenci to skutečně musí brát výslovně v úvahu. Poukazuji na to, že jen málokdo to dělá, a mějte na paměti, že existuje velká šance, že příchod neuromorfních počítačů mnohé uvrhne do smyčky ve smyslu nové dimenze pokusů o vládu v AI.

Musíme zvážit etické zákony a zákony umělé inteligence dostatečně široce, aby zahrnovaly vše, co je nově vyvinutá umělá inteligence, včetně neuromorfních počítačů.

Alternativou houpačky je klasický gambit kočky a myši. Tady je návod, jak to jde. Jsou vymyšleny a vytvořeny nové způsoby vytváření umělé inteligence. Stávající etika a zákony umělé inteligence jsou zaskočeny a plně nezahrnují nejnovější podvody s umělou inteligencí. Uspěchaná snaha je aktualizovat etické zásady umělé inteligence a upravit nově vytvořené zákony umělé inteligence.

Lather, opláchněte, opakujte.

Bylo by pro nás pro všechny lepší zůstat vepředu, než se nechat chytit za osmičkou.

Proč investovat do čističky vzduchu?

Vzal jsem tě na trochu cesty.

Na začátku jsem navrhl, že budou prozkoumána dvě hlavní témata:

1) Integrální propojení hardwaru i softwaru pro mechanizace umělé inteligence spíše než jejich samostatné a samostatné spojence

2) Přenos nebo destilace formulací strojového učení z jednoho modelu umělé inteligence do druhého, aniž by to vyžadovalo ani nezbytně vyžadovalo (nebo je dokonce jinak možné) přímé plnokrevné kopírování.

První téma o spojení hardwaru a softwaru bylo hlavní částí této cesty. To nás vedlo do smrtelného versus nesmrtelného výpočetního bahna. Z toho vyplynulo několik zásadních úvah o etice AI a zákonech o AI, které by se jinak obvykle nezmiňovaly, protože tento typ tématu souvisejícího s počítačem je některými obvykle vnímán jako čistě technologické téma, které by se netýkalo jakýchkoli společenských dopadů.

Říkám, že je nejmoudřejší být dříve a bezpečněji, než později a hůře, pokud jde o výchovu k etické umělé inteligenci a zákonu o umělé inteligenci.

Druhé téma, které jsem zde ještě neformuloval, věcně souvisí s prvním tématem.

Tady je dohoda.

Předpokládejme, že máme „smrtelný počítač“ a chceme zachovat schopnosti, abychom mohli mít zálohu nebo zdánlivé kopie toho, co AI obsahuje. Můžeme se obávat, že se konkrétní smrtelný počítač blíží ke svému konci. Jejda, jsme na tom závislí. co máme dělat? Jedna odpověď je, že bychom měli tu zatracenou věc zkopírovat.

Ale zkopírovat neuromorfní počítač takového druhu, který je načrtnut, bude těžší, než by se na první pohled mohlo zdát. Věci mohou být zapeklité.

Možná bychom měli přijít s kopírovacím trikem, který bude zobecnitelný a aplikovatelný na okolnosti zahrnující strojové učení a umělé neuronové sítě. Chceme, aby to fungovalo na rozsáhlých a extrémně rozsáhlých instancích. Byli bychom také ochotni, aby kopie nebyla přesným duplikátem a místo toho by mohla být v podstatě ekvivalentní nebo možná ještě lépe navržená jako výsledek kopírování.

Technika známá jako destilace byl navržen.

Došel mi prostor pro dnešní sloupek, takže se tomuto druhému tématu budu věnovat v nadcházejícím sloupku. Myslel jsem, že budete chtít vědět o vztahu mezi tímto druhým tématem a prvním tématem, které je zde rozsáhle zahrnuto. Berte to jako přidanou poznámku, která slouží jako upoutávka nebo upoutávka na to, co přijde příště.

Zůstaňte na okraji svého sedadla, protože téma destilace je docela dobré.

Jak říkával Batman, držte svá netopýří křídla a buďte připraveni na stejný bat-time a bat-channel rozluštění nepříjemné otázky, jak zkopírovat ANN nebo model strojového učení nebo neuromorfní počítač do jiného.

Prozatím poslední poznámka. Ve filmu je slavná věta Temný rytíř se vrací ve kterém náš křižák kápě říká toto: „Svět má smysl pouze tehdy, když ho k tomu přinutíte.“ Pokusím se držet tohoto ideálu, až se budu věnovat druhému tématu o destilaci související s AI.

Zůstaňte naladěni na 2. část tohoto vzrušujícího a fascinujícího dvojitého titulu.