Důvody pro regulaci algoritmů umělé inteligence jsou jednodušší, než si myslíte

Obáváte se, že umělá inteligence ovládne svět? Mnozí ano. Od Elona Muska se starat o DeepMind poráží lidi v pokročilé hře Go v roce 2017 členům Kongresu, tvůrcům evropské politiky (viz Evropský přístup k umělé inteligenci), a akademici, panuje pocit, že toto je desetiletí, kdy je třeba brát AI vážně, a začíná se uplatňovat. I když ne z důvodů, které byste si mohli myslet, a ne kvůli nějaké současné hrozbě.

Zde přichází na řadu algoritmy. Můžete se ptát, co je algoritmus? Nejjednodušší způsob, jak si to představit, je jako soubor instrukcí, kterým stroje porozumí a naučí se z nich. Již můžeme dát stroji pokyn k výpočtu, zpracování dat a uvažování strukturovaným, automatizovaným způsobem. Problém je však v tom, že jakmile jsou dané pokyny uvedeny, stroj je bude následovat. Prozatím o to jde. Na rozdíl od lidí se stroje řídí pokyny. Neučí se tak dobře. Ale jakmile to udělají, mohou způsobit problémy.

Nechci vést senzacechtivý argument o myšlence, že počítače jednoho dne překonají lidskou inteligenci, lépe známý jako argument singularity (viz NYU filozofa Davida Chalmerse úvahy o tématu.) Výroba může být spíše nejlepším příkladem toho, proč začínají být algoritmy AI pro širokou veřejnost důležitější. Člověk se obává, že stroje výrazně zrychlí svou zdatnost na náš úkor. Ne nutně nějakým pokročilým uvažováním, ale kvůli optimalizaci v mezích toho, co říká algoritmus.

Výroba je o výrobě věcí. Ale když stroje vyrábějí věci, musíme tomu věnovat pozornost. I když to, co stroje dělají, je jednoduché. Vysvětlím proč.

Od holínek po mobilní telefony a zpět

Řekněme, továrna vyrábí boty do deště. Miluji boty do deště, protože jsem vyrostl v oblasti Norska, kde hodně prší; Miluji být venku, podřízen mnoha přírodním prvkům. Nokia vyrobila boty do deště, se kterými jsem vyrůstal. Ano, Nokia, kterou dnes známe jako elektronickou společnost, vyráběla gumáky. Proč je tento klíč? Protože jakmile něco uděláte, jste předurčeni k tomu, abyste to chtěli zlepšit. To dává smysl. Dalo by se říci, že je to lidská přirozenost.

To, co se stalo Nokii, je dobře známé a vypadá to trochu takto: Zpočátku to byla papírna, když jsem byl dítě, výroba gumových holínek (a pneumatik) byla pro společnost obzvláště úspěšná. Viděli však další příležitosti. Proto někdy v 1980. letech přešli na elektroniku a rychle změnili továrny v okolí a vybudovali velkou strukturu místních dodavatelů, když začali vyrábět mobilní telefony. To zahájilo revoluci mobilních komunikací, která začala ve Skandinávii a rozšířila se do zbytku světa. Je pochopitelné, že mnozí napsali příběh společnosti Nokia v 1990. letech (viz Tajemství finského zázraku: vzestup Nokie).

Můj příklad je přímočarý. Možná až příliš jednoduché. Ale přemýšlejte o tom takto. Pokud velká společnost dokáže rychle přejít od výroby papíru, na který se dá psát, k botám, které usnadňují pobyt v dešti, pak konečně k mobilním telefonům, které mění způsob, jakým lidé komunikují: jak snadný bude další krok? Předpokládejme, že společnost, která vyrábí mobilní telefony, se rozhodne vyrábět nanoboty a možná i tito vzlétnou za deset let a změní lidstvo pomocí nepatrných strojů, které všude autonomně pobíhají a jsou schopné znovu sestavit a změnit lidskou zkušenost. Co když k tomu dojde bez ohledu na to, jak chceme, aby k tomu došlo, koho chceme mít na starosti a jaké jsou konečné cíle?

Naznačovat, že roboti vědomě pomohli Nokii při rozhodování o výrobě mobilních telefonů, by bylo únavné. Významnou roli však hraje uznání, že technologie hrála roli v tom, že umožnila finské venkovské oblasti na jejím severním pobřeží myslet si, že by mohla získat světovou nadvládu v novém odvětví.

Příběh Nokie nebyl v posledním desetiletí tak růžový, protože nedokázala vzít v úvahu vznik softwarových operačních systémů iOS a Android. V důsledku toho nyní Nokia již telefony nevyrábí. V příběhu o návratu nyní vyrábějí síťovou a telekomunikační infrastrukturu, řešení zabezpečení sítí, Wi-Fi routery, chytré osvětlení a chytré televizory (viz Příběh návratu Nokie). Nokia pořád něco vyrábí, to je pravda. Jediným postřehem je, že se zdá, že Nokia vždy ráda míchá věci, které vyrábí. Dokonce i výrobní rozhodnutí lidských bytostí jsou někdy těžko pochopitelná.

Výroba znamená, že se věci a věci vyvíjejí. V zásadě se to, co dnes vyrábíme, změnilo od pouhých deseti let. 3D tiskárny mají decentralizovanou výrobu mnoha pokročilých produktů, a to jak v průmyslu, tak v domácnosti. Život měnící důsledky 3D tisku zatím nenastaly. Nevíme, jestli to bude trvat, ale víme, že FDA se zaměřuje na regulaci výroby produktů (viz zde), jako jsou tištěné pilulky nebo lékařské přístroje, které následují, zjevné problémy s duševním vlastnictvím a odpovědností nebo problémy kolem možnosti tisknout střelné zbraně. Politická diskuse o tom, jaké negativní důsledky může mít 3D tisk kromě toho, nakonec neexistuje a jen málo z nás se obtěžovalo o tom přemýšlet.

Netvrdím, že 3D tisk je nebezpečný sám o sobě. Možná je to špatný příklad. Nicméně věci, které zpočátku vypadají všedně, mohou změnit svět. Existuje spousta příkladů: hrot lovce/sběrače vyrobený z kovu, který zahajuje války, rituální masky, které nás chrání před COVID-19, hřebíky, které staví mrakodrapy, pohyblivé typy tiskařských lisů, které (stále) plní naše továrny potištěným papírem a napájejí vydavatelský byznys, žárovky, které vám umožní vidět a pracovat uvnitř v noci, mohl bych pokračovat. Nikdo, o kom nevím, se koncem 1800. století posadil a předpověděl, že Nokia přesune svou výrobu z papíru na gumu do elektroniky a poté pryč od mobilních telefonů. Možná by měli.

Lidé jsou špatnými prediktory skokových změn, procesu, kdy jedna změna vede k další změně a najednou jsou věci radikálně jiné. Tomuto procesu ještě nerozumíme, protože máme málo praktických znalostí o exponenciálních změnách; neumíme si to představit, vypočítat nebo pochopit. Znovu a znovu nás to však napadá. Pandemie, populační růst, technologické inovace od knihtisku po robotiku, to nás obvykle zasáhne bez varování.

Trik s futurismem není jestli, ale kdy. Ve skutečnosti by bylo možné předvídat změnu pouhým výběrem některých nových výrobních metod a prohlášením, že v budoucnu budou převládat. To je dost jednoduché. Záludné je přijít na to, kdy přesně a hlavně jak.

Kancelářské sponky nejsou problém

Zvažte znovu můj tovární příklad, ale tentokrát si představte, že stroje mají na starosti řadu rozhodnutí, ne všechna rozhodnutí, ale výrobní rozhodnutí, jako je optimalizace. Ve své knize SuperinteligenceDystopický humanista z Oxfordské univerzity Nick Bostrom si skvěle představil optimalizační algoritmus AI provozující továrnu na kancelářské sponky. V určitém okamžiku, říká, představte si, že stroj zdůvodňuje, že naučit se přesměrovat stále rostoucí zdroje k tomuto úkolu je racionální, což skončí postupnou přeměnou našeho světa na kancelářské sponky a odolávání našim pokusům jej vypnout.

Navzdory tomu, že je Bostrom chytrý člověk, je Bostromův příklad pěkně hloupý a zavádějící (ale přesto zapamatovatelný). Za prvé, nedokáže vysvětlit skutečnost, že lidé a roboti již nejsou oddělené entity. interagujeme. Většina chytrých robotů se vyvíjí v coboty nebo kolaborativní roboty. Lidé budou mít mnoho příležitostí opravit stroj. I tak ale jeho základní bod zůstává. V určitém okamžiku může dojít ke skokové změně, a pokud k této změně dojde dostatečně rychle a bez dostatečného dohledu, může dojít ke ztrátě kontroly. Ale tento extrémní výsledek se zdá být trochu přitažený za vlasy. V každém případě, souhlasím, musíme regulovat lidi, kteří tyto stroje obsluhují, a nařídit, aby pracovníci byli vždy ve smyčce tím, že je náležitě zaškolíme. Tento typ tréninku nefunguje dobře. V současné době to trvá příliš dlouho a vyžaduje speciální dovednosti, jak trénovat, tak trénovat. Vím jednu věc. V budoucnu budou roboty obsluhovat všechny druhy lidí. Kdo ne, bude docela bezmocný.

Rozšiřování lidí je lepší než bezduchá automatizace, bez ohledu na to, že nikdy plně nesplyneme se stroji. Tyto dva pojmy se logicky liší. Je možné, aby lidé i roboti uvízli v automatizaci kvůli automatizaci. To by do budoucna velmi poškodilo výrobu. I když nevyrábí zabijácké roboty. Věřím, že sloučení je stovky let vzdálené, ale o to nejde. I když je to jen třicet let, samohybné stroje fungující na zjednodušených algoritmech, které ztrácejí kontrolu, tento scénář se již odehrává v dílně. Některé z těchto strojů jsou třicet let staré a běží na starých, proprietárních řídicích systémech. Jejich hlavní výzvou není to, že jsou pokročilí, ale naopak. Jsou příliš zjednodušující na to, aby byli schopni komunikovat. Pro zítra to není problém. Je to již existující problém. Musíme tomu otevřít oči. Myslete na to, až si příště obujete gumáky.

Pořád mám boty od Nokie z 1980. let. Mají v sobě díru, ale nechávám si je, abych si připomněl, odkud jsem a jak daleko jsem ušel. Déšť také neustále padá, a dokud je dostatečně čistý, nechci na to lepší opravu než ty boty. Pak jsem zase člověk. Robot by se pravděpodobně již přesunul. Zajímalo by mě, jaká je AI verze holínek. Není to mobilní telefon. Není to dešťový senzor. Zvedne to mysl.

Digitální boty dnes znamenají, že si je můžete přizpůsobit, protože mají na sobě 3D vytištěný design. Existují virtuální boty, které existují pouze jako NFT (nezaměnitelné tokeny), které lze prodávat a obchodovat. Nejlepší virtuální tenisky mají v dnešní době hodnotu 10,000 XNUMX $ (viz Co jsou tenisky NFT a proč stojí 10,000 XNUMX $?). Nebojím se jich, ale mám se jich bát? Pokud se virtuální svět stane ceněným více než fyzický svět, možná ano. Nebo bych se měl obávat, až si vlastní avatar AI koupí vlastní NFT botu, aby se vypořádal s „deštěm“? Pokud vytváříme algoritmy podle svého obrazu, je pravděpodobnější, že umělá inteligence bude dobrá ve věcech, ve kterých bychom si přáli být dobří, ale obvykle ne, jako je nákup akcií, budování loajálních přátelství (možná se stroji i lidmi) a zapamatování si věci. Průmyslová metaverze může být překvapivě sofistikovaná – plná digitálních dvojčat, která napodobují náš svět a převyšují jej v plodných směrech – nebo může být až šokujícím způsobem jednoduchá. Možná obojí. Jen ještě nevíme.

Potřebujeme regulovat algoritmy umělé inteligence, protože nevíme, co je za rohem. To je dostatečný důvod, ale jak to děláme, to je delší příběh. Dovolte mi ještě jeden rychlý postřeh, snad by všechny základní algoritmy měly být veřejně dostupné. Důvodem je, že pokud ne, neexistuje způsob, jak zjistit, k čemu by mohly vést. Ty nejlepší jsou docela známé (viz 10 nejlepších algoritmů strojového učení), ale neexistuje celosvětový přehled o tom, kde a jak se budou používat. Pozorně je třeba hlídat zejména neřízené algoritmy (viz Šest efektivních případů použití pro strojové učení ve výrobě), ať už se používají k predikci údržby nebo kvality, k simulaci produkčního prostředí (např. digitální dvojčata) nebo k vytváření nových návrhů, které by člověka nikdy nenapadly. V dnešní krajině jsou tyto nekontrolované algoritmy typicky takzvané umělé neuronové sítě, které se pokoušejí napodobit lidský mozek.

Začal jsem si dělat starosti s neuronovými sítěmi jen proto, že je pro mě těžké pochopit jejich logiku. Problém je v tom, že většina odborníků, dokonce i ti, kteří je nasazují, nerozumí tomu, jak se tyto algoritmy pohybují z kroku na krok nebo z vrstvy na vrstvu. Nemyslím si, že metafora „skrytých vrstev“, která se často používá, není příliš trefná nebo velmi vtipná. Pro začátek by neměly existovat žádné skryté vrstvy ve výrobě, v automatizovaném výběru daní, v rozhodování o přijímání zaměstnanců nebo při přijímání na vysokou školu. Možná byste měli zvážit i obavy? Jedna věc je jistá, že lidé a stroje vytvářející věci společně změní svět. Už se to stalo, mnohokrát. Od papíru po holínky a vrstvy dnešních umělých mozků by nic nemělo zůstat neprozkoumané. Neměli bychom se skrývat před prostým faktem, že z mnoha malých změn se najednou může objevit změna větší.