Etika umělé inteligence bojuje za vaše zákonné právo být výjimkou

Říká se, že z každého pravidla existuje výjimka.

Problém je však v tom, že často převládá stálé pravidlo a existuje jen malý nebo žádný prostor pro uznání nebo uplatnění výjimky. Průměrný případ se používá navzdory jasné možnosti, že je v popředí výjimka. Výjimka nezíská žádný vysílací čas. To nemá šanci být řádně zváženo.

Jsem si jistý, že musíte vědět, o čem mluvím.

Pokusili jste se někdy získat nějaký druh individualizovaného zákaznického servisu, kdy s vámi bylo bezmyšlenkovitě zacházeno bez jakéhokoli rozdílu pro váš konkrétní případ a vaše specifické potřeby?

To se vám nepochybně stalo, pravděpodobně nesčetněkrát.

Provedu vás znepokojivým trendem, který se objevuje v souvislosti s tím, jak je umělá inteligence (AI) neúnavně vymýšlena tak, aby se vše vešlo do jednotného paradigmatu.

Výjimky buď nejsou detekovány, nebo se rozhodly být ohnuty z tvaru, jako by to vůbec nebyly. Základním předpokladem pro to je částečně nástup strojového učení (ML) a hlubokého učení (DL). Jak brzy uvidíte, ML/DL je forma porovnávání výpočetních vzorů, jejíž vývoj a nasazení je „snazší“, pokud jste ochotni ignorovat nebo obejít výjimky. To je vysoce problematické a vyvolává to vážné obavy týkající se etiky AI. Pro mé celkové průběžné a rozsáhlé pokrytí etiky AI a etické AI viz odkaz zde a odkaz zde, Abychom jmenovali jen několik.

Věci to tak být nemusí a mějte prosím na paměti, že to přiživují ti, kteří vytvářejí a nasazují AI tím, že se rozhodli ignorovat nebo bagatelizovat zacházení s výjimkami v rámci svých výmyslů AI.

Když výjimky vládnou

Pojďme nejprve rozbalit povahu průměrného případu versus realizace výjimek.

Můj oblíbený příklad tohoto typu dogpilingu nebo myopicky průměrného přístupu bez výjimek je živě osvětlen téměř každou epizodou uznávaného a stále poměrně nesmírně populárního televizního seriálu známého jako House, MD (obvykle jen vyjádřeno jako Dům, která probíhala v letech 2004 až 2012 a lze ji dnes sledovat na sociálních sítích a dalších médiích). Přehlídka zahrnovala fiktivní postavu jménem Dr. Gregory House, která byla drsná, nesnesitelná a docela nekonvenční, přesto byl vylíčen jako lékařský génius, který dokázal odhalit ty nejobskurnější nemoci a neduhy. Ostatní lékaři a dokonce i pacienti ho nemuseli mít rádi, ale svou práci zvládl.

Zde je návod, jak dopadla typická epizoda (obecné upozornění na spoiler!).

Pacient se objeví v nemocnici, kde pracuje Dr. House. Pacient zpočátku vykazuje poněkud běžné příznaky a různí jiní lékaři se střídají ve snaze pacienta diagnostikovat a vyléčit. Zvláštní je, že pokusy pomoci pacientovi buď nezlepší nepříznivé podmínky, nebo ještě hůř, mají tendenci selhat. Pacientovi je hůř a hůř.

Protože je pacient nyní vnímán jako druh lékařské kuriozity, a protože nikdo jiný nemůže přijít na to, čím pacient trpí, je do případu přiveden Dr. House. Někdy se to děje záměrně, aby využil jeho lékařskou zdatnost, zatímco v jiných případech o případu slyší a jeho vrozené instinkty ho přitahují k neobvyklým okolnostem.

Postupně zjišťujeme, že pacient má nějakou extrémně vzácnou chorobu. Pouze Dr. House a jeho tým lékařských stážistů jsou schopni na to přijít.

Nyní, když jsem se s vámi podělil o hlavní děj epizod, pojďme se ponořit do získaných lekcí, které ilustrují povahu průměrného případu versus výjimky.

Fiktivní příběhy jsou navrženy tak, aby předvedly, jak může myšlení uvnitř krabice občas těžce minout cíl. Všichni ostatní lékaři, kteří se nejprve pokoušejí pacientovi pomoci, jsou zatemněni ve svých myšlenkových procesech. Chtějí vnutit symptomy a prezentované aspekty do konvenční lékařské diagnózy. Pacient je pouze jedním z mnoha, které již pravděpodobně viděli. Vyšetřte pacienta a poté mu předepište stejné léčebné postupy a lékařská řešení, která opakovaně používali během své lékařské kariéry.

Umyjte, opláchněte, opakujte.

V jistém smyslu můžete tento přístup ospravedlnit. Je pravděpodobné, že většina pacientů bude mít nejčastější onemocnění. Den za dnem se tito lékaři setkávají se stejnými zdravotními problémy. Můžete naznačit, že pacienti vstupující do nemocnice jsou skutečně na lékařské montážní lince. Každý postupuje podle standardizovaných protokolů nemocnice, jako by byly součástí výrobního zařízení nebo montážního závodu.

Převládá průměrný případ. To je nejen obecně vhodné, ale také to umožňuje nemocnici a zdravotnickému personálu odpovídajícím způsobem optimalizovat své lékařské služby. Náklady lze snížit, když navrhnete lékařské postupy pro zvládnutí průměrného případu. Studentům medicíny se často vtlouká do mysli docela slavná rada, totiž že když slyšíte zvuky kopyt vycházející z ulice, je pravděpodobné, že byste měli myslet spíše na koně než na zebru.

Efektivní, produktivní, efektivní.

Dokud se doprostřed nevplíží výjimka.

Možná utekla zebra ze zoo a zatoulala se po vaší ulici.

Znamená to, že výjimky by měly být pravidlem a měli bychom odložit pravidlo průměrného případu namísto toho, abychom se zaměřovali pouze na výjimky?

Těžko byste tvrdili, že všechna naše každodenní setkání a služby by se měly zaměřovat spíše na výjimky než na průměrný případ.

Všimněte si, že takový návrh nepředkládám. Tvrdím, že bychom měli zajistit, aby se výjimky mohly vyskytovat a že musíme rozpoznat, kdy výjimky nastanou. Zmiňuji to proto, že někteří učenci mají sklon hlasitě prohlašovat, že pokud jste zastáncem uznávání výjimek, musíte se ergo postavit proti vymýšlení pro průměrný případ.

To je falešná dichotomie.

Nespadejte do toho.

Můžeme si dát svůj dort a sníst ho taky.

Vytvářet argumenty pro právo být výjimkou

Jako další možná udělám trochu šok, který to vše spojuje s narůstajícím používáním AI.

Systémy umělé inteligence jsou stále více vytvářeny tak, aby se soustředily na průměrný případ, často s vyloučením nebo na úkor rozpoznání výjimek.

Možná vás překvapí, že se to děje. Většina z nás by předpokládala, že jelikož je umělá inteligence formou počítačové automatizace, krása automatizace spočívá v tom, že obvykle můžete začlenit výjimky. To lze obvykle provést s nižšími náklady, než kdybyste k provádění podobné služby používali lidskou práci. S lidskou prací může být nákladné nebo nepřístupné mít k dispozici všechny druhy práce, které si poradí s výjimkami. Věci se mnohem snáze spravují a zavádějí, pokud můžete předpokládat, že vaši zákazníci nebo klienti patří k průměrným případům. Ale použití počítačových systémů by mělo vyhovovat výjimkám, a to snadno. Při tomto způsobu myšlení bychom měli bouřlivě jásat nad tím, že se do popředí dostane více počítačových schopností.

Považujte to za mysl ohýbající hlavolam a věnujte chvíli přemýšlení o této nepříjemné otázce: Jak může umělá inteligence, o které se jinak předpokládá, že je to nejlepší z automatizace, zdánlivě neúprosně kráčející po rutinované a výjimečné cestě, o které jsme si ironicky nebo nečekaně představovali, že půjde přesně opačným směrem?

Odpověď: Strojové učení a hluboké učení nás však přivádějí do výjimečné existence ne protože tou cestou musíme jít povinně (můžeme to udělat lépe).

Pojďme to rozbalit.

Předpokládejme, že se rozhodneme použít strojové učení k vytvoření umělé inteligence, která bude použita ke zjištění lékařských diagnóz. Shromažďujeme spoustu historických dat o pacientech a jejich zdravotních podmínkách. ML/DL, který jsme vytvořili, se snaží provést výpočetní porovnávání vzorů, které prozkoumá symptomy pacientů a poskytne očekávané onemocnění spojené s těmito symptomy.

Na základě odebraných dat ML/DL matematicky zjišťuje příznaky, jako je rýma, bolest v krku, bolesti hlavy a bolest, které jsou všechny silně spojeny s běžným nachlazením. Nemocnice se rozhodne používat tuto AI k předběžnému vyšetření pacientů. Jistě, pacienti, kteří uvádějí tyto příznaky při prvním příchodu do nemocnice, jsou „diagnostikováni“ jako pravděpodobně mající běžné nachlazení.

Řazení, přidejme k tomu všemu zvrat Dr. House.

Pacient přijde do nemocnice a je diagnostikován AI. Umělá inteligence naznačuje, že pacient má na základě příznaků rýmy, bolesti v krku a bolesti hlavy nachlazení. Pacientovi jsou dány zdánlivě vhodné recepty a lékařské rady pro řešení běžného nachlazení. To vše je nedílnou součástí přístupu průměrného případu používaného při navrhování AI.

Ukázalo se, že pacient má tyto příznaky několik měsíců. Odborník na vzácná onemocnění a alimenty si uvědomuje, že stejné příznaky mohou odrážet únik mozkomíšního moku (CSF). Odborník ošetřuje pacienta různými chirurgickými zákroky souvisejícími s takovými úniky. Pacient se uzdraví (mimochodem, tento pozoruhodný příběh o pacientovi s únikem mozkomíšního moku, u kterého byla původně diagnostikována rýma, je volně založen na skutečném lékařském případu).

Nyní se vrátíme zpět po našich krocích v této lékařské sáze.

Proč umělá inteligence, která prováděla vstupní pre-screening, nedokázala posoudit, že pacient může mít toto vzácné onemocnění?

Jednou z odpovědí je, že pokud by trénovací data použitá pro vytvoření ML/DL neobsahovala žádné takové instance, nebylo by v nich nic, s čím by se porovnávání výpočetních vzorů mohlo shodovat. Vzhledem k absenci údajů o výjimkách z pravidla bude samotné obecné pravidlo nebo průměrný případ považováno za zdánlivě bezchybné a bude bez váhání použito.

Další možností je, že se řekněme vyskytl případ tohoto vzácného úniku CSF v historických datech, ale byl to pouze jeden konkrétní případ a v tomto smyslu odlehlá hodnota. Zbývající data byla všechna matematicky blízká zjištěnému průměrnému případu. Nabízí se tedy otázka, co dělat s tzv. odlehlou hodnotou.

Uvědomte si prosím, že jednání s těmito odlehlými hodnotami je záležitost, která se výrazně liší, pokud jde o to, jak by se vývojáři AI mohli rozhodnout bojovat s výskytem něčeho mimo určený průměrný případ. Neexistuje žádný požadovaný přístup, ke kterému jsou vývojáři AI nuceni. Je to trochu divoký západ ohledně toho, co může kterýkoli vývojář umělé inteligence udělat v jakékoli konkrétní instanci svého úsilí o vývoj ML/DL, která vyvolává výjimky.

Zde je můj seznam způsobů, jakými tyto výjimky často jsou nevhodně zpracováno:

• Výjimka se považuje za chybu
• Výjimka považována za nehodnou
• Výjimka se předpokládá jako nastavitelná do „normy“
• Výjimka nebyla vůbec zaznamenána
• Výjimka byla zaznamenána, ale celkově ignorována
• Výjimka byla zaznamenána a později zapomenuta
• Výjimka byla zaznamenána a skryta před zraky
• Atd.

Vývojář AI se může rozhodnout, že rarita není nic jiného než chyba v datech. Mohlo by se zdát zvláštní, že by někdo takto uvažoval, zvláště pokud se to pokusíte polidštit tím, že si například představíte, že pacient s únikem CSF je tím jedním příkladem. Existuje však silné pokušení, že pokud všechna vaše data vytržená z kontextu říkají v podstatě jednu věc, možná sestávající z tisíců a tisíců záznamů a všechny se sbíhají k průměrnému případu, výskyt jednoho podivného kusu dat může snadno (líně!) být vykládán jako naprostá chyba. „Chyba“ pak může být vývojářem AI odstraněna a nebude brána v úvahu v rámci oblasti toho, na co se ML/DL trénuje.

Dalším způsobem, jak se vyrovnat s výjimkou, by bylo rozhodnutí, že jde o nedůstojnou záležitost. Proč se obtěžovat s jednou raritou, když možná spěcháte, abyste zprovoznili ML/DL? Vyhoďte mimořádnou hodnotu a pokračujte. Žádná myšlenka nevede nutně k následkům na cestě.

Další přístup zahrnuje skládání výjimky do zbytku prostředí průměrného případu. Vývojář AI upravuje data tak, aby odpovídala zbytku normy. Existuje také možnost, že si vývojář AI nevšimne, že výjimka existuje.

ML/DL může hlásit, že byla detekována výjimka, a vývojář AI pak má dát pokyn ML/DL o tom, jak se má s odlehlou hodnotou matematicky nakládat. Vývojář AI to může dát na seznam úkolů a později zapomenout na to, že se s tím vyrovnává, nebo se může prostě rozhodnout to ignorovat a tak dále.

Celkově vzato, detekce a řešení nakládání s výjimkami, pokud jde o AI, je bez jakéhokoli konkrétně stanoveného nebo přesvědčivě vyváženého a odůvodněného přístupu per se. S výjimkami se často zachází jako s nehodnými vyvrheli a převažujícím vítězem je průměrný případ. Vypořádat se s výjimkami je těžké, může být časově náročné, vyžaduje zdání obratných schopností vývoje umělé inteligence a jinak je to problém ve srovnání s házením věcí do šikovného motýlka v univerzálním balení.

To je do určité míry důvod, proč je etika a etická umělá inteligence tak zásadním tématem. Předpisy etiky AI nás nutí zůstat ostražití. Technologové umělé inteligence mohou být občas zaneprázdněni technologií, zejména optimalizací špičkových technologií. Nezbytně nezvažují větší společenské důsledky.

Kromě toho, že obecně používáme etické zásady AI, existuje odpovídající otázka, zda bychom měli mít zákony, které by řídily různá použití AI. Na federální, státní a místní úrovni se šíří nové zákony, které se týkají rozsahu a povahy toho, jak by měla být umělá inteligence navržena. Snaha navrhnout a přijmout takové zákony je postupná.

Do této konkrétní diskuse o úloze výjimek přichází provokativní názor, že by možná mělo existovat zákonné právo spojené s výjimkou. Mohlo by se stát, že jediným schůdným prostředkem k získání uznání v dobré víře pro někoho, kdo je možná výjimka, je použití dlouhé ruky zákona.

Zavést nový druh lidských práv.

Právo být považován za výjimku.

Zvažte tento návrh: „Právo na výjimku neznamená, že každý jednotlivec is výjimka, ale to, že když rozhodnutí může způsobit újmu subjektu rozhodování, měl by ten, kdo rozhoduje, zvážit možnost, že subjekt smět být výjimkou. Právo na výjimku zahrnuje tři složky: poškodit, individualizace, a nejistota. Osoba s rozhodovací pravomocí se musí rozhodnout, že způsobí škodu, pouze pokud zvážila, zda je rozhodnutí náležitě individualizováno, a především nejistotu, která doprovází složku rozhodnutí založenou na datech. Čím větší je riziko újmy, tím vážnější je úvaha“ (Sarah Cen ve výzkumném článku nazvaném Právo být výjimkou v rozhodování založeném na datech, MIT, 12. dubna 2022).

Můžete být v pokušení předpokládat, že takové právo již máme.

Ne nutně. Podle výzkumné práce by pravděpodobně nejbližší podobné mezinárodně uznávané lidské právo mohlo být právo na důstojnost jednotlivce. Teoreticky vás představa, že by mělo existovat uznání důstojnosti, že by měl být zahrnut jedinec a jeho specifická jedinečnost, dostává do kolbiště potenciálního lidského práva na výjimku. Jedna pochybnost spočívá v tom, že stávající zákony, jimiž se řídí oblast důstojnosti, jsou údajně poněkud mlhavé a příliš tvárné, takže nejsou dobře přizpůsobeny konkrétnímu právnímu konstruktu práva na výjimku.

Ti, kteří upřednostňují nové právo, které sestává z lidského práva být výjimkou, tvrdí, že:

• Takové právo by v podstatě legálně donutilo vývojáře AI, aby se výslovně vyrovnali s výjimkami
• Firmy vyrábějící AI by byly více legálně na háku, protože se nezabývaly výjimkami
• AI by pravděpodobně byla celkově lépe vyvážená a robustnější
• Ti, kteří používají AI nebo podléhají AI, by na tom byli lépe
• Pokud umělá inteligence nepřijímá výjimky, právní pomoc by byla snadno proveditelná
• Tvůrci AI na tom budou určitě lépe (jejich AI by pokryla širší okruh uživatelů)
• Atd.

Ti, kteří jsou proti novému právu označenému jako lidské právo být výjimkou, mají tendenci říkat:

• Stávající lidská práva a zákonná práva to dostatečně pokrývají a není třeba to komplikovat
• Na bedra tvůrců umělé inteligence by byla uložena nepřiměřená zátěž
• Snahy o vytvoření umělé inteligence by byly nákladnější a měly by tendenci zpomalovat pokrok AI
• Vznikla by falešná očekávání, že by všichni požadovali, aby byli výjimkou
• Samotné právo by nepochybně podléhalo různým výkladům
• Ti, kteří získají nejvíce, budou právnické profese, když právní případy prudce porostou
• Atd.

Stručně řečeno, opozice vůči takovému novému právu obvykle argumentuje tím, že jde o hru s nulovým součtem a že zákonné právo být výjimkou bude stát víc, než z něj prospěšně plyne. Ti, kteří se domnívají, že takové nové právo je rozumně vyžadováno, by měli zdůraznit, že se nejedná o hru s nulovým součtem a že z toho nakonec profitují všichni, včetně těch, kteří AI vytvářejí, a těch, kteří AI používají.

Můžete si být jisti, že tato debata zahrnující právní, etické a společenské důsledky spojené s umělou inteligencí a výjimkami bude hlasitá a trvalá.

Samořídící auta a význam výjimek

Zvažte, jak to platí v kontextu autonomních systémů, jako jsou autonomní vozidla a samořídící auta. Už se objevily různé kritiky ohledně průměrného smýšlení vývoje umělé inteligence pro samořídící auta a autonomní vozidla.

Například zpočátku jen velmi málo návrhů samořídících vozů vyhovovalo těm, kteří mají nějakou formu tělesného postižení nebo postižení. O širším zahrnutí celé řady potřeb jezdců se příliš neuvažovalo. Celkově vzato se toto povědomí zvýšilo, i když jsou stále vyjadřovány obavy, zda je to dostatečně daleko a zda je to tak rozsáhlé, jak by mělo být.

Další příklad průměrného případu versus výjimka souvisí s něčím, co by vás mohlo zaskočit.

Jste připraveni?

Konstrukce a nasazení mnoha současných řídicích systémů s umělou inteligencí a samořiditelných aut mají tendenci vyslovovat tichý nebo nevyslovený předpoklad, že v samořídícím autě budou jezdit dospělí. Víme, že když za volantem sedí lidský řidič, je samozřejmě ve vozidle dospělý, a to z definice, protože získání řidičského oprávnění je obvykle založeno na tom, že jste dospělý (no, nebo téměř jeden). U aut s vlastním řízením, která řídí veškerou AI, není nutná přítomnost dospělé osoby.

Jde o to, že můžeme nechat děti jezdit v autech samy bez přítomnosti dospělé osoby, alespoň to je možné v případě plně autonomních samořídících aut s umělou inteligencí. Své děti můžete ráno poslat do školy pomocí samořídícího auta. Namísto toho, abyste museli své děti vozit nebo využívat lidského řidiče služby spolujízdy, můžete jednoduše nechat své děti naskládat do samořídícího auta a nechat se odvézt do školy.

Všechno není růžové, pokud jde o to, mít děti samy v samořídících autech.

Vzhledem k tomu, že již není potřeba mít ve vozidle dospělou osobu, znamená to, že děti se také již nebudou cítit ovlivňovány nebo řekněme ovládány přítomností dospělé osoby. Zblázní se děti a roztrhají interiér samořídících aut? Budou se děti snažit vylézt nebo dosáhnout za okna samořídícího auta? Jaké další typy dovádění mohou způsobit, což může vést k potenciálnímu zranění a vážnému poškození?

Probral jsem tu bouřlivou debatu o myšlence, že děti jezdí samy v samořídících autech, viz odkaz zde. Někteří říkají, že by to nikdy nemělo být dovoleno. Někteří říkají, že je to nevyhnutelné a my musíme přijít na to, jak to nejlépe vyřešit.

Proč investovat do čističky vzduchu?

Vraťme se k zastřešujícímu tématu průměrného případu versus výjimka.

Zdá se, že se všichni shodneme na tom, že vždy se najde nějaká výjimka z pravidla. Jakmile je pravidlo vytvořeno nebo identifikováno, měli bychom hledat výjimky. Když narazíme na výjimky, měli bychom přemýšlet o tom, na které pravidlo se tato výjimka pravděpodobně vztahuje.

Mnoho z AI, které jsou dnes vymýšleny, je utvářeno kolem formulování pravidla, zatímco výzvy spojené s výjimkami mají tendenci být opuštěny a pokrčeny rameny.

Pro ty, kteří jsou rádi mazaní a říkají, že neexistují žádné výjimky z pravidla, že vždy existují výjimky z pravidla, bych uznal, že tento vtip se zdá být mentálním hlavolamem. Konkrétně, jak můžeme mít pravidlo, že vždy existují výjimky, ale pak se zdá, že právě toto pravidlo neplatí pro pravidlo, že vždy existují výjimky z pravidla?

Roztočí vás hlava.

Naštěstí není třeba tyto střízlivé záležitosti přehnaně komplikovat. Doufejme, že dokážeme žít s praktickým a životně důležitým pravidlem, na které bychom měli dávat pozor, a vycházet vstříc výjimkám z každého pravidla.

Tím se věci vyřeší, takže teď na tom pojďme pracovat.