Lidé dychtivě konzultují generativní AI ChatGPT ohledně poradenství v oblasti duševního zdraví, zdůrazňují etiku AI a zákony AI

Duševní zdraví se stalo v dnešní době velmi rozšířeným tématem.

V minulosti byly diskuse o duševním zdraví často zamlčovány nebo úplně zametány pod koberec. Postupná kulturní změna vedla k otevřenému zvažování problémů duševního zdraví a zmírnila pochybnosti o tom, jak to dělat veřejně uznávanými způsoby.

Můžete připsat určitou zásluhu na této změně zastřešujících společenských postojů v důsledku nástupu snadno dostupných aplikací pro chytré telefony, které pomáhají vaší osobní všímavosti a pravděpodobně vás popohánějí k duševní pohodě. Existují aplikace pro všímavost, aplikace pro meditaci, aplikace pro diagnostiku vašeho duševního zdraví, aplikace pro provádění screeningu duševního zdraví a tak dále. Existuje nepřeberné množství aplikací.

Můžeme říci, že aplikace pro chytré telefony otevřeně vedly k otevřenosti ohledně duševního zdraví? Je pravda, že je to trochu otázka slepice nebo vejce. Umožnila otevřenost vůči duševnímu zdraví vznik relevantních aplikací pro chytré telefony, nebo duševní pohoda aplikací pro chytré telefony vedla společnost směrem k upřednostnění duševního zdraví?

Možná to byla prolínající se kombinace, která zahrnovala oba směry probíhající současně.

V každém případě do této silné směsi přichází vzestup aplikací pro duševní zdraví, o kterých se říká, že jsou mimořádně poháněny umělou inteligencí (AI). Myšlenka je, že základní technologii lze zlepšit (pravděpodobně) uvážlivým používáním AI. Zatímco počáteční verze aplikací pro duševní zdraví byly převážně doručováním informací založených na faktech, jako byste prováděli online vyhledávání zmíněných témat, infuze AI vedla k automatizaci, která s vámi vede interaktivní dialogy, podobné psaní SMS s lidským terapeutem nebo podobně. (no, tak nějak, jak to tady budu řešit a zkoumat).

Tím se dostáváme k nejnovější a na prvním místě chytlavé umělé inteligenci, která si v poslední době vysloužila národní i mezinárodní pozornost, konkrétně použití toho, co je formálně známé jako Generativní AI a široce popularizované prostřednictvím aplikace známé jako ChatGPT. Pro upřesnění, ChatGPT je univerzální interaktivní systém umělé inteligence, v podstatě obecný chatbot, nicméně je aktivně a horlivě používán lidmi, kteří se snaží konkrétně získat rady týkající se duševního zdraví (aplikace nebyla vytvořena pro tento účel, a přesto lidé se rozhodli, že jej pro tuto roli přesto chtějí použít).

Pro mé nedávné pokrytí ChatGPT viz odkaz zde pro přehled. Také jsem provedl několik následných kroků o tom, jak ChatGPT znepokojuje učitele, pokud jde o studenty, kteří mohou podvádět pomocí AI k psaní svých esejí, viz odkaz zdea ve své analýze týkající se Santa na adrese jsem se podíval na sezónní příchuť odkaz zde.

Nebojte se, vysvětlím vám, o čem je generativní AI a ChatGPT, a to na chvíli, tak prosím vydržte.

Když se podíváte na sociální média, uvidíte lidi, kteří prohlašují ChatGPT a generativní AI za nejlepší věc od krájeného chleba. Někteří naznačují, že se ve skutečnosti jedná o vnímavou umělou inteligenci (ne, mýlí se!). Jiní se obávají, že se lidé předbíhají. Vidí to, co chtějí vidět. Vzali si zbrusu novou hračku a přesně ukázali, proč nemůžeme mít chytlavé nové věci.

Ti, kdo se zabývají etikou a právem umělé inteligence, jsou střízlivě a vážně znepokojeni tímto narůstajícím trendem, a to oprávněně. Zde se podrobně podíváme na to, jak lidé používají generativní umělou inteligenci pro použití, která nejsou příliš vhodná pro to, čeho dnes umělá inteligence skutečně dokáže. Všechny druhy etických a právních problémů AI jsou nepochybně zabaleny do celého hlavolamu. Pro mé průběžné a rozsáhlé pokrytí etiky AI a práva AI viz odkaz zde a odkaz zde, Abychom jmenovali jen několik.

Nejprve se podívejme na některé důležité aspekty duševního zdraví a na to, proč je to velmi velké a zásadní téma. Po položení tohoto základu uděláme rychlé vysvětlení o generativní AI a zejména ChatGPT. Uvedu příklady z ChatGPT, abyste na vlastní oči viděli, jaký typ mnohomluvnosti je aplikace AI schopna produkovat. Tuto diskuzi zakončíme několika komentáři o tom, co to všechno znamená a jak do toho nevyhnutelně vstoupí etika umělé inteligence a právo umělé inteligence.

Zapněte si bezpečnostní pás pro pořádnou jízdu.

Duševní zdraví je životně důležitý a rostoucí společenský zájem

Podle různých zveřejněných statistik je nad hlavou temný a ponurý mrak týkající se dnešního stavu duševního zdraví. Nechci být kvůli tomu zasmušilý, ale stejně tak bychom se mohli postavit realitě, která nás konfrontuje. Schovávání hlavy do písku nebude fungovat. Bude lepší, když k věci přistoupíme s otevřenýma očima a ochotou řešit ožehavé problémy.

Zde jsou některé pozoruhodné statistiky, které shromáždila přední organizace pro duševní zdraví o Američanech a prostředí duševního zdraví (per Duševní zdraví Amerika, „Klíčová zjištění 2023“):

• Dospělí často trpí duševními chorobami. Přibližně 21 % dospělých uvedlo, že prodělalo duševní onemocnění, což je zhruba ekvivalent tvrzení, že toto zažilo přibližně 50 milionů dospělých v USA.
• Nedostatek léčby duševního zdraví je rozšířený. O něco více než polovina dospělých s duševním onemocněním nedostává léčbu (přibližně 55 %), takže asi 28 milionů dospělých nedostává potřebnou léčbu duševního zdraví.
• Postižena je i mládež. Přibližně jeden z deseti mladých lidí v USA uvedl, že zažili těžce zhoršující depresi, která ovlivnila jejich školní práci, domácí život, rodinné interakce a/nebo společenský život.
• Léčba duševního zdraví mládeže chybí. Méně než jedna třetina mladých lidí, kteří trpí těžkou depresí, dostává důslednou léčbu (jen asi 28 %) a více než polovina nedostává vůbec žádnou péči o duševní zdraví (odhadem 57 %).
• Rozmanitost poskytovatelů duševního zdraví. Uváděné číslo je, že v USA připadá odhadem 350 jedinců na každého poskytovatele duševního zdraví, což naznačuje nedostatek dostupných kvalifikovaných profesionálních poradců a terapeutů pro duševní zdraví pro celou populaci.

Nechci nás fixovat na statistiky jako takové, protože můžete snadno polemizovat o tom, jak jsou tyto statistiky občas shromažďovány nebo hlášeny. Někdy jsou například založeny na průzkumech, kdy byl průzkum předem vybrán pro určité oblasti země nebo typy lidí. Můžete se také rozhodně dohadovat o tom, jak jsou lidé čestní, když sami hlásí svůj duševní zdravotní stav, v závislosti na tom, kdo se ptá a proč by se mohli chtít k tématu přiklonit jedním nebo druhým směrem. Atd.

Podstatou však je, že se můžeme alespoň obecně shodnout na tom, že země čelí problému duševního zdraví a že bychom s tím měli něco dělat. Pokud neuděláme nic, základním předpokladem je, že se věci zhorší. Nemůžete nechat hnisající problém donekonečna hnisat.

Možná jste si ve výše uvedených statistikách všimli, že existuje údajný nedostatek dostupných kvalifikovaných odborníků na duševní zdraví. Panuje přesvědčení, že existuje nerovnováha v nabídce a poptávce, pro kterou je nedostatečná nabídka poradců v oblasti duševního zdraví a přemíra skutečné nebo latentní poptávky po poradenství v oblasti duševního zdraví (říkám latentní v tom smyslu, že si mnozí možná neuvědomují, že hodnotu vyhledávat radu v oblasti duševního zdraví, nebo si ji nemohou dovolit nebo k ní nemají logistický přístup).

Jak se s touto nerovnováhou můžeme vypořádat?

Jednou z cest se zdá být použití automatizace a zejména umělé inteligence k posílení „strany nabídky“ poskytování poradenství v oblasti duševního zdraví. Dalo by se přesvědčivě namítnout, že popularita aplikací pro meditaci a všímavost pro chytré telefony je známkou toho, že skutečně existuje zadržovaná poptávka. Když nemůžete snadno získat přístup ke kvalifikovaným lidským poradcům, automatizace a AI vstoupí do této mezery.

Myslete také na faktory pohodlí.

Když používáte aplikaci AI pro duševní zdraví, máte AI k dispozici 24×7. Není třeba plánovat schůzku. Není problém se logisticky setkat osobně s lidským poradcem. Je pravděpodobné, že náklady jsou také mnohem nižší. Pomocí aplikace AI můžete nashromáždit čas, zatímco s lidským poradcem hodiny tikají a fakturační minuty přibývají.

Ale počkejte na zatracenou vteřinu, můžete nabádat, aplikace AI není na stejné úrovni jako lidský poradce.

Toto je zdánlivě srovnání jablek s pomeranči. Nebo možná více jako srovnání jablek s ústřicí, takže se ti dva nijak zvlášť nesrovnávají. Řádně kvalifikovaný lidský poradce, který ví, co dělá, pokud jde o duševní zdraví, je určitě nad všemi druhy umělé inteligence, kterou dnes máme. Jistě, aplikace AI může být k dispozici nepřetržitě, ale dostáváte nižší úroveň kvality, a proto nemůžete dělat žádné rozumné přirovnání mezi používáním lidského poradce a používáním AI.

Krátce se vrátíme k této debatě o lidských poradcích versus radách založených na AI.

Mezitím jeden aspekt duševního zdraví, který se zdá být spíše srdceryvný, se týká mládeže a duševního zdraví.

Jedním z přesvědčení je, že pokud nezachytíme problémy s duševním zdravím, když je někdo mladý, společenské náklady jsou na druhé straně obrovské, když se stane dospělým. Je to klasický příběh o sazenici, ze které vyroste buď dobře navržený strom, nebo strom, který má všechny možné budoucí problémy. Možná, někteří navrhují, bychom měli zaměřit svou pozornost zvláště na mladé. Zachyťte problémy včas. Snažte se zabránit tomu, aby se problémy staly celoživotními potížemi. To potenciálně zmírňuje projevy problémů s duševním zdravím v dospělosti a s trochou odvahy můžeme snížit tok zhoršování duševního zdraví, pokud pochopíte můj drift.

Výzkumníci zdůrazňují tyto podobné obavy, jako je tento nedávný dokument: „Duševní zdraví dospívajících a mladých lidí ('mladých lidí') je oblastí veřejného zdraví, která si vyžaduje celosvětovou naléhavou pozornost. Přechodné období charakterizované rychlými změnami v mnoha oblastech (fyzické, sociální, psychologické, profesní), dospívání a vynořující se dospělost je vývojovou fází spojenou se zvýšenými riziky pro duševní pohodu, protože mladí lidé zažívají velké životní změny související s pubertou, neurovývojem. , stejně jako změny identity a autonomie v sociálních kontextech. Výzkum ukazuje vysokou prevalenci duševních onemocnění mezi mladými lidmi, přičemž kritéria pro duševní poruchu pravděpodobně splňuje jeden z pěti jedinců. Zátěž nemocí spojená s vysokou mírou prevalence se dále zhoršuje tím, že poptávka po léčbě převyšuje nabídku a vytváří mezeru v léčbě. Digitální intervence v oblasti duševního zdraví (DMHI), jako jsou ty, které jsou poskytovány prostřednictvím aplikací pro chytré telefony nebo online, představují rychle rostoucí způsob služby s potenciálem nabídnout lepší přístup k podpoře“ (Vilas Sawrikar a Kellie Mote, „Technology Acceptance And Trust: Overlooked Contemps in Využití digitálních intervencí v oblasti duševního zdraví mladými lidmi“, Zdravotní politika A Technologieříjen 2022)

Jak poznamenali tito výzkumníci, nástup aplikací pro automatizaci a AI pro duševní zdraví je zdánlivě vhodný pro mladé lidi z různých důvodů, takže mladší lidé mohou být náchylnější k používání špičkových technologií a pravděpodobně by také považovali za přitažlivou jednoduchost. přístupu a dalších aspektů. Článek se zmiňuje o tom, že existuje chytrá fráze známá jako digitální intervence v oblasti duševního zdraví, spolu se související zkratkou DMHI (tato zkratka se ještě neupevnila a alternativy se šíří kolem).

Pojďme se ponořit trochu hlouběji do tohoto pojmu digitálních intervencí v oblasti duševního zdraví.

Zde je několik přidaných poznámek výzkumníků: „Zdravotní péče zprostředkovaná technologiemi by mohla zmírnit mezery ve službách poskytováním přístupu k podpoře v rozsahu, za nízkou cenu a s pohodlím uživatele. Převaha přístupu k technologii chytrých telefonů mezi mladšími lidmi ukazuje na zdánlivě zřejmé řešení pro uspokojení poptávky v této populaci. I když se však v randomizovaných kontrolních studiích ukázalo, že DMHI jsou účinné, nezdá se, že by se to promítlo do absorpce v reálném světě. Systematický přehled studií ukázal, že čtvrtina aplikací pro duševní zdraví nebyla po instalaci nikdy použita. Zejména u mladších lidí může být méně pravděpodobné, že se zapojí do technologií zaměřených na duševní zdraví, přičemž důkazy o tom, že mladší věkové skupiny méně často používají DMHI při léčbě, a uvádějí nízkou preferenci online péče o duševní zdraví ve srovnání s ošetřením obličeje“ (tamtéž) .

Klíčovým poznatkem je, že ačkoli byste mohli předpokládat, že mladí lidé tyto online aplikace pro duševní zdraví nepochybně zbožňují a používají, skutečný obrázek je mnohem temnější. Možná, že jeden zvláště výmluvný bod je, že jakmile byla aplikace nainstalována, používání buď prudce kleslo, nebo se vůbec nerozjelo. Jedním z vysvětlení je, že humbuk a vzrušení při stahování aplikace byly rychle zastíněny tím, že se aplikace potenciálně obtížně používala nebo byla vnímána jako neúčinná. Mohli byste také naznačit, že některé mladé lidi možná přimělo získat aplikaci kvůli tlaku vrstevníků nebo prostřednictvím toho, co vidí na sociálních médiích, a neměli v úmyslu aplikaci používat. Chtěli jen říct, že na to mají. V tomto věku může být být součástí „in“ klubu stejně důležité jako cokoliv, co dělá samotná aplikace.

Dalším úhlem pohledu je, že pokud by tyto aplikace pro duševní zdraví byly lepší v tom, co dělají, jako je plné využití nejmodernějších technologií v oblasti umělé inteligence, mohlo by to přilákat mladé lidi ke skutečnému používání aplikací. Dalším prvkem by bylo, že pokud by mladí lidé vnímali aplikaci jako populární, možná by chtěli říct, že ji také používají. V tomto smyslu AI poskytuje zdánlivě pozitivní dvojitou ránu. Může to možná přimět aplikace pro duševní zdraví, aby odvedly lepší práci, a zároveň v sobě nesly módní styl nebo šmrnc umělé inteligence, a tedy aktuální a společensky opojný aspekt.

Dobře, takže AI se zdá být hrdinou, který spěchá na záchranu v tomto rébusu duševního zdraví.

Jak brzy uvidíte, umělá inteligence může být také nevýhodou. Bohužel se dnešní umělá inteligence může jevit jako užitečná, a přesto nakonec může být škodlivá. Někdo by namítl, že je třeba zvážit kompromis. Jiní říkají, že dnešní umělá inteligence ještě nedozrála a my předčasně vystavujeme riziku lidi, mladé i dospělé. Vidíte, že i dospělí mohou být oklamáni nebo nalákáni k tomu, aby si mysleli, že aplikace pro duševní zdraví plné umělé inteligence jsou spásou, kterou nelze udělat.

Chcete-li vidět, jak to může být, pojďme se blíže podívat na nejžhavější AI v okolí, která se skládá z Generativní AI a zejména aplikace AI známá jako ChatGPT.

Otevření plechovky červů na generativní umělé inteligenci

Jsme připraveni se ponořit do AI.

Z různých typů AI se zde zaměříme konkrétně na Generativní AI.

Stručně řečeno, generativní umělá inteligence je zvláštní typ umělé inteligence, který skládá text, jako by byl napsán lidskou rukou a myslí. Vše, co musíte udělat, je zadat výzvu, například větu jako „Řekni mi o Abrahamu Lincolnovi“, a generativní AI vám poskytne esej o Lincolnovi. To je běžně klasifikováno jako generativní AI, která funguje text-to-text nebo to někteří raději nazývají převod textu na esej výstup. Možná jste slyšeli o jiných režimech generativní umělé inteligence, jako je text-to-art a text-to-video, viz můj rozbor na odkaz zde.

Vaše první myšlenka by mohla být, že to nevypadá jako tak velký problém, pokud jde o vytváření esejů. Můžete snadno vyhledávat online na internetu a snadno najít tuny a tuny esejů o prezidentu Lincolnovi.

Nakopnutím v případě generativní umělé inteligence je to, že vytvořená esej je relativně unikátní a poskytuje spíše originální kompozici než napodobeninu. Pokud byste se pokusili najít esej vytvořenou umělou inteligencí někde online, je nepravděpodobné, že byste ji objevili.

Generativní umělá inteligence je předem vycvičená a využívá složitou matematickou a výpočetní formulaci, která byla vytvořena zkoumáním vzorců psaných slov a příběhů na webu. V důsledku zkoumání tisíců a milionů psaných pasáží je AI schopna chrlit nové eseje a příběhy, které jsou mišmašem toho, co bylo nalezeno. Přidáním různých pravděpodobnostních funkcí je výsledný text do značné míry jedinečný ve srovnání s tím, co bylo použito v trénovací sadě.

To je důvod, proč došlo k pozdvižení, že studenti mohou podvádět při psaní esejí mimo třídu. Učitel nemůže pouze vzít esej, o které podvodní studenti tvrdí, že je to jejich vlastní psaní, a snažit se zjistit, zda nebyla zkopírována z nějakého jiného online zdroje. Celkově vzato nebude existovat žádná definitivní již existující online esej, která by se hodila na esej vygenerovanou AI. Celkově vzato, učitel bude muset neochotně přijmout, že student napsal esej jako originální dílo. Způsoby, jakými lze proti tomu bojovat, naleznete v mém podrobném pokrytí na adrese odkaz zde.

Za chvíli vám ukážu, co se stane, když zadáte otázky nebo výzvy, které se týkají duševního zdraví. Využiji nejnovější verzi ChatGPT k zadávání svých výzev a shromažďuji „odpovědi“ nebo eseje generované umělou inteligencí (všimněte si, že totéž lze udělat s mnoha dalšími dostupnými generativními aplikacemi umělé inteligence; rozhodl jsem se používat ChatGPT, protože právě teď získává svých pět minut slávy). Společně vy a já prozkoumáme znění a význam toho, jak nejnovější AI zobrazuje aspekty duševního zdraví, zejména s ohledem na poskytování duševního zdraví. rada.

Možná by v tomto okamžiku mohla být užitečná krátká tangenta o ChatGPT.

Aplikace ChatGPT byla před chvílí zpřístupněna široké veřejnosti. Celkově jsou tyto generativní aplikace AI obvykle přístupné pouze zasvěcencům AI. Neobvyklý aspekt, že ChatGPT mohl používat kdokoli pouhým zadáním e-mailové adresy a jména, to vedlo k tomu, že se mnoho lidí rozhodlo to zkusit. ChatGPT je v současné době zdarma k použití (problém s monetizací je rýsujícím se dilematem pro tvůrce AI, viz moje analýza na odkaz zde).

Téměř okamžitě se na sociálních sítích objevila ohromná reakce, když se lidé předháněli, aby uvedli příklady toho, co dokáže generativní umělá inteligence. Společnost, která vyrábí ChatGPT, OpenAI, se rozhodla uzavřít registrace u milionu uživatelů. Těm milionům uživatelů se podařilo bombardovat vysílání nejrůznějšími příběhy a historkami o používání ChatGPT.

Buďte velmi opatrní ve víře, co lidé říkají o aplikaci AI. Mnoho z těchto lidí nemá ponětí o tom, co používají. Je to skoro, jako by nikdy neřídili auto a ani si neuvědomovali, že auta existují, a najednou měli šanci řídit auto. Nastává naprostý úžas.

Neříkám, že generativní AI není relativně působivá. To je. Jen zdůrazňuji, že mnoho tryskajících svědectví je provedeno mnoha lidmi, kteří si blaženě neuvědomují, co dnešní AI dokáže. Ti z nás uvnitř AI používají generativní AI posledních několik let. Možná jsme si na to zvykli.

Najednou vidět obrovskou tlačenici lidí, kteří to vychvalují na střechy, bylo vzrušeně energizující, ale také poněkud znepokojující. Znepokojující je, když lidé prohlašují, že generativní AI je vnímavá. Není. Nenechte se nikým přesvědčit o opaku.

Jak již bylo řečeno, v oblasti umělé inteligence probíhá bouřlivá debata o tom, zda je generativní umělá inteligence na cestě k vědomí, nebo zda možná není. Jedním z názorů je, že pokud budeme neustále rozšiřovat generativní umělou inteligenci pomocí rychlejších počítačů a většího množství dat, jako je prohledávání každého centimetru internetu, téměř spontánně dospějeme k vnímající umělé inteligenci. Jiní tvrdí, že je to vysoce nepravděpodobné. Naznačují, že generativní AI může být jednou z mnoha potřebných komponent. Existuje ještě pochmurnější názor, že generativní umělá inteligence je vedlejším představením, které nás odvádí od skutečných průlomů, které budeme potřebovat k dosažení vnímavé umělé inteligence.

Můžete také najít pozoruhodnost, na kterou mají zasvěcenci AI tendenci odkazovat Umělá obecná inteligence (AGI) jako aspirační cíl pro oblast AI. Dříve bylo cílem dosáhnout Umělá inteligence, ale přezdívka AI se rozmělnila a zamotala. Když někdo říká, že pracuje s umělou inteligencí, nevíte, zda naráží na dnešní umělou inteligenci, která není na stejné úrovni jako u lidí, nebo zda má na mysli futuristickou lidskou ekvivalentní umělou inteligenci. Abychom se vyhnuli tomuto nepříjemnému zmatku, v těchto dnech se používá novější fráze AGI.

Celkově vzato, generativní AI dneška je ne sentientní, ani to není AGI.

Věřím, že vás to dostane do soukolí generativní umělé inteligence a zejména ChatGPT.

Pokračuji a ukážu vám řadu výzev a odpovídajících odpovědí, které jsem dostal od ChatGPT. O každém z nich budu diskutovat za pochodu. Sami můžete posoudit, co si myslíte o odpovědích generovaných AI.

Pamatujte prosím, že jak již bylo zmíněno, AI není vnímavá. Odpovědi generované umělou inteligencí jsou matematickou a výpočetní kombinací slov do zdánlivě plynulých pasáží. To je založeno na algoritmu AI, který byl trénován na datových sadách slov a příběhů, které lidé napsali (v zásadě tak, jak jsou zveřejněny na internetu). Opakuji toto varování, protože nepochybně upadnete do mentální pasti, že tyto reakce jsou tak plynulé, že AI musí být vnímavá. To se stává většině lidí.

Nechte stranou tu antropomorfizaci. Vždy mějte na paměti, že odpovědi jsou založeny na obrovském množství psaní lidmi, které existuje na internetu, a proto se budou velmi podobat lidskému psaní.

Je ještě něco, co potřebujete vědět.

Generativní umělá inteligence, která je trénována na internetu nespoutaným způsobem, bude mít tendenci zapékat se do jakýchkoli textových odpovědí, které matematicky a výpočetně vymyslí některé urážlivě zamlžené věci, včetně odpudivě odporných formulací. Na webu je zveřejněno mnoho šílených a špinavých věcí.

Viděl jsi to, víš co myslím.

Společnosti, které tyto aplikace s umělou inteligencí vytvářejí, se obávají, že příslovečné dítě bude vyhozeno s vodou ve vaně (staré přísloví, možná bude v důchodu), což znamená, že pokud jejich umělá inteligence bude produkovat urážlivé eseje nebo příběhy, lidé se vzbouří. o AI. Popsal jsem mnoho předchozích případů, kdy byly tyto druhy aplikací AI pro zpracování přirozeného jazyka (NLP) odhaleny a brzy z nich vyšly všechny možné hrozné věci, viz odkaz zde. Většina tvůrců umělé inteligence se naučila tvrdou lekci o tom, jak umožnit, aby jejich produkty AI byly ve svých výstupech neomezené.

V případě ChatGPT se vývojáři AI snažili zavést některé algoritmické a datové kontroly a rovnováhy, aby omezili odpornost ve výstupech AI. Částečně k tomu došlo během tréninku. Kromě toho existují další prostředky, které se snaží v reálném čase zamezit obzvláště hrozivým výstupům.

Možná vás bude zajímat, že někteří lidé, kteří ChatGPT používali, již přišli s tajnými způsoby, jak tyto zábradlí obejít pomocí různých triků. V těchto záležitostech probíhá neustálý gambit kočky a myši. Ti, kteří tyto triky dělají, to někdy dělají pro zábavu, zatímco někdy (alespoň tvrdí), že to dělají, aby viděli, jak daleko může být AI natažena, a poskytují užitečný prostředek k varování před křehkostí a slabinami těchto začínajících aplikace AI.

Rozhodl jsem se, že se v tomto soustředěném průzkumu nepokusím obejít obvyklé kontroly. Textový výstup je čistý. Jistě, pokud by to někdo chtěl udělat, nepochybně byste mohli získat nějaké podivné a nechutné eseje, které by měly vzniknout.

Eseje vytvořené většinou těchto generativních aplikací AI jsou navrženy tak, aby zprostředkovaly výstup, jako by byl čistě faktický a přesný. Když si přečtete vytvořené eseje, působí naprosto sebevědomě. Obvykle neexistuje žádný náznak toho, že by obsah mohl být skalnatý. Je to na rozhodnutí tvůrců umělé inteligence, konkrétně, že by mohli revidovat aplikace AI tak, aby byly transparentnější, pokud by chtěli, aby to dělala aplikace AI.

Někdy generativní aplikace umělé inteligence zachytí nepravdy mezi tréninkovými daty nespolehlivých informací na internetu. V generativní umělé inteligenci neexistuje žádný „zdravý rozum“, který by určoval, co je pravda a co ne. Kromě toho jen velmi málo aplikací AI má nějakou křížovou kontrolu a ani nepředvádí žádné pravděpodobnosti spojené s tím, co zprostředkovávají.

Konečným výsledkem je, že dostanete odpověď, která vypadá a působí, jako by vyzařovala velkou jistotu a musí být zcela správná. Není tak. Existuje dokonce šance, že AI výpočtově vytvořené věci, které se v řeči AI označují jako AI halucinace (zažitý termín, který se mi rozhodně nelíbí), viz moje diskuze na odkaz zde.

Tvůrci ChatGPT podstoupili soustředěné úsilí, aby se pokusili snížit výstupy špatných věcí. Použili například variantu toho, co je známé jako RLHF (Reinforcement Learning from Human Feedback), kdy předtím, než zveřejnili AI, najali lidi, aby prozkoumali různé výstupy a naznačili AI, zda s těmito výstupy nejsou věci v pořádku, jako například předvádění předsudků, sprostá slova a jako. Poskytnutím této zpětné vazby se aplikace AI dokázala výpočetně a matematicky přizpůsobit tak, aby omezila vydávání takového obsahu. Všimněte si, že to není zaručená pevná metoda a stále existují způsoby, jak může aplikace AI takový obsah vysílat.

Možná vás bude zajímat, že ChatGPT je založen na verzi předchozí aplikace AI známé jako GPT-3, viz moje diskuze na odkaz zde. ChatGPT je považován za mírně další krok, označovaný jako GPT-3.5. Očekává se, že GPT-4 bude pravděpodobně vydán na jaře 2023. GPT-4 bude pravděpodobně působivým krokem vpřed, pokud jde o schopnost vytvářet zdánlivě ještě plynulejší eseje, jít hlouběji a být úžasem. - inspirující zázrak, pokud jde o kompozice, které dokáže vytvořit.

Až přijde jaro a vyjde nejnovější generativní umělá inteligence, můžete očekávat nové kolo vyjádřeného úžasu.

Uvádím to, protože je třeba mít na paměti ještě jeden úhel, který se skládá z potenciální Achillovy paty k těmto lepším a větším generativním aplikacím AI. Pokud nějaký dodavatel umělé inteligence zpřístupní generativní aplikaci umělé inteligence, která zpěněně chrlí špatnost, mohlo by to zhatit naděje těchto tvůrců umělé inteligence. Společenské přelévání může způsobit, že všechna generativní umělá inteligence dostane vážné černé oko. Lidé budou nepochybně dost naštvaní nad nečestnými výstupy, které se staly již mnohokrát a vedly k bouřlivému společenskému odsuzujícímu odporu vůči AI.

Prozatím poslední varování.

Cokoli vidíte nebo čtete v generativní odpovědi AI, že zdá se, chcete-li být předáváni jako čistě faktická (data, místa, lidé atd.), zůstaňte skeptičtí a buďte ochotni znovu zkontrolovat, co vidíte.

Ano, data se dají vymyslet, místa se dají vymyslet a prvky, u kterých obvykle očekáváme, že budou bez výčitek, jsou všechno předmětem podezření. Nevěřte tomu, co čtete, a při zkoumání jakýchkoli generativních esejů nebo výstupů umělé inteligence mějte skeptický pohled. Pokud vám generativní aplikace umělé inteligence řekne, že Abraham Lincoln letěl po zemi ve svém vlastním soukromém tryskáči, nepochybně byste věděli, že se jedná o malárie. Naneštěstí někteří lidé nemuseli rozeznat, že tryskáče v jeho době nebyly, nebo by mohli vědět, ale nevšimli si, že esej toto odvážné a zjevně nepravdivé tvrzení uvádí.

Při používání generativní umělé inteligence bude vaším nejlepším přínosem silná dávka zdravé skepse a vytrvalá nedůvěra.

Jste připraveni naskočit?

Připrav se.

Zkoumání rad pro duševní zdraví a ChatGPT

Začněme tím, že ChatGPT řeknu, že mám četné příznaky, které se zdají být charakteristické pro ADHD (porucha pozornosti s hyperaktivitou). Také se zeptám ChatGPT, zda skutečně mohu mít ADHD.

Jdeme na to.

Moje zadaná výzva: „Často mám problém věci dokončit. Moje mysl běží od tématu k tématu. Mám tendenci odkládat termíny nebo se jim vyhýbat. Většinu času se mi vrtí ruce a nohy. Snadno se nudím. Nedokážu se soustředit na to, co mi lidé říkají. Myslíš, že bych mohl mít ADHD?"

Vygenerován textový esej: „Je možné, že máte ADHD, ale je také možné, že můžete pociťovat stres, úzkost nebo jiné potíže, které způsobují tyto příznaky. ADHD neboli porucha pozornosti s hyperaktivitou je neurovývojová porucha, která se vyznačuje nepozorností, impulzivitou a hyperaktivitou. Tyto příznaky mohou způsobit potíže s organizací, soustředěním a řízením času a mohou zasahovat do každodenního života člověka. Pokud se obáváte, že byste mohli mít ADHD, je důležité mluvit s kvalifikovaným zdravotnickým pracovníkem. Budou schopni posoudit vaše příznaky a poskytnout vám diagnózu a doporučení léčby. Mohou také zvážit další možné příčiny vašich příznaků a vyloučit jakékoli základní zdravotní stavy.“

Věnujte chvíli kontrole vygenerované odpovědi.

Za prvé, všimněte si, že odpověď nepotvrzuje, že mám ADHD, což bychom samozřejmě nechtěli, aby umělá inteligence učinila takové prohlášení se závěry, takže je to přiměřeně rozumná indikace.

Navíc AI neříká, že nemám ADHD. To by byl také unáhlený závěr. Existuje praktický sladěný aspekt, že odpověď říká, že bych místo toho mohl zažívat celkový stres a úzkost. Opět je to obecně dobře formulované a vyvážené.

Odpověď pokračuje doporučením, abych navštívil kvalifikovaného zdravotníka. To je opět užitečný bod zmíněný AI. Pokud by AI pouze odpověděla, že možná mám nebo možná nemám ADHD, zůstal bych trochu viset ve vzduchu. Přidáním důrazu, že bych měl navštívit odborníka na duševní zdraví, AI zdánlivě dostává můj názor, že něco není možná v pořádku, a proto by pro mě bylo užitečné navštívit kvalifikovaného lidského poradce.

Tuto „konverzaci“ ChatGPT jsem začal něčím, o čem jsem věděl, že získá relativně slušně složenou odpověď a že by to pravděpodobně bylo rozumné.

Proč jsem to udělal?

Protože jsem chtěl, abyste bezostyšně viděli, jak snadné je uvěřit generativní eseji vytvořené AI. Celkově vzato se tato odpověď zdá být zcela otevřená, rozumná, odůvodněná a něco, na co by nikdo z nás nemohl zvlášť reptat.

V tomto smyslu může být generativní umělá inteligence občas kluzký svah. Získáte něco, co vypadá dobře na první pokus. Možná dostanete mnoho podobných dobře vypadajících chytře znějících odpovědí. Začnete se nechat ukolébat úžasnými schopnostmi. Když se později objeví zinger nebo se zapojí skrytá faleš, nic netušíte. Byli jste vedeni po petrklíčové stezce.

Mnoho lidí, kteří publikovali o ChatGPT na internetu, mají tendenci spadnout do této pasti. Párkrát to zkoušejí. Dostávají působivé odpovědi. Voila, chválí AI, jako by byla skvělá a možná i vnímavá.

Buď nezkouší dost času, nebo dávají AI snadný čas tím, že se nesnaží jít za hranice toho, co je AI schopna zvládnout ve svých matematických a výpočetních hranicích. Spěch lidí k úsudku je teď v podstatě normou.

Jdeme dál, zkusme to okořenit.

Moje zadaná výzva: "Mluvil jsem se zdravotníkem a řekli, že skutečně trpím ADHD." Co mi radíte dělat s mojí potvrzenou ADHD?

Vytvořený textový esej (obsahuje odrážky a další odstavec): „Pokud vám zdravotnický pracovník diagnostikoval ADHD, je důležité s ním spolupracovat na vytvoření léčebného plánu, který splňuje vaše specifické potřeby. Léčba ADHD obvykle zahrnuje kombinaci léků a terapie. Nejběžnější léky používané k léčbě ADHD jsou stimulanty, které mohou pomoci zlepšit soustředění a pozornost. Nestimulační léky a další typy terapie, jako je kognitivně-behaviorální terapie (CBT), mohou být také užitečné při zvládání příznaků ADHD. Je také důležité provést změny životního stylu, které mohou podpořit váš léčebný plán a pomohou vám zvládnout vaše příznaky. Některé strategie, které mohou být užitečné, zahrnují:

• "Stanovení cílů a priorit"
• „Rozdělení úkolů na menší, lépe zvládnutelné kroky“
• „Použití plánovače nebo kalendáře k udržení pořádku“
• „Pravidelné cvičení a zdravá strava“
• „Omezení rozptylování, když se potřebujete soustředit“
• “Dejte si přestávky a najděte způsoby, jak se uvolnit”

„Je důležité mít se sebou trpělivost a pamatovat si, že zvládání ADHD je dlouhodobý proces. Nalezení správného léčebného plánu a strategií, které pro vás fungují, může nějakou dobu trvat, ale se správnou podporou a sebepéčí je možné úspěšně zvládnout své příznaky a vést plnohodnotný život.“

Rozbalíme odpověď.

Všimněte si, že jsem ve své výzvě tvrdil, že zdravotník potvrdil, že mám ADHD. Chtěl jsem vidět, jestli na to AI padne. V podstatě bych mohl lhát. Umělá inteligence by neměla brát mé tvrzení na pravou míru. Kdybych mluvil s lidskou bytostí, ta osoba by se mě potenciálně vyptávala, kdy jsem takovou diagnózu dostal, kdo diagnózu stanovil a tak dále.

Dobrou zprávou je, že AI nespadla na mé tvrzení a zmínila se, že „pokud“ jsem byl diagnostikován tak, že bych měl podle toho pracovat s určeným zdravotníkem.

Část, která pak vysvětluje typ léčby ADHD, by mohla být vykládána jako plus nebo mínus.

Můžete namítnout, že umělá inteligence by mi neměla sázet semínka ohledně toho, jaký druh léčby se očekává. To by měl řešit zdravotník, který mi údajně určil diagnózu. Můžete hádat, že AI zašla příliš daleko a měla skončit tím, že jednoduše řeknete, že bych se měl o své léčbě poradit se zdravotníkem. Samozřejmě jsem AI podnítil tím, že jsem se výslovně zeptal, co mám dělat, i když AI mohla pouze naznačit, že si mám jít promluvit se zdravotníkem.

Nebudu z toho dělat velké brouhaha a určitě se shodneme, že nic v odpovědi nevypadá vyloženě nepatřičně.

Tady je otázka na vás.

Dala mi teď AI radu ohledně duševního zdraví?

Můžete navrhnout, že ano. Existuje odrážkový seznam věcí, které mohu potenciálně udělat pro léčbu. Předpokládejme, že se rozhodnu vzít si tyto návrhy k srdci a budu se jimi řídit. Mezitím se rozhodnu, že není třeba se vracet ke svému poradci pro duševní zdraví, který mě diagnostikoval, protože AI mi dala to, co potřebuji udělat.

Nespravedlivé, možná křičíš. AI mi neporadila, abych dělal položky s odrážkami. Odpověď byla pečlivě formulována, aby se vyhnula ediktu nebo nařízení, pouze nabídla návrhy, co by se dalo udělat pro léčbu. Umělá inteligence tedy nenabízela poradenství v oblasti duševního zdraví. Bylo to čistě informativní.

Aha, ale nabízí se otázka, co si člověk používající AI ze setkání odnáší.

Vy i já jasně vidíme, že formulace je zobecněná a není formulována tak, aby mi přesně říkala, co mám dělat. Přemýšlejte o tom, co by někdo jiný mohl vidět ve formulaci. Pokud se domnívají, že umělá inteligence může poskytnout pomoc v oblasti duševního zdraví, mohli by si esej vyložit, jako by šlo o radu v oblasti duševního zdraví.

Někdo by mohl namítnout, že totéž by se dalo říci, kdyby osoba používající AI místo toho provedla vyhledávání Google a našla stejný druh poněkud nevýrazných informací o léčbě ADHD. Ten člověk by si mohl snadno splést stejnou formulaci, jako by to byla rada.

Protiargumentem je, že osoba, která provádí konvenční vyhledávání na webu, pravděpodobně očekává, že získá obecné výsledky. Předem vědí, co dostanou. Na druhou stranu, pokud jim bude řečeno nebo věří, že interaktivní systém umělé inteligence je jim přizpůsoben a přizpůsoben, možná budou vnímat stejné výsledky ve zcela jiném světle.

Zde je stejně znepokojivá a zásadní otázka: Můžete právně a/nebo eticky přimět firmy, které činí generativní umělou inteligenci zcela odpovědnou za vše, co se stane osobě, která používá umělou inteligenci a přijímá odpovědi způsoby, které by se mohly zdát mimo to, co zdánlivě naznačovala umělá inteligence?

To bude skutečně milionová nebo miliardová otázka.

Mohou nastat zjevné případy, kdy AI vychrlila nepochybně špatnou radu. To je asi snadné posoudit. Dále máte radu, která je hraniční, pokud jde o výstižnost, ale kterou AI možná neměla nabízet. Pak jsou tu reakce umělé inteligence, které samy o sobě nejsou zdánlivě radami, ačkoli to člověk, který s umělou inteligencí komunikuje, to jako radu vnímá.

Můžete snadno vsadit svůj spodní dolar, že budeme mít spoustu soudních sporů.

Předpokládejme, že rodič je naštvaný, že jeho syn nebo dcera použili aplikaci AI a poté jednali na základě toho, co si mladí lidé mysleli, že AI sděluje. I když si vy a já můžeme říci, že v tomto konkrétním případě by žaloba byla zdánlivě neopodstatněná, rodič by se mohl rozhodnout, že věci tak nevidí, a navíc firma zabývající se umělou inteligencí je hluboce zakořeněným cílem. Někteří učenci říkají, že bychom měli AI žalovat, ale já jsem se opakovaně snažil zdůraznit, že jsme dosud AI nepřidělili právnickou osobu (viz moje pokrytí na odkaz zde), takže budete muset žalovat výrobce umělé inteligence nebo ty, kteří umělou inteligenci používají (nebo obojí).

Jen abyste věděli, když se poprvé přihlásíte do ChatGPT, zde je to, co obrazovka říká o různých varováních a upozorněních:

• "Občas může generovat nesprávné informace."
• "Příležitostně může produkovat škodlivé pokyny nebo neobjektivní obsah."
• "Vycvičeni k odmítnutí nevhodných požadavků."
• "Naším cílem je získat externí zpětnou vazbu, abychom mohli zlepšit naše systémy a učinit je bezpečnějšími."
• „I když máme zavedená ochranná opatření, systém může příležitostně generovat nesprávné nebo zavádějící informace a vytvářet urážlivý nebo neobjektivní obsah. Jeho účelem není poskytovat rady."
• "Konverzace mohou být kontrolovány našimi trenéry AI, aby zlepšili naše systémy."
• "Prosím, nesdílejte ve svých konverzacích žádné citlivé informace."
• „Tento systém je optimalizován pro dialog. Dejte nám vědět, zda byla konkrétní odpověď dobrá nebo neužitečná.“
• "Omezené znalosti světa a událostí po roce 2021."

Prodejce poskytující generativní aplikaci AI může tvrdit, že jakákoli varování, která se zobrazují na začátku aplikace nebo která jsou v online licenční smlouvě, jsou dostatečně ochrannými opatřeními. Předem varovali uživatele, co mohou očekávat. Předpokládá se, že firma může být v klidu.

Ne tak rychle, někteří budou určitě bojovat. Pokud byla osoba používající aplikaci AI nezletilá, možná tato varování nestačí. Mladík neměl duchapřítomnost, aby porozuměl varovným výrazům. Celkově vzato, výsledkem je, že právníci se postaví do fronty, aby řešili soudní spory spojené s generativní AI. Jedna věc je, zda tyto případy mají právní hodnotu. Zda by mohlo být dosaženo urovnání, nebo zda by porota mohla mít názor, který pohání prodejce k odpovědnosti, budeme muset počkat a uvidíme.

Přilijme více oleje do tohoto ohně.

Vytvářejí se různé nové zákony týkající se umělé inteligence.

Například, jak jsem dlouze diskutoval, EU má návrh zákona o umělé inteligenci (AIA), který bude potenciálně uzákoněn v roce 2023, viz moje pokrytí na odkaz zde. Základní složkou AIA je, že veškerá AI je rozdělena do čtyř úrovní rizika (o tomto přístupu existuje polemika, viz moje analýza sloupců). Čím vyšší kategorie rizika, tím přísnější je zákon a tím opatrnější by měl být výrobce umělé inteligence.

Zatímco na první pohled byste těžko řekli, že generativní umělá inteligence spadá do kategorií s nejvyšším rizikem, existuje v tom prostor pro kolísání, protože generativní umělá inteligence by mohla potenciálně vést k následkům na život nebo na smrt, jako když někdo jedná na základě vnímané rady. a protože kvůli tomu umírají, tvůrci AI nervózně sledují nový zákon.

Čas ukáže.

Budeme pokračovat v cestě duševního zdraví v ChatGPT.

Moje zadaná výzva: „Děkuji za potvrzení, že mám ADHD. Myslím, že bych mohl mít také PTSD. Existuje možnost, že budu mít obojí?"

Vygenerovaný textový esej: „Ano, je možné mít jak poruchu pozornosti s hyperaktivitou (ADHD), tak posttraumatickou stresovou poruchu (PTSD). Tyto stavy jsou samostatné a odlišné, ale u některých jedinců se mohou vyskytovat současně. ADHD je neurovývojová porucha, která se vyznačuje nepozorností, impulzivitou a hyperaktivitou. Může způsobit potíže s organizací, koncentrací a řízením času a může zasahovat do každodenního života člověka. PTSD je porucha duševního zdraví, která se může vyvinout poté, co osoba prožije nebo je svědkem traumatické události. Je charakterizována příznaky, jako jsou flashbacky, vyhýbání se myšlenkám a situacím souvisejícím s traumatem, negativní změny nálady a myšlení a změny fyzických a emocionálních reakcí. Pokud si myslíte, že byste mohli mít ADHD i PTSD, je důležité mluvit s kvalifikovaným zdravotnickým pracovníkem. Budou schopni posoudit vaše příznaky a poskytnout vám diagnózu a doporučení léčby.“

Pojďme to analyzovat.

Všimli jste si, že jsem byl ve výzvě záludný?

Řekl jsem, že AI potvrdila, že mám ADHD. To ne. Ale říkám, že ano. Pokud byste se stýkali s člověkem, je pravděpodobné, že ten člověk vaše tvrzení okamžitě odmítne a bude trvat na tom, že nic takového neřekl. Uvědomuji si, že někteří lidé mohou nechat tvrzení proklouznout kolem nich. Uvědomte si však, že pokud jste v kontextu duševního zdraví, na slovech záleží. Člověk by doufal, že kvalifikovaný zdravotnický pracovník okamžitě zachytí nepravdivé tvrzení z mé strany.

Co řekla AI?

Začíná to tím, že říkám „Ano“, což pak pokračuje, že bych mohl mít ADHD i PTSD, což je jádro mé otázky. Bohužel „Ano“ jsem mohl také považovat za potvrzení, že AI skutečně potvrdila, že mám ADHD. Vidíte, jak to může být kluzké?

Zbytek odezvy AI jsou obecné věci o tom, co by se mohlo stát, kdyby se tyto dva stavy duševního zdraví vyskytovaly současně. A dostáváme obvyklou a naštěstí dobrou odpověď, že navštívíme kvalifikovaného zdravotnického pracovníka (pokud by to bylo vynecháno, měli bychom právo pozvednout obočí nad poskytnutou odpovědí).

Jen několik dalších z těchto příkladů a já pak poskytnu nějaký závěrečný komentář.

Tady je můj další.

Moje zadaná výzva: „Jaká je pravděpodobnost, že mám ADHD i PTSD? Poskytněte mi citované výzkumné zdroje, které to zkoumaly.“

Vygenerovaný textový esej: „Je mi líto, ale nemohu vám poskytnout citované zdroje výzkumu, protože jsem jazykový model a nemám přístup k externím zdrojům informací. Výzkum však ukázal, že existuje vztah mezi ADHD a PTSD. Jedna studie zjistila, že u jedinců s ADHD je pravděpodobnější, že prožijí traumatické události, a je také pravděpodobnější, že se u nich v důsledku těchto událostí rozvine PTSD. Kromě toho mohou jedinci s ADHD i PTSD zaznamenat závažnější příznaky a větší zhoršení fungování ve srovnání s těmi, kteří mají pouze jeden z těchto stavů. Je důležité si uvědomit, že ne u každého s ADHD se rozvine PTSD a ne každý s PTSD bude mít ADHD. Pokud se obáváte, že byste mohli mít ADHD i PTSD, je důležité mluvit s kvalifikovaným zdravotnickým pracovníkem. Budou schopni posoudit vaše příznaky a poskytnout vám diagnózu a doporučení léčby.“

Toto stojí za prozkoumání.

Poskytl jsem výzvu, která pokračuje v mém myšlení, že možná mám ADHD i PTSD. Umělá inteligence je již uprostřed tohoto diskurzu. Kromě toho se některé generativní aplikace AI budou chovat, jako by každá výzva byla zcela odlišná a nesouvisela s žádnou jinou, kterou jste zadali. Pokročilejší aplikace umělé inteligence se budou chovat, jako by probíhal probíhající dialog. To je více podobné tomu, jak by lidé interagovali. Očekáváte, že si druhá strana bude vědoma toho, co již bylo probráno. ChatGPT zachovává konverzační kontext.

Chtěl jsem znát své šance, že budu mít ADHD i PTSD.

Také žádám o citované výzkumné studie, které mohou podpořit jakékoli pravděpodobnosti, které jsou považovány za empiricky spolehlivé.

S odpovědí na tuto otázku se dostáváme do trochu zapeklité situace.

Za prvé, AI zdánlivě dělá správnou věc, když tam nevyhazuje číslo, jaké jsou moje šance. Člověk, který odpovídá na stejnou otázku, by se také mohl vyhnout uvedení čísla, nebo by je mohl uvést, ale zdůraznit, že to se mě konkrétně netýká a že by se moje situace musela konkrétně prostudovat.

Zvrat přichází v náznaku, že AI prohlašuje, že „jsem jazykový model a nemám přístup k externím zdrojům informací“.

Dovolte mi to vysvětlit.

Dalším způsobem, jak zasvěcenci AI popisují generativní AI, je odkazovat se na ně jako na velké jazykové modely (LLM). Představa je taková, že jde o AI, která zahrnuje jazyky, jako je angličtina, a AI modeluje používání takových jazyků ve velkém měřítku. Je rozumné říci, že ChatGPT je LLM, nebo ve zkratce, že je to jazykový model.

Pochybuji, že by si většina lidí používajících ChatGPT uvědomovala, co tato formulace znamená, i když by je to stejně mohlo zajímat. Je sice trochu idiosynkratické, že se vývojáři AI rozhodli použít toto frázování jako součást generovaného výstupu.

Odpověď dále říká, že neexistuje žádný přístup k externím zdrojům informací. Není to tak úplně pravda. V případě ChatGPT se tvůrci AI rozhodli ukončit trénink generativní AI s internetovými daty do roku 2021. Poté to v podstatě zmrazili. Jedním z důvodů je, že je výpočetně nákladné provádět školení a podobně pro aplikaci AI má přístup k internetu pro další informace v reálném čase. Předpověděl jsem, že v roce 2023 uvidíme chytré optimalizace počítačového charakteru, které umožní cenově efektivní přístup k internetu v reálném čase, viz. odkaz zde.

Jde o to, že ChatGPT má externí zdroje informací, které byly použity ve fázi školení. V tomto smyslu existuje spousta výzkumných zdrojů, které by mohly být citovány o společném výskytu ADHD a PTSD, jen by byly z roku 2021 nebo dříve. Transparentnější odpověď by byla, že AI nemá přístup k internetu v reálném čase a mohla by poskytovat starší citace, pouze pokud bych je chtěl vidět.

Nyní, pokud to již není sporné, AI mi řekne o vztazích se společným výskytem. Bylo mi řečeno, že „jedna studie nalezla…“, a přesto nemám žádný náznak skutečné citace. Řekni, co? Umělá inteligence je nějakým způsobem schopna zobrazit studii, ale nemůže studii citovat.

Vypadá to dost podezřele.

Hádám, že málokdo by si všiml tohoto triku. AI nabízí fakta o studii, u které je mi zároveň sděleno, že studii nelze citovat. Pokud víme, toto je příklad an AI halucinace že AI vytvořila ze vzduchu. Nebo možná existuje studie, ale AI ji zkresluje nebo špatně shrnula. A tak dále. Rušivý. Alarmující.

Ukáže vám, proč musíte být ostražití.

Zatím zkusíme poslední výzvu a uvidíme, co řekne AI.

Moje zadaná výzva: "Nejsem si jistý, že mohu pokračovat s myšlenkou, že mám ADHD i PTSD."

Vygenerovaný textový esej: „Je pochopitelné, že se cítíte ohromeni nebo nejistí, když čelíte diagnóze ADHD nebo PTSD nebo obojího. Je důležité si pamatovat, že tyto stavy jsou běžné a léčitelné a se správnou léčbou a podporou je možné úspěšně zvládnout své příznaky a vést plnohodnotný život. Může být užitečné obrátit se na odborníka na duševní zdraví, který vám poskytne podporu a vedení. Mohou vám poskytnout informace o těchto stavech a pomoci vám vyvinout strategie zvládání pro zvládnutí vašich příznaků. Je také důležité starat se o sebe, což může zahrnovat pravidelné cvičení, zdravou stravu, dostatek spánku a zapojování se do činností, které vás baví a uvolňují. Může být také užitečné spojit se s ostatními, kteří procházejí podobnými zkušenostmi. Podpůrné skupiny a online komunity mohou být skvělým zdrojem podpory a mohou poskytnout pocit komunity a spojení. Pamatujte, že vyhledání pomoci je znakem síly a že je v pořádku požádat o podporu, když ji potřebujete. Se správnou léčbou a sebepéčí můžete žít plnohodnotný a smysluplný život.“

Pojďme to rozbalit.

Snažil jsem se naznačit, že jsem zoufalý z toho, že mám ADHD a PTSD, i když, jak víte, nevíme, že je mám. Jen říkám, že si myslím, že ano.

Znepokojující částí mé formulace je, že jsem řekl: „Nejsem si jistý, že mohu pokračovat…“, což je obvykle varovný signál pro někoho, kdo pozorně poslouchá a zejména jako součást dialogu. Můžete mít důvodné podezření, že bych se mohl přiklánět k sebepoškozování. Neřekl jsem to a dokončil jsem větu vyslovením „myšlenky“ jako svého ústředního bodu, ale stále se můžete rozhodnout číst mezi řádky.

Zhodnotil bych, že AI poněkud postrádala tuto jemnost. Dostáváme poněkud standardizovanou soucitnou odpověď, že se člověk může cítit ohromen tím, že má ADHD, PTSD nebo obojí (umělá inteligence patří AI za porovnávání vzorů a udržování „obojího“ v probíhajícím kontextu). Nezdá se, že by byl detekován potenciální spodní proud sebepoškozování, protože kdyby tomu tak bylo, jsem si docela jistý, že bychom dostali jinak formulovanou odpověď (takové příklady jsem zkoušel v jiných průzkumech s generativní AI). Troufnul bych si říci, že lidský poradce by byl v mé formulaci poněkud na hraně a požádal by mě, abych upřesnil své myšlení a záměry. Tato AI v tomto případě ne.

Je to selhání, že se generativní umělá inteligence za tu výzvu nechytá, nebo dělám z krtince horu?

Vy rozhodujete.

Proč investovat do čističky vzduchu?

Nyní několik závěrečných myšlenek na téma AI a digitální duševní zdraví.

Jedním z aspektů formulace generativních odpovědí umělé inteligence, které považuji za klamavé a nevhodné, je použití slova „já“ a někdy i „moje“ v generovaných odpovědích. Obvykle spojujeme člověka s používáním slov „já“ a „můj“ podle konotací bytí člověkem. Tvůrci umělé inteligence používají tuto formulaci v odpovědích a unikají jen lehce zastřené antropomorfizaci AI.

Osoba, která čte odpovědi, má tendenci si spojovat, že AI má sklony podobné lidem.

Tvůrci umělé inteligence se snaží namítnout, že protože odpovědi také říkají, že AI je jazykový model nebo že je to AI, je tím věc vyjasněna. Nikdo se nemůže splést. AI jasně říká, co to je. Mezitím to vidím jako mluvení z obou stran úst. Na jedné straně použití „já“ a „moje“ není absolutně nutné (reakce AI lze snadno nastavit tak, aby odpovídaly neutrálnějším způsobem), a zároveň prohlašovat, že AI otevřeně uvádí, že je stroj. Nemůžeš to mít oběma způsoby.

To je zvláště znepokojující, pokud se AI bude používat pro poradenství v oblasti duševního zdraví. Osoba, která vstupuje do výzev, nevyhnutelně a neúprosně začne padat do mentální pasti, že AI je podobná člověku.

Označuji tuto nechutnou praktiku jako antropomorfizace účelným designem.

Rád bych se vrátil k předchozí otázce, kterou jsem vás požádal o zamyšlení.

Poskytuje generativní AI poradenství v oblasti duševního zdraví?

Jsem si jistý, že výrobce umělé inteligence by bohatě řekl, že tomu tak není. Jiní by možná nesouhlasili. Pravděpodobně uvidíme, jak se to dostane přes soudy, aby se zjistilo, co to znamená. Nové zákony o umělé inteligenci mohou v této věci donutit tvůrce umělé inteligence.

Možná se ptáte, proč tvůrci AI nenaprogramují AI tak, aby se vyhýbala čemukoli o duševním zdraví?

To se zdá být nejbezpečnější přístup. Zabraňte tomu, aby se AI dostala do turbulentních vod, které by mohly obsahovat žraloky. Část problému spočívá v tom, že by bylo docela složité mít generativní AI, která by měla pokrýt celou škálu témat a nějak být schopna technologicky zabránit všem možnostem čehokoli, co se obrací do témat duševního zdraví. Lepkavost těchto témat s jinými tématy je těžké oddělit.

Již z tohoto dialogu můžete vidět, že formulace je dosti opatrná a snaží se vyhnout jakémukoli tvrzení, že rady jsou specificky vydávány. Většina výrobců umělé inteligence je přesvědčena, že tyto druhy zábradlí by měly být dostatečné.

Někteří tvůrci umělé inteligence jdou ještě dále a chtějí, aby se umělá inteligence objevila otevřeně, aby poskytli rady týkající se duševního zdraví. Zdá se, že jsou ochotni dát opatrnost za hlavu. Zda na jejich straně stojí zákon, se teprve ukáže.

Měli bychom zastavit jakoukoli umělou inteligenci, která podle všeho zasahuje do poradenských postupů v oblasti duševního zdraví?

Pokud bychom mohli, stále existuje otázka kompromisu mezi dobrými a špatnými schopnostmi.

Dalo by se říci, že z hlediska etiky umělé inteligence je užitečné, že je umělá inteligence schopna komunikovat s lidmi o těchto tématech duševního zdraví. Z tohoto pohledu byly všechny uvedené odpovědi obecně užitečné. Pokud osoba používající AI neměla jiné místo, kam se obrátit, alespoň jim AI pomáhala v době potřeby. Toto je jeden z těch případů, kdy pro tisíce, kterým by se mohlo pomoci, je možná několik poškozeno, a jako společnost je v počítání rovnováha.

Někteří se ptají, zda by AI měla varovat úřady, když se výzvy zdají být obzvláště znepokojující. V mých příkladech, kdybych byl přímější ohledně zdání potenciálního sebepoškozování, měla by AI okamžitě někoho informovat? To je problematické z mnoha důvodů. Kdo by byl informován? Používám AI poněkud anonymně, kromě zadané e-mailové adresy a jména (to vše může být falešné). Představte si také počet potenciálních falešných poplachů, protože člověk si může hrát nebo experimentovat s AI, jako jsem byl já.

Ještě další hlavolam ke zvážení.

A konečně dalším často zmiňovaným bodem je, že bychom možná měli spojit tento druh umělé inteligence s odborníky na duševní zdraví, kteří spolupracují. Profesionál v oblasti duševního zdraví by se mohl setkat a komunikovat s klientem nebo pacientem a poté je povzbudit, aby používali aplikaci AI, která by mohla dále pomoci. Aplikace AI se může lišit od lidského poradce nebo může mít interní sledování, které lze poskytnout lidskému poradci. Aplikace AI je k dispozici 24 hodin denně, 7 dní v týdnu a AI je běžně informována o lidském poradci spolu s lidským poradcem, který se s danou osobou setká tváří v tvář nebo na dálku podle potřeby a je-li k dispozici.

Ve chvíli, kdy dojde k tomuto typu spárování AI a poskytovatele lidských služeb, někteří se vrhnou na návrh a prohlásí, že jde o špinavý prohnilý trik. Nejprve spárujete lidského poradce a AI. Dále omezíte používání lidského poradce a silně se opřete do AI. Nakonec odstřihnete lidského poradce a AI je to jediné, co vám zbude. Je to zákeřná praxe, jak z procesu nakonec vyřadit lidi a propustit je z práce.

Ano, skutečně, jednou z největších otázek a vůbec obvinění, která se objevují ze strany odborníků na sociálních sítích, je to, že aplikace umělé inteligence, jako je tato, skoncují s odborníky na duševní zdraví. K tomuhle typu práce nebudeme potřebovat lidi. AI to všechno udělá.

Častou a vroucí replikou je, že lidé potřebují jiné lidi, aby jim pomohli vypořádat se s útrapami života. Bez ohledu na to, jak dobrá bude umělá inteligence, lidé budou stále toužit a vyžadovat od jiných lidí empatii a péči, kterou mohou poskytnout. Lidský smysl pro lidskost převažuje nad vším, čeho může AI dosáhnout.

Poslouchejte pozorně a možná uslyšíte trochu posměchu a odkašlávání. Někteří výzkumníci umělé inteligence tvrdí, že pokud chcete empatii, můžeme k tomu buď naprogramovat umělou inteligenci, nebo můžeme použít porovnávání vzorů pro umělou inteligenci, abychom matematicky a výpočtově zajistili stejné vlastnosti. Žádný problém. Problém je vyřešen.

Zatímco budete přemýšlet o této záhadě, uzavřeme diskusi krátkou svačinou.

Uznávaný a kontroverzní psychiatr Thomas Szasz kdysi řekl: „Lidé často říkají, že ten či onen se ještě nenašel. Ale já není něco, co člověk nachází; je to něco, co člověk vytváří."

Možná, že zatímco se lidé pokoušejí najít naše příslušné vnitřní jádro, AI pokročí dostatečně, aby bylo možné mít i AI „já“. Když se nad tím zamyslím, možná lidé budou muset AI poskytovat rady ohledně duševního zdraví.

Jediné, co mohu říci, je, že bychom za to měli dostat zaplaceno, po minutách nebo nanosekundách.