Co potřebujete vědět o GPT-4, právě vydaném nástupci generativního AI ChatGPT, plus o etice AI a zákonech o AI

Jaká je vaše obvyklá reakce na vydání pokračování velkého filmového trháku, který zaujme titulky?

Někteří lidé se jdou podívat na pokračování a prohlašují, že je stejně dobré, ne-li dokonce lepší než originál. Jiní mohou mít mimořádně vysoká očekávání a po zhlédnutí novějšího filmu jej prohlásí jako přiměřeně dobrý, i když není nad čím u vytržení. Jsou tu někteří, kteří budou nepochybně mimořádně zklamáni, bez ohledu na to, co nejnovější film obsahuje, a shrne prohlásí, že první film byl bez rozpaků nad pokračováním.

Stejná škála reakcí a emocí vystoupila do popředí při včerejším vydání GPT-4 od výrobce umělé inteligence OpenAI, které se konalo v Den Pi, konkrétně 3.14. nebo 14. března 2023. Pravděpodobně se jedná o náhodu, která se odehrává na oblíbeném koláči matematika- jeden den, odhalení GPT-4 vzbudilo velkou pozornost tisku a objemné klábosení na sociálních sítích.

Popíšu zde hlavní rysy a schopnosti GPT-4 spolu s porovnáním s jeho předchůdcem ChatGPT (počáteční „blockbuster“ v mé analogii). Navíc je zde spousta skutečně důležitých aspektů etiky a zákona o umělé inteligenci, které jdou ruku v ruce s generativní umělou inteligencí, včetně a možná zejména v případě GPT-4 a ChatGPT kvůli jejich nepochybně rozšířenému používání a šílenství vyvolávající pozornost médií a veřejnosti týkající se současná a budoucí AI.

Stručně řečeno, stejně jako pokračování filmu je GPT-4 v některých ohledech lepší než ChatGPT, například je větší, rychlejší a zdánlivě plynulejší, zatímco v jiných ohledech vyvolává další a výrazné výčitky (budu se zabývat těmi krátce zde). Trochu zmatená reakce. Pokračování není slam-dunk, jak mnozí očekávali, že bude. Ukazuje se, že věci jsou jemnější. Zdá se, že to je skutečný svět, ve kterém všichni žijeme.

Možná, že generální ředitel OpenAI, Sam Altman, to řekl nejlépe ve svých tweetech 14. března 2023 o spuštění GPT-4:

• „Tady je GPT-4, náš dosud nejschopnější a nejvyrovnanější model. Dnes je k dispozici v našem API (s čekací listinou) a v ChatGPT+.“
• "Stále je chybný, stále omezený a stále se zdá působivější při prvním použití, než když s ním strávíte více času."

Moje návrhy ohledně toho, co byste mohli zvážit v důsledku vydání GPT-4 a v závislosti na vaší stávající situaci nebo okolnostech, se skládají z těchto potenciálních akcí:

• Stávající uživatelé ChatGPT. Pokud již používáte ChatGPT, měli byste se blíže podívat na GPT-4, abyste zjistili, zda byste jej chtěli použít místo toho (nebo můžete použít GPT-4 kromě používání ChatGPT, ergo použijte buď ChatGPT nebo GPT -4, v závislosti na vašich potřebách. S GPT-4 můžete hrát, pokud se přihlásíte k odběru ChatGPT Plus, režimu předplatného za 20 $ měsíčně pro používání ChatGPT, jinak v tuto chvíli nemáte příliš snadný způsob, jak získat přístup ke GPT-4 (výhrada nebo zvrat je, že Vyhledávač Microsoft Bing používá variantu GPT-4, o které jsem hovořil v odkazu zde).
• Nikdy jsem nepoužil žádnou generativní umělou inteligenci. Pokud nepoužíváte ChatGPT a nikdy jste nepoužili žádnou generativní AI, možná budete chtít nejprve začít s ChatGPT, protože je přístupný zdarma (nebo samozřejmě zvažte použití kterékoli z myriád dalších generativních aplikací AI, abyste mohli začít svou cestu do této sféry AI). GPT-4 není v tuto chvíli zdarma, jak je uvedeno v bodech výše týkajících se stávajících uživatelů ChatGPT. Jakmile si namočíte nohy s ChatGPT, můžete se rozhodnout, zda stojí za to si předplatit ChatGPT Plus, abyste získali další výhody včetně přístupu ke GPT-4.
• Použití nějaké jiné generativní AI. Pokud používáte jinou generativní aplikaci AI než ChatGPT, může se stát, že vás GPT-4 velmi zaujme, protože má vylepšení nad rámec toho, co ChatGPT nabízí. Zmiňuji to proto, že někteří důvtipní uživatelé AI se rozhodli, že ChatGPT pro ně není tak dobrý jako jiné možnosti. Doporučuji získat aktuální informace o GPT-4, abyste se rozhodli, zda je vaše stávající volba pro vás stále ta nejlepší. To by mohlo být. Tím pádem neobhajuji, že byste pro jistotu měli přejít na GPT-4, a pouze říkám, že je vždy rozumné nakopnout pneumatiky na jiná dostupná auta.
• Další software, který přistupuje k ChatGPT přes API. Pro ty, kteří vyrábějí software, který se připojuje k ChatGPT přes API (rozhraní pro programování aplikací), o kterém jsem hovořil na tomto odkazu, by bylo moudré, abyste se blíže podívali na použití GPT-4 prostřednictvím jeho API. Jedna velká otázka je, že náklady na používání GPT-4 API jsou mnohem vyšší než za použití ChatGPT. Budete chtít provést kompenzační analýzu přidaných výhod GPT-4 oproti levnější alternativě setrvání u ChatGPT. To je poněkud komplikované rozhodnutí. Dělejte to s rozmyslem a ne bezmyšlenkovitě.

Jedna věc, která se mnohým zdá šokující, je to, že zpravodajská hodnota se nezvýšila na dříve očekávanou úroveň.

Dovolte mi vysvětlit proč.

Původní blockbuster a nyní jeho pokračování

Pravděpodobně víte, že generativní aplikace AI známá jako ChatGPT byla zpřístupněna na konci listopadu loňského roku.

Tohle byl překvapivý hit.

Do té doby se předchozí snahy o uvolnění generativních aplikací umělé inteligence pro širokou veřejnost obvykle setkávaly s pohrdáním a rozhořčením. Základem obav bylo, že generativní umělá inteligence může produkovat výstupy, které obsahují všechny druhy nečistých výstupů, včetně sprostého jazyka, nechutných předsudků, nepravd, chyb a dokonce vymyšlených faktů nebo tzv. AI halucinace (Nelíbí se mi ta „halucinační“ terminologie, protože má tendenci antropomorfizovat AI, viz moje diskuze na odkazu zde).

Generativní umělá inteligence je typ umělé inteligence, který zahrnuje generování výstupů z textových výzev zadaných uživatelem, jako je schopnost vytvářet nebo generovat textové eseje nebo vytvářet obrázky nebo umělecká díla nebo produkovat zvuk nebo produkovat video atd. označované jako text-to-text, text-to-essy, text-to-art, text-to-image, text-to-audio, text-to-video a podobně. Pozoruhodný aspekt generativní umělé inteligence spočívá v tom, že vytvořená díla jsou zdánlivě na stejné úrovni jako výstupy vytvořené lidmi. Těžko byste se pokoušeli odlišit generativní výstup umělé inteligence od srovnatelné kompozice vytvořené výhradně lidskou myslí a lidskou rukou.

Pro více informací o generativní AI viz moje probíhající série, jako je tento odkaz zde o základech ChatGPT a generativní AI, spolu s pokrytím ChatGPT studenty a problémy potenciálního podvádění v esejích (použijte odkaz zde), velmi sporné použití ChatGPT pro poradenství v oblasti duševního zdraví (viz odkaz zde), obavy z potenciálního plagiátorství a porušení autorských práv generativní umělé inteligence (odkaz zde) a mnoho dalších důležitých témat na tomto odkazu.

Část důvodu, proč se zdálo, že ChatGPT nezískal obvyklý bič, byla způsobena nějakou zákulisní prací výrobce AI, OpenAI, před vydáním ChatGPT. Snažili se použít různé techniky a technologie k potlačení vydávání obzvláště nenávistných a odporných esejů. Mějte na paměti, že ChatGPT je výhradně styl generativní umělé inteligence typu text-to-text nebo text-to-essay. Pokusy zabránit výstředním a vznětlivým výstupům tedy spočívají v nakládání se slovy. Podobné problémy nastávají, když je výstupem umění nebo obrázky, i když to může být stejně nebo více obtížné zachytit, aby se zabránilo vytváření urážlivých snímků toho či onoho druhu.

Pozoruhodná technika, kterou tvůrci umělé inteligence stále více přijali, spočívá v používání RLHF (posílení učení prostřednictvím lidské zpětné vazby). Zde je návod, jak to obecně funguje. Jakmile byla generativní aplikace AI zpočátku trénována daty, například skenováním textu přes internet, jsou využíváni lidští recenzenti, aby pomohli AI nasměrovat nebo předvést, co stojí za to říct a co je skandální. Na základě této řady schválení a neschválení je generativní umělá inteligence zhruba schopna porovnat to, co se zdá být v pořádku vysílat a co se zdá být nepřípustné.

Rád bych také zmínil jeden další velmi důležitý bod.

AI není vnímavá.

Bez ohledu na to, co hlásají bláznivé titulky, buďte si jisti, že dnešní AI není vnímavá. Pro generativní umělou inteligenci je aplikace rozsáhlým softwarem pro porovnávání výpočetních vzorů a zařízením pro modelování dat. Po prozkoumání milionů a milionů slov z internetu jsou odvozeny vzorce o slovech a jejich statistické vztahy. Výsledkem je úžasná forma mimikry lidského jazyka (někteří zasvěcenci AI to označují jako a stochastický papoušek, což trochu dává pointu, i když bohužel vnáší do diskuse jinak sentimentální prvek).

Generativní umělou inteligenci si můžete představit jako funkci automatického dokončování, když používáte balíček pro zpracování textu, i když se jedná o mnohem obsáhlejší a pokročilejší schopnost. Jsem si jistý, že jste začali psát větu a máte automatické doplňování, které doporučuje znění pro zbytek věty. S generativní AI, jako je ChatGPT, zadáte výzvu a aplikace AI se pokusí nejen dokončit vaše slova, ale bude se snažit odpovídat na otázky a skládat celé odpovědi.

Kromě toho nováčkovská chyba, kterou mnozí dělají při používání ChatGPT nebo jakékoli jiné podobné generativní aplikace AI, znamená nevyužití vychvalovaných interaktivních konverzačních kapacit. Někteří lidé zadají výzvu a pak čekají na odpověď. Zdá se, že si myslí, že to je vše. Jedna a hotovo. Ale to postrádá jádro generativní umělé inteligence. Užitečnější přístup spočívá v provedení řady výzev spojených se zapojením se do dialogu s generativní AI. To je místo, kde generativní AI opravdu září, viz moje příklady na odkazu zde.

ChatGPT byl ohlašován médii a veřejností jako úžasný průlom v AI.

Realita je taková, že bylo navrženo mnoho dalších podobných aplikací AI, často ve výzkumných laboratořích nebo think-tancích, a v některých případech byly opatrně zpřístupněny veřejnosti. Jak jsem řekl výše, výsledek nebyl obvykle pěkný. Lidé šťouchali a šťouchali do generativní umělé inteligence a podařilo se jim získat eseje příšerné povahy, viz moje pokrytí na odkazu zde. Tvůrci AI v těchto případech byli obvykle nuceni stáhnout AI z otevřeného trhu a vrátit se zpět k zaměření na laboratorní použití nebo pečlivě vybrané beta testery a vývojáře AI.

Většinu zbytku odvětví AI ohromilo, že ChatGPT dokázal kráčet po laně a stále produkovat špatné výstupy, a přesto ne do té míry, aby sentiment veřejnosti donutil OpenAI odstranit aplikaci AI z celkového přístupu.

To byl skutečný šok ChatGPT.

Většina lidí předpokládala, že šokem byla znalostní schopnost. Ne pro ty v AI. Překvapením, které zasáhlo téměř všechny zasvěcené AI, bylo, že jste mohli uvolnit generativní AI, která by mohla chrlit nenávistné projevy, a reakce nebyla tak divoká, aby si vynutila rychlý ústup. Kdo ví? Ve skutečnosti před vydáním ChatGPT šuškandy předpovídaly, že během několika dní nebo maximálně týdnů bude OpenAI litovat, že bude aplikace AI snadno dostupná všem příchozím. Museli by omezit přístup nebo ho případně dojít pěšky domů a vydechnout.

Neuvěřitelný úspěch zavedení ChatGPT opatrně otevřel dveře dalším generativním aplikacím umělé inteligence, aby se také setkaly s ulicí. Mluvil jsem například o odhalení Barda Googlem a o tom, jak se vyhrocují války internetových vyhledávačů kvůli touze zapojit generativní umělou inteligenci do konvenčního vyhledávání na webu, viz odkaz zde.

ChatGPT lze rozumně charakterizovat jako trhák. Je to také ten, který přišel takříkajíc odnikud. Někdy se o filmovém trháku předem ví, že se po vydání pravděpodobně stane trhákem. V jiných případech je film spánek, který překvapí veřejnost a dokonce i filmaře. To se stalo s ChatGPT a OpenAI.

Dobře, takže máme trhák, ChatGPT.

ChatGPT je v podstatě založen na verzi GPT známé jako GPT-3.5. Dříve existovaly GPT-3, GPT-2 a podobně. Svět umělé inteligence a ti, kteří se k AI dotýkají, všichni věděli, že OpenAI pracuje na další verzi, GPT-4.

GPT-4 by byl považován za nástupce nebo pokračování ChatGPT.

To nás přivádí zpět k mé analogii o filmech. ChatGPT, překvapivý trhák, byl obrovský v popularitě. Očekávání o tom, co bude GPT-4 a jak bude reagovat veřejnost, byla plná divokých spekulací. GPT-4 by chodil po vodě! GPT-4 bude rychlejší než rychlá střela! GPT-4 bude dosažením vnímající umělé inteligence nebo umělé obecné inteligence (AGI)!

To jde dál a dál.

Možná si matně uvědomujete, že generální ředitel OpenAI, Sam Altman, v rozhovoru zveřejněném na YouTube (ze dne 17. ledna 2023) řekl toto: „Fáma GPT-4 je směšná věc. Nevím, odkud to všechno pochází. Lidé prosí, aby byli zklamaní a budou. Ten humbuk je jako... Nemáme skutečné AGI a přesně to se od nás očekává.“

No, GPT-4 je tady.

Film vyšel.

Můžeme to vidět na vlastní oči. Už žádné nezkrocené spekulace. Realita přišla k zemi.

Pojďme rozbalit nablýskanou novou hračku.

Základy GPT-4

Nepochybně chcete vědět, co GPT-4 poskytuje.

Ve své diskusi budu odkazovat na různé dokumenty a videa, které OpenAI zpřístupnila o GPT-4, spolu s poznámkami na základě mého používání GPT-4. Pro snazší diskusi mějte na paměti, že existují dva užitečné dokumenty, které budu horlivě citovat, jeden s názvem úředník OpenAI Technická zpráva GPT-4 a ten druhý je úředník OpenAI Systémová karta GPT-4 dokument (oba jsou k dispozici na webu OpenAI). Budu je citovat pod zkratkami TR pro Technická zpráva GPT-4 a SC pro Systémová karta GPT-4.

Začněme citováním úplně první věty abstraktu pro TR:

• "Hlásíme vývoj GPT-4, rozsáhlého multimodálního modelu, který může přijímat obrazové a textové vstupy a vytvářet textové výstupy."

Věřte nebo ne, v té jedné větě je toho hodně nacpaného.

Posaďte se a mějte v ruce pohodlné pití.

Jedním aspektem, který je obecně přijímaným pravidlem o generativní umělé inteligenci, je to, že čím větší je systém, tím je pravděpodobnější plynulost a celková schopnost. Zdá se, že to je relativně dobře potvrzeno historicky rostoucí velikostí generativních systémů umělé inteligence a jejich stále pozoruhodnější plynulostí, pokud jde o provádění interaktivních konverzací. Ne každý věří, že tomu tak musí být, a existují výzkumníci, kteří aktivně hledají menší nastavení, která používají různé optimalizace, aby potenciálně dosáhli toho, co jejich větší bratři.

Ve výše citované větě o GPT-4 z TR jste si mohli všimnout formulace, že jde o „velkou“ generativní AI. Každý by pravděpodobně měl tendenci zprostředkovaně souhlasit na základě relativní velikosti dnešních generativních systémů umělé inteligence.

Zjevnou otázkou v myslích zasvěcenců AI je, jak velká je ve velkém měřítku pokud jde o GPT-4?

Obvykle výrobce AI hrdě deklaruje různé metriky velikosti své generativní AI. Můžete tak učinit, abyste informovali zbytek světa umělé inteligence o tom, jak na velikosti a měřítku záleží. Můžete to udělat, abyste se pochlubili. Můžete to udělat jednoduše proto, že je to jako auto, kde přirozenou kuriozitou je, jak velký motor tam je a jak rychle pojede.

Podle TR je uvedeno toto:

• "Vzhledem ke konkurenčnímu prostředí a bezpečnostním důsledkům velkých modelů, jako je GPT-4, tato zpráva neobsahuje žádné další podrobnosti o architektuře (včetně velikosti modelu), hardwaru, trénovacích výpočtech, konstrukci datové sady, metodě školení a podobně."

Zasvěcenci AI mají tendenci to považovat za okouzlující. Na jedné straně se zdá být znepokojivým rozchodem s diplomacií, že o těchto zásadních charakteristikách nemluvíme. Jak již bylo řečeno, logika, že by to mohlo odhalit proprietární tajemství nebo by mohlo otevřít dveře kybernetické bezpečnosti, zdá se, že to také dává smysl.

Měli by být tvůrci umělé inteligence nuceni odhalit konkrétní vlastnosti své generativní umělé inteligence, a to do takové míry a způsobem, který neúmyslně neprozradí žádné zásadní vodítka?

Nechám vás, abyste si nasadili klobouk AI Ethics, abyste o tom přemýšleli.

Někteří se domnívají, že bychom také mohli skončit zavedením nových zákonů o umělé inteligenci, které by vyžadovaly explicitní zveřejnění.

Myšlenka je taková, že veřejnost by měla vědět, co se s AI děje, zvláště když se AI zvětší a má pravděpodobně potenciál nakonec zabočit do strašlivé zóny existenčních rizik, viz moje analýza na odkazu zde.

Dále také nevíme, jaká data byla použita k výcviku GPT-4.

Data vytvářejí nebo ruší nástup generativní umělé inteligence. Někteří lidé se mylně domnívají, že celý internet byl skenován, aby byly navrženy tyto generativní schopnosti umělé inteligence. Ani náhodou. Ve skutečnosti, jak mluvím na tomto odkazu, je skenována pouze malinká malá část internetu.

Souvisejícím aspektem je, zda generativní umělá inteligence skenuje internet v reálném čase a upravuje za běhu porovnávání výpočetních vzorů. ChatGPT byl omezen na skeny, které proběhly nejpozději v roce 2021. To znamená, že když používáte ChatGPT, neexistují v podstatě žádná data o tom, co se stalo v letech 2022 a 2023.

Říkalo se, že GPT-4 bude obsahovat aktuální připojení k internetu v reálném čase pro úpravy za běhu.

Zde je to, co říká TR:

• „GPT-4 obecně postrádá znalosti o událostech, které se staly poté, co byla v září 2021 přerušena naprostá většina jejích předtréninkových dat, a nepoučí se ze svých zkušeností. Někdy se může dopustit jednoduchých chyb v uvažování, které se nezdají být v souladu s kompetencemi v tolika doménách, nebo může být příliš důvěřivý při přijímání zjevně nepravdivých prohlášení od uživatele.“

Možná pak vidíte, proč jsou někteří z GPT-4 trochu zklamáni. Pověsti naznačovaly, že bude fungovat v reálném čase a současně se přizpůsobí internetu za běhu. Považované za velké zlepšení oproti ChatGPT. Realita je taková, že GPT-4 stále pracuje s daty. A v reálném čase nedochází k úpravě porovnávání výpočetních vzorů per se na základě aktualizací z internetu.

Mám pro vás další novinky.

Věta, kterou jsem dříve citoval o GPT-4 jako o velkém měřítku, také říkala, že GPT-4 je multimodální.

Dovolte mi uvést nějaké pozadí pojmu multimodální generativní AI.

Na začátku této diskuse jsem zmínil, že existují různé typy generativní umělé inteligence, jako je převod textu na text nebo text na esej, převod textu na umění nebo text na obrázek, převod textu na zvuk, text -to-video atd. To vše je považováno za jedinečný způsob manipulace s obsahem. Můžete například zadat nějaký text a získat vygenerovanou esej. Dalším příkladem by bylo, že zadáte text a získáte vygenerované umělecké dílo.

Na konci minulého roku jsem učinil své roční předpovědi o tom, co uvidíme v AI zálohách pro rok 2023 (viz odkaz zde). Řekl jsem, že multimodální generativní AI bude žhavá. Myšlenka je taková, že byste mohli například zadat text a obrázek (dva režimy na vstupu), použít je jako výzvu do generativní umělé inteligence, a můžete získat esej jako výstup spolu s vygenerovanou videem a zvukovou stopou (tři režimy na výstup).

Může tedy koexistovat velké množství režimů. Při výzvě nebo vstupu můžete mít mnoho režimů. Můžete mít také mnoho režimů generované odezvy nebo výstupu. Můžete mít mix-and-match na vstupech i výstupech. Tam se věci ubírají. Vzrušující možnosti a možnosti toho, co lze dělat s generativní AI, se díky multimodální funkčnosti nesmírně otevírají.

ChatGPT má pouze singulární režim. Zadáte text, dostanete nějaký vygenerovaný text jako výstup.

Říkalo se, že GPT-4 prolomí zvukovou bariéru a poskytne plnou multimodální schopnost všeho a všeho. Všichni věděli, že text bude zahrnut. Očekávalo se, že budou přidány obrázky nebo umělecká díla spolu se zvukem a možná i videem. Bylo by to zdarma pro všechny. Jakýkoli režim na vstupu, včetně tolika těchto režimů, kolik chcete. Plus jakýkoli režim na výstupu, včetně tolika smíšených režimů, kolik byste si přáli mít.

Skutečná lahůdka režimů.

Co poskytuje GPT-4?

Vraťte se k té větě z TR:

• "Hlásíme vývoj GPT-4, rozsáhlého multimodálního modelu, který může přijímat obrazové a textové vstupy a vytvářet textové výstupy."

Můžete zadat text a dostanete výstupní text, plus můžete případně zadat obrázek na vstupu.

Demonstrace předvádějící zpracování obrazu nebo vidění vložených obrazů naznačily, že položky na obrázku by například mohly být identifikovány generativní AI a poté složeny do písemného příběhu vysvětlujícího obraz. Můžete požádat generativní AI, aby vysvětlila, co obrázek zřejmě zobrazuje. Celkově vzato bude zpracování obrazu pozoruhodným doplňkem.

Funkce zpracování vidění nebo analýzy obrazu zatím není k dispozici pro veřejné použití (podle blogu webu OpenAI):

• "Abychom připravili schopnost vkládání obrázků na širší dostupnost, na začátku úzce spolupracujeme s jediným partnerem."

Podstatou toho všeho je, že je potěšující uvědomit si, že GPT-4 zjevně má schopnost provádět obrazový vstup a analýzu. Mnozí netrpělivě čekají na veřejné vydání této funkce. Sláva OpenAI za vstup do multimodální arény.

Máme tedy text jako vstup, plus obrázek jako vstup (pokud je zpřístupněn pro veřejné použití) a text jako výstup.

Někteří se však v komunitě umělé inteligence zabývali tím, že se to stěží drží představy multimodální. Ano, je tu ještě jeden režim, obraz jako vstup. Ale ne obraz jako výstup. Zdánlivě zde není zvuk jako vstup, ani zvuk jako výstup. Zdánlivě zde není video jako vstup, ani video jako výstup. Ti, kteří mají šmrncovní sklon, to považují za „multimodální“ tím nejminimalističtějším způsobem.

Protiargumentem je, že se musíte plazit, než půjdete, a než začnete běžet, musíte jít.

Věřím, že to pokrývá první větu TR a můžeme přejít k dalším tématům.

Další základní informace o GPT-4

Nyní urychlím, když máte k této záležitosti celkově nějaké další pozadí.

Zde je něco významného, ​​jak je uvedeno v příspěvku na blogu OpenAI o GPT-4:

• „Během posledních dvou let jsme přestavěli celý náš stack pro hluboké učení a společně s Azure jsme od základu navrhli superpočítač pro naši pracovní zátěž.“

K tomu dva rychlé body.

Za prvé, náznak toho, že přestavěli celý svůj zásobník hlubokého učení, je určitě pozoruhodná poznámka a úspěch (to znamená, že přepracovali modely porovnávání výpočetních vzorů a rozhodli se restrukturalizovat, jak věci fungují pod kapotou). Dobré pro ně. Prosebnou otázkou, kterou někteří vyjadřují, je, že by bylo jistě hezké vědět, co přesně při této přestavbě udělali. TR a SC poněkud zmiňují, co se stalo, ale ne do nějaké hloubky.

Samozřejmě byste mohli přesvědčivě namítnout, že by neměli prozradit svou tajnou omáčku. Není na ně kladen žádný požadavek. Proč zbytečně poskytovat pomoc svým konkurentům? Druhá strana mince tvrdí, že pro zlepšení umělé inteligence a společnosti by to pravděpodobně pomohlo v rozvoji generativní umělé inteligence, která, jak se zdá, bude pro lidstvo dobrá (doufáme).

Vracíme se zpět k té omamné dělicí čáře mezi etikou AI a zákonem AI.

Za druhé, citovaná poznámka naznačuje, že superpočítač navrhli od základů. Kromě zájmu o to, co tento superpočítač dělá a jak přesně funguje, z nichž některé byly vysvětleny, to přináší úplně jinou věc.

Někteří se obávají, že se z generativní umělé inteligence stává hra o velké peníze. Pouze technologické společnosti s největšími penězi a největšími zdroji budou schopny navrhnout a vytvořit generativní AI. Důvod, proč je to zpochybňováno, je ten, že možná budeme mít generativní umělou inteligenci, kterou bude přísně kontrolovat pouze hrstka technologických firem. Můžeme se stát silně závislými na těchto firmách a jejich zboží.

Potřebujeme potenciálně využít stávající zákony nebo navrhnout nové zákony o umělé inteligenci, abychom zabránili koncentraci generativní umělé inteligence v úzkém vedení jen několika?

Něco k přemýšlení.

Pokud čekáte, až bota klesne z hlediska nějakého neuvěřitelně masivního rozdílu mezi ChatGPT a GPT-4, podívejte se na to z blogu OpenAI o GPT-4:

• „V běžné konverzaci může být rozdíl mezi GPT-3.5 a GPT-4 jemný. Rozdíl se projeví, když složitost úkolu dosáhne dostatečného prahu – GPT-4 je spolehlivější, kreativnější a dokáže zpracovat mnohem podrobnější instrukce než GPT-3.5.“

Zjistil jsem, že tento nedostatek výrazného rozdílu je do jisté míry pravdivý, totiž že pokud děláte každodenní nečinný druh chatování s ChatGPT a děláte totéž s GPT-4, možná si ani neuvědomujete, že GPT-4 je celkově považován za výkonnější. .

Jeden aspekt, který se zdá být výjimečný, spočívá v vytvoření kontextu pro vaše konverzace se dvěma generativními aplikacemi AI.

Tady mám na mysli.

Když používáte generativní aplikaci AI, občas prostě skočíte do konverzace, kterou začnete a pokračujete spolu s AI. V ostatních případech začnete tím, že AI sdělíte kontext konverzace. Například bych mohl začít tím, že generativní AI řeknu, že chci s AI diskutovat o motorech aut a že chci, aby AI předstírala, že je automechanik. To pak nastaví fázi nebo nastavení pro AI, aby odpovídajícím způsobem reagovala.

Mnoho lidí, kteří používají ChatGPT, si neuvědomuje důležitost nastavení kontextu, když se poprvé zapojí do dialogu s aplikací AI. Může to být obrovský rozdíl v tom, jakou odezvu dostanete. Často se setkávám s tím, že ChatGPT se sám o sobě moc dobře nezaměřuje na konkrétní kontexty. Snaží se, ale často selhává. Zatím se zdá, že GPT-4 skutečně září pomocí kontextového zřízení.

Pokud se chystáte používat generativní AI a chcete při tom vytvořit kontext, rozhodně bych dal GPT-4 oproti ChatGPT celkovou výhodu.

Na souvisejícím prvku existuje také aspekt známý jako řiditelnost který přichází do hry.

Někteří uživatelé ChatGPT byli překvapeni, že někdy aplikace AI poskytuje odpovědi, které se zdají být možná příliš vtipné nebo příliš stručné. K tomu může dojít, pokud generativní umělá inteligence detekuje ve vaší vstupní výzvě něco, co zřejmě spouští tento druh reakce. Možná se na něco ze srandy ptáte a neuvědomujete si, že to pak nasměruje ChatGPT k vtipům a odlehčenému tónu.

Podle příspěvku na blogu OpenAI o GPT-4 a řiditelnosti:

• „Spíše než klasickou osobnost ChatGPT s pevnou upovídaností, tónem a stylem nyní mohou vývojáři (a brzy i uživatelé ChatGPT) předepisovat styl a úkoly své AI popisem těchto směrů ve zprávě „systému“. Systémové zprávy umožňují uživatelům rozhraní API výrazně přizpůsobit uživatelské prostředí v mezích.“

Opět to zlepší uživatelský zážitek s generativními aplikacemi AI. Ostatní tvůrci generativní umělé inteligence jsou na tom podobně a my nevyhnutelně budeme mít téměř všechny takové aplikace umělé inteligence s nějakou formou řiditelnosti a kontextové funkčnosti.

Drsná cesta stále před námi

Přetrvávajícím a znepokojivým problémem, který je základem generativní umělé inteligence, je obecně to, že lze vytvářet nejrůznější nepříjemné a přímo znepokojivé výstupy.

Ve svých příspěvcích ve sloupcích jsem pokryl tyto různé a střízlivé obavy:

• Generativní AI produkované chyby
• Generativní umělá inteligence produkovala nepravdy
• Generativní předsudky zabudované AI
• AI halucinace
• Narušení soukromí
• Slabé stránky důvěrnosti údajů
• Šíření dezinformací
• Propagátor dezinformací
• Dvojí použití pro zbraně
• Nadměrné spoléhání se lidmi
• Ekonomické dopady na lidi
• Posilování kybernetické kriminality
• Atd.

Některé pověsti říkaly, že GPT-4 magicky a zázračně vyčistí a vyřeší všechny ty generativní nemoci AI.

Nikoho s pořádnou hlavou na ramenou nenapadlo, že taková fáma dokáže zadržet vodu. To jsou velmi těžké problémy s AI. Nejsou snadno vyřešeny. Zbývá ještě mnoho udělat, abychom se vypořádali s těmito trvalými a rozčilujícími obtížemi. Pravděpodobně bude zapotřebí vesnice, aby dobyla litanii problémů etiky umělé inteligence zapletených do prostředí generativní umělé inteligence.

OpenAI se snažilo vysvětlit, jak se vypořádává s těmito mnoha různými výzvami, aby poskytlo kredit tam, kde je úvěr splatný. Ti z vás, kteří se zajímají o etiku umělé inteligence, by měli zvážit důkladné přečtení TR a SC.

Zde jsou například některé srozumitelné komentáře o GPT-4, jak uvádí OpenAI v TR:

• „GPT-4 může generovat potenciálně škodlivý obsah, jako jsou rady ohledně plánování útoků nebo nenávistné projevy. Může představovat různé společenské předsudky a světonázory, které nemusí reprezentovat záměry uživatelů nebo široce sdílené hodnoty. Může také generovat kód, který je kompromitován nebo zranitelný. Dodatečné schopnosti GPT-4 také vedou k novým rizikovým povrchům.“

Navíc v TR říkají toto:

• „Prostřednictvím této analýzy jsme zjistili, že GPT-4 má potenciál být použit k pokusu o identifikaci soukromých osob, když je rozšířen o externí data. Zjistili jsme také, že ačkoli schopnosti kybernetické bezpečnosti GPT-4 nejsou výrazně lepší než předchozí generace LLM, pokračuje v trendu potenciálního snižování nákladů na určité kroky úspěšného kybernetického útoku, jako je sociální inženýrství nebo vylepšení stávajících bezpečnostních nástrojů. . Bez bezpečnostních zmírnění je GPT-4 také schopen poskytnout podrobnější pokyny, jak provádět škodlivé nebo nezákonné činnosti.“

Nemám zde prostor pro sloupce, abych pokryl všechny četné položky spojené s těmito obtížemi. Podívejte se na další pokrytí sloupců v mé probíhající analýze generativní umělé inteligence z pohledu etiky a práva umělé inteligence.

Zdá se, že by stálo za to vzít si chvilku a uznat, že OpenAI zpřístupnila jejich identifikaci, jak přistupují k těmto náročným výzvám. Dalo by se říci, že nebyl důvod, aby to museli dělat. Mohli se chovat, jako by tam nebylo nic k vidění. Nebo mohli jen mlhavě mávat rukou a tvrdit, že pro řešení těchto problémů dělají spoustu chytrých věcí.

Naštěstí zvolili rozumný přístup, kdy se snažili dostat ven před negativními reakcemi a brněním, které obvykle jdou s generativními verzemi AI. Pravděpodobně usilují o to, aby pevně ukázali svou vážnost a odhodlání odstranit tyto problémy a snažili se je zmírnit nebo vyřešit.

Chtěl bych nabídnout dodatečnou myšlenku, že oblast umělé inteligence dostane krutý výprask, pokud zde nebude trvalé a usilovné úsilí prosazovat tyto záležitosti přímým a nadcházejícím způsobem. Uplatnění skrytého přístupu černé skříňky nutně vzroste mezi širokou veřejností. Můžete také očekávat, že pokud se firmy zabývající se umělou inteligencí nepokusí tyto problémy řešit, je pravděpodobné, že zákonodárci a regulační orgány budou do těchto záležitostí zataženi a tsunami nových zákonů o umělé inteligenci zasype všechny tvůrce umělé inteligence a ty, kteří se jí věnují. AI.

Někteří se domnívají, že už jsme v tomto bodě.

Trvají na tom, že ačkoli se zdá, že mnoho tvůrců AI sdílí to, co dělají, jde o poněkud záludnou formu věrohodného popření. Zkrátka pokračujte a uhaste AI, která je otřesná a zjevně nesprávná, než abyste čekali, až budou věci lépe vymyšleny, a odstavte ty v etice AI a zákonech o AI prohlášením, že děláte vše pro to, abyste věci napravili. O této probíhající kontroverzi „počkejte, až budete připraveni“ jsem často diskutoval v pokrytí mého sloupku.

Podle TR:

• „OpenAI iteruje na GPT-4 a náš plán nasazení od začátku srpna, abychom se připravili na bezpečnější spuštění. Věříme, že to snížilo rizikový povrch, i když jej zcela neodstranilo. Dnešní nasazení představuje rovnováhu mezi minimalizací rizik plynoucích z nasazení, umožněním pozitivních případů použití a učením se z nasazení.“

Když se vrátím k projednávané věci, dříve jsem zmínil, že halucinace AI jsou převládajícím problémem, pokud jde o generativní AI.

Opět se mi nelíbí ta hláška, ale zdá se, že se chytla. Hlavním pilířem problému s halucinacemi AI je to, že mohou produkovat výstupy, které obsahují velmi bláznivé věci. Možná si myslíte, že je na uživateli, aby rozeznal, zda jsou výstupy správné nebo špatné. Zde je obava, že výstupy mohou obsahovat vymyšlené věci, o kterých uživatel nemá snadný způsob, jak určit, že jsou vytvořené. Mohli by věřit všemu, co výstup říká.

Existuje také jemná tendence nechat se ukolébat vírou ve výstupy generativní umělé inteligence. Výstup je obvykle napsán tónem a způsobem, který naznačuje jisté zdání sebevědomí. Za předpokladu, že generativní umělou inteligenci používáte pravidelně, je snadné se nechat ukolébat tím, že většinu času uvidíte pravdivý materiál. Pak se můžete snadno nechat zmást, když se něco vymyšleného dostane doprostřed toho, co se jinak zdá být zcela rozumným a fakty naplněným generovaným esejem.

Zde je to, co TR říká o GPT-4:

• „GPT-4 má tendenci 'halucinovat', tj. 'produkovat obsah, který je nesmyslný nebo nepravdivý ve vztahu k určitým zdrojům.' Tato tendence může být zvláště škodlivá, protože modely se stávají stále přesvědčivějšími a důvěryhodnějšími, což vede k nadměrnému spoléhání uživatelů na ně. Z kontraintuitivního hlediska se halucinace mohou stát nebezpečnějšími, když se modely stanou pravdivějšími, protože uživatelé si budují důvěru v model, když poskytuje pravdivé informace v oblastech, kde je znají.“

Dobrou zprávou je, že bylo vynaloženo a zdá se, že pokračuje úsilí ve snaze snížit pravděpodobnost halucinací AI v GPT-4. Také se tvrdí, že GPT-4 překonává GPT-3.5, pokud jde o odvrácení halucinací AI, i když je jasné, že se stále budou vyskytovat.

Tady je TR k tomuhle:

• „Při interních hodnoceních má spuštění GPT-4 skóre o 19 procentních bodů vyšší než náš nejnovější model GPT-3.5 při předcházení halucinacím v otevřené doméně a o 29 procentních bodů vyšší při předcházení halucinacím v uzavřené doméně.“

Abychom tuto část diskuse pro tuto chvíli uzavřeli, generativní AI všech tvůrců AI se s těmito problémy potýká. Nikdo to nějak nevyléčil. Pokud hledáte těžké problémy s AI, vyzývám vás, abyste skočili do těchto vod a pomohli. Čeká nás spousta práce.

Proč investovat do čističky vzduchu?

Když filmový trhák už nějakou dobu existuje a přešel z kin na domácí streamování, poměrně hodně lidí pravděpodobně film vidělo nebo o něm vědělo něco od ostatních, kteří ho viděli. Poté, když je oznámeno a natáčeno pokračování, může očekávání dosáhnout astronomických úrovní.

JJ Abrams, dnes již legendární tvůrce dílů série Star Wars a rebootu Star Treku, řekl o pokračováních toto: „Na pokračování není nic špatného, ​​jen se snáze prodávají.“

Edwin Catmull, spoluzakladatel Pixaru, to o pokračováních zdůraznil: „Věřte mi, že pokračování je stejně těžké natočit jako originální filmy.“

Pokud máte zájem vidět trhák ChatGPT, můžete se snadno zaregistrovat. Přístup k pokračování GPT-4 je trochu složitější. Uvědomte si také, že je k dispozici spousta dalších filmů, no, jiných generativních aplikací umělé inteligence, takže se možná budete chtít ujistit, že vaše zážitky z filmování (aka generativní umělá inteligence) budou rozmanité a naplňující.

Jedna poznámka na závěr. Upozorňujeme, že obsah, se kterým se můžete setkat, může být PG13, R nebo dokonce NC-17. Pamatuj si to.