Meta AI odhaluje diplomatické zaklínadlo plné umělé inteligence, které míchá etiku umělé inteligence a zákon o umělé inteligenci do delikátní Tiff

Vážený svět půvabu a diplomacie je často poznamenán nedbalostí a nezdvořilostí.

Will Rogers, velký humorista a společenský komentátor, skvěle řekl, že diplomacie je umění říkat „pěkný pejsek“, dokud nenajdete kámen.

Zřejmým důsledkem je, že někdy musíte rázně zadržet jakékoli hrozící a ohrožující síly, dokud nenajdete vhodné obhajitelné řešení. Udělejte to, co musíte udělat, když jste v zoufalé tísni. Záměrně a cíleně usmiřujte ty, kteří vás ohrožují, pomocí svých konejšivých a okouzlujících slov, shromažďujte drahocenný čas na to, abyste se vyzbrojili praktičtějším a zjevně hmatatelným postojem.

REKLAMA

Někteří tvrdí, že válka je neoddělitelně výsledkem neúspěšné diplomacie. Z tohoto uváženého hlediska neustálé bubnování diplomacie odvrátí válku. Mluvte dál a boj nezačne. Jiní s takovým problematickým názorem horlivě nesouhlasí. Možná, jak se říká, diplomacie je ve skutečnosti to, co nás přivádí do válek. Kromě toho by se mohlo stát, že diplomacie prodlužuje války a udržuje boje na nekonečném základě.

Dáme Willu Rogersovi další šanci užít si trochu humoru z této otázky, zda je diplomacie dobrá nebo špatná, pokud jde o příchod nebo pokračování války: „Vyjměte diplomacii z války a věc by se za týden zhroutila“ (on údajně deklarováno).

Běžná definice diplomacie zdůrazňuje vztahy mezi národy. Diplomaté zastupují konkrétní národy nebo národní státy a při plnění svých posvátných povinností vykonávají diplomacii. Očekáváme, že naši diplomaté provedou svou zahraniční politiku prostřednictvím sebevědomí. Posel by neměl být tím, kdo zažehne nepřátelství, může to udělat jen zpráva. Pravděpodobně bezchybné diplomatické zobrazení i těch nejkřiklavějších zpráv může prokazatelně zmírnit ránu způsobenou jinak škodlivý požadavek nebo hrozbu.

REKLAMA

Diplomacie se samozřejmě neomezuje pouze na vznešenou práci formalizovaných diplomatů. Troufám si tvrdit, že v každodenním životě si všichni musíme vypěstovat nějaké zdání diplomacie. Když chcete, aby vám přítel hlídal vašeho milovaného psa, když jste na služební cestě, zcela jistě diplomaticky zformulujete žádost, abyste se o pejska postarali. Vyslovit přímý požadavek, aby tak učinil, pravděpodobně dopadne s tupým žuchnutím.

Diplomacie je pravděpodobně více uměním než vědou a je něco, co lidé používají k namazání smyků, udržení rozsvícených světel a předcházení tomu, aby se společnost úplně zbláznila. Vyjednávání přicházejí hrát. Může být nutné, aby došlo k uklidnění. Někdy použijete mrkev, někdy tyčinku. Pokud to musíte udělat, můžete zkusit takzvanou diplomacii dělového člunu, při které se snažíte zastrašit ostatní kolem vás. Nebo místo silného vyzbrojování můžete jít měkčí cestou zprostředkování a humanitární pomoci. Na všem záleží.

Dobře, takže se všichni přiměřeně shodneme na tom, že diplomacie je životně důležitá forma komunikace mezi lidmi. Skládá se z praxe nebo jevištního umění spojeného s používáním taktu, zprostředkování, vyjednávání, usmiřování a spoustou společensky obratného politikaření.

REKLAMA

Přidejme k té rovnici ještě něco.

Jste připraveni?

Přidáme ještě něco, o čem jste možná ještě uvažovali.

Umělá inteligence (AI).

Ano, AI se dostává do gambitu diplomacie. To se zdá být zcela rozumné. Máme-li mít AI ponořenou do všech aspektů našich životů, nakonec musela přijít na řadu diplomacie. Můžeme očekávat, že umělá inteligence bude schopna vykonávat jakékoli povinnosti, které má, použitím vhodných slov a způsobů diplomacie.

REKLAMA

AI jako autonomní nebo poloautonomní diplomat.

Uvědomuji si, že se to může zdát poněkud skličující a celkem děsivé. Nemyslím si, že kdokoli z nás je připraven na to, aby umělá inteligence fungovala jako zástupce našich zemí. Představte si, že umělá inteligence slouží naším jménem při vyjednávání našich mezinárodních pozic a potvrzení našeho globálního politického postoje. Fuj! Je to náplň těch apokalyptických sci-fi příběhů.

No, na chvíli si vydechněte, protože to zatím není v kartách.

Místo toho přemýšlejte o umělé inteligenci, kterou používáte k vyřízení svého bankovnictví nebo která vás navede k nákupu domu. Dnešní umělá inteligence, která komunikuje s lidmi, je obvykle dost ořezaná. Dostaňte se k faktům, pouze k faktům. Některá umělá inteligence byla pokryta roztomilými formulacemi, abyste si mysleli, že je přátelská nebo kamarádská, i když je to rychle vidět. Jen proto, že na vás systém umělé inteligence odkazuje vaším jménem nebo vydává slova jako „ahoj“ místo „ahoj“, většina z nás si hned uvědomí, že je to šaráda.

Dalším krokem, který v halách vývojářů umělé inteligence horlivě sledují, je pokusit se vložit do naší každodenní umělé inteligence diplomatické vlastnosti. Hlavním cílem je začlenit programové aspekty, které umožní umělé inteligenci předvést diplomacii a diplomatické chování. Pomocí různých algoritmů a zejména nejnovějších generativních AI nebo velkých jazykových modelů (LLM) je v této oblasti dosaženo značného pokroku.

REKLAMA

Podívejme se na jeden takový příklad, CICERO, nový systém umělé inteligence vydaný týmem Meta AI.

V případě, že jste byli na dovolené a nedrželi jste krok s nejnovějšími zprávami o umělé inteligenci, nedávné oznámení a odhalení systému umělé inteligence vytvořeného jako CICERO nabízí významný ukazatel toho, kde se v těchto dnech nachází aréna diplomacie plná umělé inteligence. Tým Meta AI promyšleně a ke své cti dal otevřeně k dispozici svůj vyvinutý systém CICERO AI. Technické podrobnosti si můžete přečíst ve zveřejněném výzkumném článku na Věda, Viz odkaz zde. Můžete navštívit webovou stránku, kterou vytvořili, aby jemně sdělila celkové nuance CICERO pomocí krátkých videoklipů, které ilustrují, co dělá (viz odkaz zde). Pro ty z vás, kteří hledají skutečný programový kód a software, najdete zdrojový kód na GitHubu na adrese odkaz zde.

Chci rychle objasnit jeden aspekt, který by se mohl zdát matoucí, pokud se rozhodnete vrtat do této záležitosti.

Konkrétní systém umělé inteligence navržený společností Meta AI je v současné době nastaven tak, aby hrál poněkud populární hru známou jako Diplomacie (možná jste viděli deskovou hru podle Hasbro a dalších tvůrců her). Uvádím to, protože slovo „diplomacie“ bude mít za těchto okolností dvojí povinnost. Na jedné straně se navržená umělá inteligence pokouší vnést charakteristiky podniku a displeje diplomacie sama o sobě. Mezitím se tento konkrétní systém umělé inteligence odehrává při hraní konkrétně a pouze (právě teď) slavné deskové hry známé jako Diplomacie.

Vidíte, jak to může některé lidi zmást?

Pokud vám někdo říká, že tato konkrétní umělá inteligence je v „diplomacii“ opravdu dobrá, možná si nejste jisti, zda nemyslí na názor, že umělá inteligence je docela zručná v hraní deskové hry známé jako Diplomacie nebo možná místo toho naznačují, že AI ztělesňuje základní esenci spojenou s lidským aktem diplomacie. Navíc se může stát, že oba aspekty jsou míněny současně (jmenovitě AI hraje dobře Diplomacie a zároveň se mu daří uplatňovat nebo předvádět diplomacii jako dovednost nebo čin).

REKLAMA

Zde se to pokusím napravit tím, že napíšu první písmeno velké a kurzívou uvedu název deskové hry, Diplomacie. Po zbytek času budu používat výraz „diplomacie“ nekurzívou jako označení celkového pojetí diplomatického nebo projevujícího se diplomacie (viz, právě jsem to udělal).

Vrátíme-li se k dané věci, můžete se na chvíli zamyslet nad tím, zda AI, která projevuje diplomacii, je něco, po čem bychom měli toužit, nebo se tomu raději vyhnout.

Přimět umělou inteligenci k předvádění diplomacie má mnoho pozitivních aspektů. Žili byste však v mělké bublině, abyste se domnívali, že diplomacie AI bude zcela a výhradně dobrá věc. Umělá inteligence, která vypadá, že má diplomatické schopnosti a díky níž můžeme věřit, že má diplomacii, je také plná znepokojivých problémů, které musíme uvést do popředí. Umělá inteligence použitá tímto způsobem v podstatě vyvolává spoustu otázek týkajících se etiky a zákona o umělé inteligenci. Pro ty z vás, kteří se zajímají o etiku AI a právo AI, se můžete podívat na mé rozsáhlé a průběžné pokrytí etické AI a práva AI na odkaz zde a odkaz zde, Abychom jmenovali jen několik.

Než se pustím do umělé inteligence jako ztělesnění určité formy diplomacie, rád bych nejprve položil základní základy umělé inteligence a zejména etiky a práva umělé inteligence, abych se ujistil, že diskuse bude kontextově smysluplná.

REKLAMA

Rostoucí povědomí o etické AI a také zákon o AI

Nedávná éra umělé inteligence byla zpočátku považována za bytí AI pro dobro, což znamená, že bychom mohli použít AI pro zlepšení lidstva. Na patách AI pro dobro došlo k poznání, že jsme také ponořeni AI pro špatné. Patří sem umělá inteligence, která je navržena nebo sama upravena tak, aby byla diskriminační a provádí výpočetní volby, které jsou nepatřičné předsudky. Někdy je AI postavena tímto způsobem, zatímco v jiných případech se obrací do tohoto neznámého území.

Chci se ujistit, že jsme na stejné stránce ohledně povahy dnešní umělé inteligence.

Dnes neexistuje žádná AI, která by byla vnímavá. Tohle my nemáme. Nevíme, zda bude vnímající AI možná. Nikdo nemůže výstižně předpovědět, zda dosáhneme vnímající AI, ani zda se vnímající AI nějakým zázrakem spontánně objeví ve formě výpočetní kognitivní supernovy (obvykle označované jako singularita, viz moje pokrytí na odkaz zde).

Typ AI, na který se zaměřuji, se skládá z necítivé AI, kterou máme dnes. Pokud bychom chtěli divoce spekulovat o vnímavé AI, mohla by se tato diskuse ubírat radikálně jiným směrem. Vnímavá AI by měla mít lidské kvality. Měli byste vzít v úvahu, že vnímající AI je kognitivní ekvivalent člověka. Navíc, protože někteří spekulují, že bychom mohli mít superinteligentní AI, je možné si představit, že taková AI by mohla být chytřejší než lidé (pro můj průzkum superinteligentní AI jako možnosti viz. pokrytí zde).

REKLAMA

Důrazně bych navrhoval, abychom věci drželi při zemi a zvážili dnešní výpočetní necitlivou AI.

Uvědomte si, že dnešní umělá inteligence není schopna „myslet“ žádným způsobem na stejné úrovni jako lidské myšlení. Když komunikujete s Alexou nebo Siri, konverzační schopnosti se mohou zdát podobné lidským schopnostem, ale skutečnost je taková, že jsou výpočetní a postrádají lidské poznání. Nejnovější éra umělé inteligence široce využívá strojové učení (ML) a hluboké učení (DL), které využívají porovnávání výpočetních vzorů. To vedlo k systémům umělé inteligence, které vypadají jako lidské sklony. Mezitím dnes neexistuje žádná umělá inteligence, která by měla zdání zdravého rozumu, ani žádný z kognitivních zázraků robustního lidského myšlení.

Buďte velmi opatrní při antropomorfizaci dnešní AI.

ML/DL je forma porovnávání výpočetních vzorů. Obvyklý přístup je takový, že shromažďujete data o úloze rozhodování. Data vkládáte do počítačových modelů ML/DL. Tyto modely se snaží najít matematické vzorce. Po nalezení takových vzorů, pokud jsou nalezeny, systém umělé inteligence tyto vzory použije, když narazí na nová data. Po předložení nových dat se pro vykreslení aktuálního rozhodnutí použijí vzory založené na „starých“ nebo historických datech.

Myslím, že můžete hádat, kam to směřuje. Pokud lidé, kteří se rozhodovali podle vzoru, začlenili nežádoucí předsudky, je pravděpodobné, že data to odrážejí jemnými, ale významnými způsoby. Počítačové porovnávání vzorů Machine Learning nebo Deep Learning se jednoduše pokusí odpovídajícím způsobem matematicky napodobit data. Neexistuje žádné zdání zdravého rozumu nebo jiných vnímavých aspektů modelování vytvořeného umělou inteligencí jako takového.

REKLAMA

Kromě toho si vývojáři AI nemusí uvědomit, co se děje. Tajemná matematika v ML/DL může ztížit odhalení nyní skrytých předsudků. Oprávněně byste doufali a očekávali, že vývojáři umělé inteligence budou testovat potenciálně pohřbené předsudky, i když je to složitější, než by se mohlo zdát. Existuje solidní šance, že i přes poměrně rozsáhlé testování, že v modelech porovnávání vzorů ML/DL budou stále zakomponovány zkreslení.

Dalo by se tak trochu použít slavné nebo nechvalně známé pořekadlo o smetí-do odpadu-ven. Jde o to, že je to spíše podobné předsudkům – in, které se zákeřně prolínají, když se předsudky ponoří do AI. Algoritmus rozhodování (ADM) umělé inteligence je axiomaticky zatížen nerovnostmi.

Špatný.

To vše má pozoruhodně významné důsledky pro etiku umělé inteligence a nabízí praktické okno do získaných lekcí (dokonce ještě předtím, než k nim dojde), pokud jde o pokusy o uzákonění umělé inteligence.

REKLAMA

Kromě toho, že obecně používáme etické zásady AI, existuje odpovídající otázka, zda bychom měli mít zákony, které by řídily různá použití AI. Na federální, státní a místní úrovni se šíří nové zákony, které se týkají rozsahu a povahy toho, jak by měla být umělá inteligence navržena. Snaha navrhnout a přijmout takové zákony je postupná. Etika umělé inteligence slouží přinejmenším jako zvažovaná překážka a téměř jistě bude do určité míry přímo začleněna do těchto nových zákonů.

Uvědomte si, že někteří neústupně tvrdí, že nepotřebujeme nové zákony, které pokrývají AI, a že naše stávající zákony jsou dostatečné. Varují, že pokud uzákoníme některé z těchto zákonů AI, zabijeme zlatou husu tím, že potlačíme pokroky v AI, které nabízejí obrovské společenské výhody.

V předchozích sloupcích jsem pokryl různé národní a mezinárodní snahy o vytvoření a uzákonění zákonů regulujících umělou inteligenci, viz odkaz zde, například. Zabýval jsem se také různými principy a směrnicemi etiky AI, které různé národy identifikovaly a přijaly, včetně například úsilí OSN, jako je soubor etiky AI UNESCO, který přijalo téměř 200 zemí, viz. odkaz zde.

REKLAMA

Zde je užitečný základní seznam etických kritérií nebo charakteristik AI systémů AI, které jsem dříve podrobně prozkoumal:

• Průhlednost
• Spravedlnost a férovost
• Neškodlivost
• Odpovědnost
• Ochrana osobních údajů
• Dobročinnost
• Svoboda a autonomie
• Věřte
• udržitelnost
• Důstojnost
• Solidarita

Předpokládá se, že tyto zásady etiky AI budou vážně využívat vývojáři AI spolu s těmi, kteří řídí úsilí o vývoj AI, a dokonce i ti, kteří nakonec používají a provádějí údržbu systémů AI.

Všechny zúčastněné strany během celého životního cyklu vývoje a používání AI jsou posuzovány v rámci dodržování zavedených norem etické AI. To je důležité upozornit, protože obvyklý předpoklad je, že „pouze kodéři“ nebo ti, kteří programují AI, podléhají dodržování etických pojmů AI. Jak bylo zdůrazněno výše, k vymýšlení a nasazení umělé inteligence je zapotřebí vesnice, přičemž celá vesnice musí být zběhlá a dodržovat etické předpisy AI.

REKLAMA

Nedávno jsem také zkoumal Listina práv AI což je oficiální název oficiálního dokumentu vlády USA s názvem „Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People“, který byl výsledkem celoročního úsilí Úřadu pro politiku vědy a technologie (OSTP ). OSTP je federální entita, která slouží k poradenství americkému prezidentovi a výkonnému úřadu USA v různých technologických, vědeckých a inženýrských aspektech národního významu. V tomto smyslu lze říci, že tato listina práv AI je dokument schválený a schválený stávajícím Bílým domem USA.

V listině práv AI je pět základních kategorií:

• Bezpečné a efektivní systémy
• Algoritmické diskriminační ochrany
• ochranu osobních údajů
• Upozornění a vysvětlení
• Lidské alternativy, ohleduplnost a záložní řešení

Pečlivě jsem si ty předpisy prošel, viz odkaz zde.

REKLAMA

Nyní, když jsem na tato související témata etiky a práva umělé inteligence položil užitečný základ, jsme připraveni skočit do opojného tématu strojové diplomacie s umělou inteligencí.

Diplomacie AI v celé své slávě a také potenciální pád

Nejprve ukažme, že typ AI, o kterém se zde uvažuje, je necítící AI.

Říkám to, protože kdyby, nebo někteří říkají kdy když dosáhneme vnímající AI, celé téma bude pravděpodobně zcela převráceno. Představte si potenciální chaos a společenský zmatek za to, že jste se nějak dostali do jinak nikdy předtím neviděného a nepochybně ověřeného umělý inteligence, která ztělesňuje sentience (pro mou analýzu slavného testu umělé inteligence známého jako Turingův test viz. odkaz zde). Můžete se odůvodněně vsadit, že mnoho našich stávajících kulturních, právních a každodenních norem bude v jádru nesmírně otřeseno.

Možná bude vnímající AI náš kamarád, nebo možná bude vnímající AI náš nejhorší nepřítel. Jak budeme schopni říct, jakým směrem se AI vydá?

Můžete být v pokušení naznačit, že pravděpodobně budeme schopni mluvit s AI a podle toho, co říká, zjistit záměry, které má. Aha, padl jsi do znepokojivé pasti. Předpokládejme, že umělá inteligence je obzvláště dobře prodchnutá nějakou formou schopností AI diplomacie. Když se pokusíte mluvit s umělou inteligencí, možná bude mluvit těmi nejkouzelnějšími a nejvýmluvnějšími slovy. To by mohlo být pro lidstvo velmi uklidňující.

REKLAMA

Ale je to to, co má AI skutečně „na mysli“, pokud jde o její výpočetní záměry založené na AI?

Umělá inteligence možná dělá klasický diplomatický úder jedna-dvě. Povídejte si dobrou hru a nechte nás ukolébat vírou, že AI je náš nejlepší kamarád. To může dát AI čas na shromažďování zdrojů, aby předstihla lidstvo, nebo možná pilně pracovat v zákulisí, aby podkopala vše ostatní, co používáme k udržení lidstva. Po tom chytrém diplomatickém stání nás AI všechny omráčí.

Pamatujte si, co řekl Will Rogers, což by v tomto případě mohlo být, že nám AI řekne „Pěkný pejsek“ a my AI poskytneme dostatečný prostor k dýchání, aby nás pak vymazala z planety. Toto pojetí umělé inteligence jako existenčního rizika je již dlouho obestřeno. Někteří věří, že vymýšlením umělé inteligence s nabitou diplomacií se dostaneme do snookeru. Umělá inteligence chytře využije všechny nasycené diplomacie, na kterých jsme pomáhali AI trénovat, a nakonec budeme slepě oklamáni, že se AI stane naším vládcem.

Měli bychom se stydět.

Pro ty z vás, kteří se dále zajímají o tento vysoce spekulativní terén o futuristické AI, se podívejte na mé pokrytí perspektiv AI jako existenční hrozby na odkaz zde.

REKLAMA

Když se vrátíme zpět na zem, budu zde od nynějška zdůrazňovat cestu diplomacie nasycené AI v naší existující necítící AI.

Pojďme se trochu podívat do historie.

Pokusy vymyslet AI, která nějakým způsobem ztělesňuje počítačovou příchuť diplomacie a diplomatického chování, probíhají již od počátků AI. Můžete se snadno vrátit do 1950., 1960. a 1970. let XNUMX. století a najít základní výzkumné studie, které dychtily po aplikaci umělé inteligence v této oblasti. Někteří si mysleli, že klíčem je teorie her. Další se zaměřovaly na psychologii a související kognitivní prvky. Jiní se pokusili využít ekonomiku, operační výzkum a nesčetné množství zdánlivě relevantních oblastí snažení.

Počáteční rozkvět později nastal během 1980. let. V té době jeden dominantní přístup spočíval v použití expertních systémů (ES) nebo znalostních systémů (KBS) ke konstrukci systémů umělé inteligence souvisejících s diplomacií. Výsledek byl poněkud napjatý a měl tendenci demonstrovat, jak obtížný úkol to bude.

REKLAMA

Jedním hlodavým rébusem v této éře počátečního vyšetřování byla potřeba pevné platformy, na níž nebo v rámci níž by mohla být AI, která byla údajně schopna fungovat některými způsoby souvisejícími s diplomacií, adekvátně testována a prozkoumána. Tato potřeba je snad zřejmá. Pokud chce někdo rozeznat, zda člověk nebo umělá inteligence může vykonávat diplomacii, musí být vytvořeno prostředí příznivé pro toto hledání.

Do tohoto obrázku přichází desková hra Diplomacie.

Uvědomuji si, že desková hra Diplomacie není tak známá jako monopol, Rizikonebo strategie (pravděpodobně jste o těchto hrách slyšeli). Nicméně existuje strategická desková hra známá jako Diplomacie který byl poprvé navržen v roce 1954 a komerčně uveden v roce 1959. Kromě toho, že se hraje tváří v tvář, Diplomacie hra se často hrála prostřednictvím šnečí pošty. Napsali byste své pohyby na kus papíru a poslali list poštou těm, proti kterým jste hráli. Trochu šílené si v dnešní době představit. Později byl použit e-mail. Nakonec byla hra dostupná online a umožňovala hráčům účastnit se v reálném čase navzájem.

Na Diplomacie Když se hra stala dostupnou na mikropočítačích, začali ji specialisté na umělou inteligenci používat jako praktický prostředek k testování jejich diplomacie s umělou inteligencí. The Diplomacie hra byla dostupná jako aplikace běžící na PC, takže člověk mohl hrát proti stroji (tj. vymyšlené AI). AI v 1990. letech, která byla napsána pro hraní Diplomacie byl notoricky pomalý, záhadný a snadno ho porazil každý minimálně důvtipný člověk, který hraje hry.

REKLAMA

Zde je přehled z roku 1999 Diplomacie jak bylo zveřejněno na Yahoo, které živě popsalo žalostný stav diplomacie s umělou inteligencí jako protivníka lidského hráče:

• "Však, DiplomacieNejkřiklavější problém je, že umělá inteligence ve hře je naprosto příšerná. Hráči jakékoli úrovně dovedností nebudou mít s lovem velryb na počítači žádné potíže ani při nastavení nejvyšší obtížnosti. Vítězství je prostě otázkou času a trpělivosti s rozhraním. Není to tak, že by počítač neplánoval za vašimi zády – ano, a často se spojí se spojenci, aby vám vzali jedno nebo dvě území – ale taková schémata přicházejí v záchvatech a začínají, spíše než jako kontinuální nebo zvláště náročná hrozba."

Jednou obzvláště znepokojivou slabinou návrhu umělé inteligence bylo, že se zdálo, že postrádá kapacitu pro výpočet více tahů nebo strategií najednou: „A na základnější úrovni se zdá, že počítač není schopen řídit více strategických tahů. Zatímco lidský hráč může zahájit útoky na Řecko a Belgii současně, počítač se vždy soustředí vždy jen na jednu věc. Z tohoto důvodu počítač prostě nemůže soutěžit s lidským hráčem“ (tamtéž).

Ještě jsem vám nevysvětlil, o co jde Diplomacie desková hra se skládá z, takže věnujte chvíli stanovení základních pravidel.

Existuje praktický výzkumný dokument o AI a hraní Diplomacie který výstižně popsal podstatu hry: „Hra se odehrává na mapě Evropy v roce 1901, která je rozdělena do 75 provincií. Každý hráč hraje jednu ze sedmi velmocí té doby: Rakousko (AUS), Anglie (ENG), Francie (FRA), Německo (GER), Itálie (ITA), Rusko (RUS) a Turecko (TUR) a každý hráč začíná se třemi nebo čtyřmi jednotkami (armádami nebo flotilami), které jsou umístěny na pevných počátečních pozicích na mapě. V každém kole hry musí každý hráč „předložit rozkaz“ pro každou ze svých jednotek, který těmto jednotkám říká, jak se pohybovat po mapě, a umožňuje jim dobýt provincie na mapě“ (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita a Takayuki Ito, „Výzva vyjednávání ve hře diplomacie“, Dohodové technologie: 6. mezinárodní konference, V roce 2018)

REKLAMA

Musíte také vědět o způsobech, jak vyhrát a prohrát hru: „Některé provincie jsou tzv. Zásobovací centra a cílem hráčů je dobýt tato centra zásobování. Hráč je vyřazen, když ztratí všechna svá zásobovací centra a hráč vyhraje hru, když dobyl 18 nebo více z 34 zásobovacích center (sólové vítězství). Hra však může také skončit, když všichni přeživší hráči souhlasí s remízou“ (tamtéž).

Věřím, že to vidíte Diplomacie je přímočará hra, do které se zapojuje až sedm hráčů, kteří se vzájemně strategicky snaží vymanévrovat. Během tohoto manévrování se mohou hráči mezi sebou poradit, aniž by ostatní hráči věděli, na čem jsou. Diplomacie přichází do popředí tím, že dokážete přimět ostatní hráče, aby šli podle vašich plánů. Můžete odhalit své skutečné plány, nebo možná ne. Můžete nabízet falešné plány. Můžete se domluvit s ostatními hráči. Můžete oklamat ostatní hráče. Můžete navazovat spojenectví s ostatními hráči. Atd.

V lásce a válce je vše spravedlivé, jak se říká.

Vybral jsem si tento konkrétní výzkumný dokument, protože byl nápomocný při vytváření varianty počítačové verze Diplomacie volal DipGame sloužit jako průkopnická platforma pro testování schopností diplomacie s umělou inteligencí: „Existuje chronický nedostatek sdílených aplikačních domén pro testování pokročilých výzkumných modelů a architektur vyjednávání agentů v multiagentních systémech. V tomto článku představujeme přátelské testovací prostředí pro tento účel. Testbed je založen na Diplomatická hra kde vyjednávání a vztahy mezi hráči hrají zásadní roli“ (tamtéž). Toto a mnoho dalších variací Diplomacie byly vytvořeny a zpřístupněny pro výzkum a hraní.

REKLAMA

Vědci vysvětlili, proč tomu věřili Diplomacie je tak užitečná hra pro pomoc při hledání umělé inteligence směrem k diplomacii naplněné umělou inteligencí: „Hra Diplomacie je vynikajícím testovacím případem pro tento typ komplexních vyjednávání, protože je to hra, která zahrnuje mnoho obtíží, kterým by člověk musel čelit při vyjednávání v reálném životě. Zahrnuje uspokojení z omezení, tvorbu koalice, teorii her, důvěru a dokonce i psychologii. Nyní, když jsou moderní počítače Chess and Go mnohem lepší než jakýkoli lidský hráč, to očekáváme Diplomacie začne přitahovat více pozornosti jako další velká výzva pro informatiku“ (tamtéž).

V rychlém shrnutí desková hra Diplomacie poskytuje již známý a poněkud oblíbený prostředek, jak přimět lidi, aby jednali různými diplomatickými způsoby. Normálně lidé hrají proti jiným lidem (v tomto případě až sedmi lidským hráčům). Můžeme vymyslet AI, která by se pokusila převzít roli hráče ve hře. Můžete tedy mít šest lidských hráčů a jednoho hráče s umělou inteligencí.

Představte si hraní Diplomacie online.

Pokud lidským hráčům neřekneme, že je mezi nimi AI, mohli by přirozeně předpokládat, že sedmý hráč je pouze další lidský hráč. Abychom se pokusili zabránit jakémukoli lidskému hráči, aby uhádl, že hraje AI, můžeme omezit herní aspekty na požadavek, aby si všichni hráči posílali textově orientované zprávy. Nemůžete přímo vidět ostatní hráče.

REKLAMA

Možná si říkáte, že se to nezdá nijak zvlášť odlišné od hraní online šachů. Proč ten velký povyk Diplomacie jako hru?

Připomeňme, že se zaměřujeme na interakce mezi hráči. Předpokladem této hry je, že hráči vůči sobě vyvolávají diplomacii. To je na rozdíl od konvenčních šachů. Pokud bych vyvinul aplikaci pro hraní šachů založenou na umělé inteligenci, normálně by hrála proti jednomu člověku. Mezi AI hrajícím šachy a lidským hráčem neprobíhá žádné vyjednávání ani diskuse. Pouze dělají šachové tahy a snaží se jeden druhého překonat. To se obvykle děje v naprostém tichu.

Diplomacie nám umožňuje vykonávat otevřenou výpočetní a lidskou diplomacii (potenciálně tak učinit písemně, místo aby to bylo nutné říkat nahlas): „Hlavní rozdíl mezi Diplomacie a dalších deterministických her, jako jsou Chess and Go, spočívá v tom, že v diplomacii mohou hráči mezi sebou vyjednávat a vytvářet koalice. V každém kole, než hráči odešlou své rozkazy, dostanou hráči čas na vzájemné vyjednávání a uzavření dohody o rozkazech, které předají. Vyjednávání probíhají neveřejně a každá uzavřená dohoda je známa pouze hráčům, kteří se na této dohodě podílejí“ (tamtéž).

Mohl byste vymyslet nějakou jinou hru, která by spíše využívala interaktivní diplomacii, než aby se spoléhala na hru Diplomacie?

Absolutně.

REKLAMA

Existují různé takové hry.

Výhodou výběru jedné konkrétní značky hry je, že pak vývojáři AI mohou zaměřit svou pozornost na tuto konkrétní hru. Můžete se soustředit na vymýšlení umělé inteligence, která provádí diplomacii v tomto definovaném kontextu. Můžete sdílet přístupy a porovnávat je. Můžete ohodnotit různé instance AI na základě metrik spojených s danou hrou. A tak dále.

Jak již bylo řečeno, protiargument nebo vyjádřená obava je, že je to jako dát všechna vejce do jednoho košíku. Někteří se obávají, že pokud se mnoho vývojářů umělé inteligence začne zabývat jednou konkrétní platformou nebo prostředím, jako v tomto případě Diplomacie, budou se snažit optimalizovat AI pro tuto konkrétní arénu. Nevýhodou je, že AI nebude zobecněná. Neuděláme tak velký pokrok směrem k zastřešujícím schopnostem diplomacie s umělou inteligencí.

Něco jako nevidět les kvůli stromům, chcete-li.

Další často vyjadřovanou obavou je, že hry jako např Diplomacie jsou jen hry.

REKLAMA

Vyvstává ožehavá otázka, zda lidé hrající hru dělají stejné věci, jaké by dělali v diplomacii v reálném světě. Možná se nechováte stejným způsobem, když nejde o národní hrdost nebo národní sázky. Jistě, můžete se obávat o svou osobní hrdost, když hrajete hru, nebo se možná snažíte stát nejlepším střelcem, nebo možná dokonce vyhráváte finanční odměny, ale stejně to znamená vyjednávání světového míru v OSN nebo dohadování o tom, které země měl mít nebo nemít jaderné zbraně.

Někteří věří, že tyto diplomacie hry jsou vhodnými mikrokosmy skutečného světa. Jiní si stěžují, že hry jsou užitečné, ale nedosahují příslovečné diplomacie gumy mezinárodního kalibru. Může se stát, že herní verze diplomacie s umělou inteligencí nejsou ničím jiným než pouhým herním úspěchem. Páni, navržená umělá inteligence může vyhrát nebo si počínat opravdu dobře, když hrajete hru zahrnující diplomacii, i když se ukazuje, že použití stejné umělé inteligence ve skutečném diplomatickém prostředí velmi chybí a pokulhává nebo selhává.

Předpokládejme pro tuto chvíli, že AI je vytvořena pro hraní her, jako je např Diplomacie opravdu stojí za to. Dalo by se rozumně namítnout, že bez ohledu na to, zda je vhodný pouze pro hraní her nebo pro akci v reálném světě, tato myšlenka zahrnuje rozšíření hranic umělé inteligence a pokroky v umělé inteligenci, které by mohly přispět k diplomacii nebo by mohly přinést další výhodné průlomy v ražení umělé inteligence.

REKLAMA

Upřednostňujte smajlíka.

Dále prozkoumáme, jak se Meta AI rozhodla vytvořit hráče diplomacie s umělou inteligencí, který může hrát ve hře Diplomacie.

Držte si klobouky.

Meta AI a Diplomat Cicero založený na strojovém hraní

Jak již bylo zmíněno, existuje výzkumný článek publikovaný v Věda která popisuje nově oznámenou a veřejně vydanou aplikaci Meta AI vytvořenou jako Cicero (v této diskusi ji budu zaměnitelně označovat jako „Cicero“ a stejně tak i univerzální přezdívku „CICERO“):

REKLAMA

• „Představujeme Cicero, agenta umělé inteligence, který ve strategické hře dosáhl výkonu na lidské úrovni Diplomacie, v DiplomacieSedm hráčů vede soukromá vyjednávání v přirozeném jazyce, aby koordinovali své akce, aby spolu mohli spolupracovat a soutěžit. Naproti tomu předchozí velké úspěchy pro multiagentní AI byly v čistě nepřátelských prostředích, jako jsou šachy, Go a poker, kde komunikace nemá žádnou hodnotu. Z těchto důvodů, Diplomacie sloužil jako náročné měřítko pro učení více agentů“ (Tým diplomacie Meta Fundamental AI Research, „Hra na lidské úrovni ve hře diplomacie kombinací jazykových modelů se strategickým uvažováním“, Věda, 22. listopadu 2022).

Budu citovat z článku a poté nabízet různé postřehy, které vás snad budou zajímat.

Vzhledem k tomu, že umělá inteligence byla právě zpřístupněna, pravděpodobně provedu následnou analýzu poté, co jsem měl možnost provést hluboké praktické posouzení kódu a také provést nějaké experimentální hraní her, abych změřil schopnosti umělé inteligence (např. klíčové silné a slabé stránky).

Dávejte pozor na pozdější zveřejnění!

Každopádně věřím, že jste si v pasáži, kterou jsem právě citoval, mohli všimnout, že existuje fráze, která říká, že umělá inteligence „dosáhla ve strategické hře výkonu na lidské úrovni. Diplomacie. "

REKLAMA

Přemýšlejte o tom.

Za prvé, je určitě chvályhodné, že jste byli schopni vymyslet AI, která hraje Diplomacie hra na údajné úrovni výkonu podobné lidem. To je nadmíru důležité.

Máme toho hodně Diplomacie hraní AI, která je podprůměrná ve srovnání s lidmi, kteří hrají Diplomacie hra. Víc, než dokážeš zatřást klackem. Je uklidňující a vzrušující pokročit směrem nahoru k AI, která může hrát hru mnohem lépe. Musíme však být opatrní při unášení rychlých závěrů.

Předpokládejme například, že jsem vymyslel AI na hraní Diplomacie a postavil jsem to proti lidským hráčům, kteří tu hru nikdy předtím nehráli. Pokud je moje umělá inteligence porazí, bylo by s trochou nadsázky řečeno, že moje umělá inteligence fungovala na lidské úrovni. Skutečnost, že se tak stalo s lidmi, kteří hru neznali, je poněkud zvedání obočí a pochybná.

REKLAMA

Uvádím to proto, abych vás varoval, abyste si vždy pečlivě prověřili všechna zdánlivě přehnaná tvrzení o AI. Dřívější diskuse o etice AI a zákonu o AI vám možná otevírá oči k možnosti nepravdivých tvrzení o AI. Existují vyloženě nepravdivá tvrzení a existují ta zákeřná, částečně pravdivá a částečně zavádějící tvrzení, která jsou obzvláště spletitá. Klíčem je zeptat se, proč to ti, kdo tvrdí o své AI, tak činí.

Kde je hovězí?

Zde je to, co tým Meta AI řekl o základu svého tvrzení o výkonu na lidské úrovni (další podrobnosti viz dokument):

• „Cicero se od 40. srpna do 19. října 13 anonymně zúčastnil 2022 zápasů Diplomacie v „bleskové“ lize na webuDiplomacy.net. Tato liga se hrála s pětiminutovými tahy na vyjednávání; tyto časové kontroly umožňovaly dohrát hry do dvou hodin. Cicero se umístil mezi 10 % nejlepších účastníků, kteří odehráli více než jednu hru, a na druhém místě z 2 účastníků ligy, kteří odehráli 19 nebo více her. Ve všech 5 hrách bylo průměrné skóre Cicera 40 %, což je více než dvojnásobek průměrného skóre 25.8 % z jeho 12.4 soupeřů. V rámci ligy se Cicero zúčastnil turnaje o 82 hrách, kterého se zúčastnilo 8 účastníků, z nichž 21 odehrálo alespoň 6 her. Účastníci mohli odehrát maximálně 5 her, přičemž jejich pořadí bylo určeno průměrem jejich nejlepších 6 her. Cicero se v tomto turnaji umístil na 3. místě“ (tamtéž).

REKLAMA

Je velkou úlevou vidět, že se v tomto případě vážně snažili podpořit svá tvrzení o AI (uvědomte si, že ne každý v AI to dělá).

Můžete navrhnout, že provedli experiment. Experiment se skládá z lidských hráčů, kteří pravděpodobně nevěděli, že hrají s hráčem AI ve svém středu (článek pojednává o tom, proč se to zdálo být věrohodně odvozeno, konkrétně že si lidé zjevně neuvědomovali, že jeden z hráčů je AI, ačkoli zajímavá boční tangenta zahrnuje příběh jednoho hráče, který se stal mírně podezřelým, ale nijak výrazně). Tito lidští hráči byli předem vybráni podle povahy experimentálního designu tak, že byli hráči ligy Diplomacie a můžeme rozumně usuzovat, že dobře věděli, jak hru hrát. Nebyli to nováčci.

Podle nahlášených statistik, které budeme brát za nominální hodnotu jako dřívější a řádně shromážděné a nahlášené (různá data a kódy jsou uvedeny v doplňkových materiálech), se zdálo, že AI hrála hru dostatečně na to, aby učinila věrohodný, i když úzce omezený závěr. že dosáhl lidské úrovně výkonnosti pro tuto variantu Diplomacie hra a jako v kontextu uvedené ligy hrát proti lidem, kteří byli zdánlivě zběhlí hráči.

Jsem si jistý, že někteří z vás možná budou chtít polemizovat s počtem případů hraní hry, možná namítnou, že je příliš malá na to, aby dělala odvážné proklamace. Další hádankou může být, že umístění mezi top 10 % účastníků není dostatečně vysoké, takže dokud se možná nedosáhne horního 1 %, člověk by se neměl chlubit výkonem AI.

REKLAMA

Ty dohady se zdají trochu ječivé.

Říkám to proto, že naštěstí nebylo uplatněno tvrzení, že je „nadčlověk“. Čtenáři nepochybně znají můj zarputilý a kyselý pohled na ty v AI, kteří neustále prohlašují, že jejich AI dosáhla nadlidského stavu. Nebudu se zde zabývat svými stížnostmi na nadlidské křiklavé nároky, viz odkaz zde pro mé názory.

V tomto případě mi jde o to, že se domnívám, že indikace výkonu na lidské úrovni je pravděpodobně obecně přípustná, za předpokladu, že každý má na paměti, že jde o extrémně úzký kontext a že se nesnažíme z toho udělat tzv. nadlidský. Také znovu a znovu opakuji omezený kontext z důvodu, který objasním příště.

Dokážu si jen představit, že některé sociální sítě nebo naivní (možná pochybení) reportéři zcela vytrhnou z kontextu pojetí výkonu na lidské úrovni.

Tady je to, čeho se děsím.

REKLAMA

Zadržte dech.

Někdo bude tvrdit, že AI zvládla diplomacii. Ano, studie vyvinutého systému umělé inteligence pro diplomacii nade vší pochybnost dokázala, že umělá inteligence může a nyní má kapacitu udělat vše, co lidé pro diplomacii dělají.

Pošlete domů zahraniční diplomaty. Můžeme je nahradit AI.

Svět, jak ho známe, se změnil. Vytvořili jsme AI, která je v diplomacii plně rovnocenná lidem, a můžeme udělat mentální „logický“ skok k myšlence, že AI nyní může dělat vše, co mohou dělat lidé. Voila, nyní jsme dokázali, že AI je na stejné úrovni jako lidé. Tato studie zjevně poskytuje jasný důkaz vnímající AI.

Poznamenejte si má slova, toto bude rozhodně podivný, nezodpovědný a protivný pohled některých spisovatelů.

Nebudu rozebírat pointu. Jdeme dál.

REKLAMA

Jak funguje AI?

Zde je rychlé shrnutí z dokumentu: „Cicero spojuje ovladatelný dialogový modul s motorem strategického uvažování. V každém bodě hry Cicero modeluje, jak se ostatní hráči pravděpodobně budou chovat na základě stavu hry a jejich konverzací. Poté plánuje, jak se mohou hráči koordinovat ke vzájemnému prospěchu, a mapuje tyto plány do zpráv v přirozeném jazyce“ (tamtéž).

V tom rychlém shrnutí je sousto.

Dovolte mi trochu rozbalit.

Lidský hráč, který hraje Diplomacie musí předvídat, co udělají ostatní lidští hráči. Chcete zkusit vyjednávat s ostatními hráči a přimět je, aby šli podle vašich plánů. Budou se snažit udělat totéž s vámi. Možná vám lžou. Možná jim lžete. Musíte se utkat se šesti dalšími hráči, z nichž všichni mají své vlastní plány a přístupy.

REKLAMA

Multiagentní aspekty této hry jsou zásadní pro úroveň obtížnosti vymýšlení umělé inteligence pro hraní hry. Umělá inteligence musí sledovat, co každý člověk může chtít dělat, spolu s tím, co říká, že chce dělat, spolu s jakýmkoli trikem, který dělá s ostatními hráči. To je třeba porovnat s tím, co vám říkají, že udělají, a také s tím, co jim říkáte, že uděláte.

Závratné, ale pro lidi obvykle dost snadné.

V řeči oboru AI to nazýváme Teorií mysli (ToM). Vezměte si, že jako člověk máte sklon teoretizovat o tom, co si ostatní lidé myslí. Nemůžete někomu vypáčit noggin a vidět jeho myšlenky. Musíte uhodnout, jaké jsou jejich myšlenky. Můžete se jich zeptat, ale to, co vám řeknou, mohou být jejich myšlenky nebo záludná verze jejich myšlenek.

Kromě složitosti teorie mysli musíme do této temné směsi přidat lidský jazyk.

Když s vámi někdo komunikuje ve svém přirozeném jazyce, řekněme anglicky, je zde velký prostor pro chyby a nedorozumění. Říkám vám, že převezmu zemi X, ale mylně říkám Y. Oopsie. Nebo, řekl jsem zemi X, ale mylně jste si myslel, že jsem řekl zemi Y. Pokud si myslíte, že k takovému zmatku nemůže dojít, když všichni používají textové zprávy, hluboce byste se mýlili. Mohl bych napsat zprávu, která říká, že zaútočím na nějakou zemi, a nezmíním se na kterou. Možná je to naznačeno, na koho bych „zjevně“ útočil. Hráč, který obdrží mou zprávu, by mohl předpokládat, že musím implicitně odkazovat na zemi X, ale možná jsem chtěl, aby si to mysleli.

REKLAMA

Jde to dál a dál.

Jádrem je, že naše nejnovější pokroky v AI týkající se zpracování přirozeného jazyka (NLP) a zejména nejnovější generativní AI a modely velkých jazyků (LLM) činí tento druh situace přirozeného jazyka téměř proveditelným. V minulosti nebylo NLP obvykle dost dobré a stejně tak LLM ještě nebyly lépe zavedené.

V minulosti umělá inteligence posílala zprávy, o kterých byste téměř jistě okamžitě poznali, že byly napsány skriptovaným systémem umělé inteligence. Formulace nebyla plynulá. Bylo to podle šablony. To bylo zřejmé prozradí, že AI byla AI. V dnešní době je mnohem těžší rozpoznat, že AI není v těchto kontextech lidským hráčem.

Jak je uvedeno v citaci výše, tato konkrétní umělá inteligence byla navržena tak, aby obsahovala „kontrolovatelný dialogový modul s motorem strategického uvažování“ (ibid). Dialog přichází takto: „Cicero generuje dialog pomocí předem trénovaného jazykového modelu, který byl dále trénován na dialogových datech z lidských her Diplomacie. Klíčové je, že kromě toho, že byl založen jak na historii dialogu, tak na stavu hry, byl model dialogu trénován tak, aby byl ovladatelný prostřednictvím záměrů, které zde definujeme jako sadu plánovaných akcí pro agenta a jeho mluvícího partnera.

REKLAMA

Tam si všimněte, že zásadní je nastavení domény. Pokud byste trénovali pouze dialogy normální povahy napříč internetem, nemuselo by to být pro ně nutně vhodné Diplomacie herní kontext. Ti, kteří hru hrají, jsou zvyklí na jakýsi zkrácený způsob diskuse o hře a navrhovaných tahech. Chcete, aby AI dělala totéž. Trénink jazykového modelu na datech dialogu specifických pro doménu je tedy pozoruhodný přístup.

Pro uvedený stroj strategického uvažování platí toto: „Cicero používá modul strategického uvažování k inteligentnímu výběru záměrů a akcí. Tento modul spouští plánovací algoritmus, který předpovídá politiku všech ostatních hráčů na základě stavu hry a dosavadního dialogu, přičemž bere v úvahu jak sílu různých akcí, tak jejich pravděpodobnost v lidských hrách, a na základě těchto předpovědí vybírá pro Cicera optimální akci. . Plánování se opírá o hodnotovou a koncepční funkci trénovanou prostřednictvím RL pro vlastní hru, která penalizovala agenta za to, že se příliš odchýlil od lidského chování, aby zachoval lidsky kompatibilní politiku“ (tamtéž; všimněte si, že RL je zkratka pro Reinforcement Learning).

Během hry všichni hráči po každém tahu překalibrují své pozice. Nemůžete jít do této hry s předem definovanou pevnou strategií, která je nepružná a odlitá do kamene. Musíte změnit své akce na základě toho, co dělají ostatní hráči. AI by měla být naprogramována tak, aby dělala totéž. Žádná statická strategie sama o sobě. Místo toho nepřestávejte krok za krokem chápat situaci a zjistěte, co se zdá jako další nejlepší kroky, které je třeba podniknout.

Technologické základy AI byly navrženy takto: „Získali jsme datovou sadu 125,261 XNUMX her Diplomacie hrané online na webDiplomacy.net. Z toho 40,408 12,901,662 her obsahovalo dialog, přičemž si hráči vyměnili celkem XNUMX XNUMX XNUMX zpráv. Účty hráčů byly deidentifikovány a webDiplomacy provedla automatickou úpravu osobních údajů (PII). Tento datový soubor dále označujeme jako WebDiplomacy“ (tamtéž).

Podobně jako byste mohli trénovat AI hrát šachy, kdy se chopíte milionů šachových her a necháte AI provést vzor podle toho, jak se hry hrály, AI pro to Diplomacie hraní her bylo srovnatelně zavedeno.

Ti z vás, kteří jsou zběhlí v AI, by mohli být zvědaví, jaké základní modely použili, tady to máte: „Vzali jsme R2C2 (22) jako náš základní model – model kodéru a dekodéru na bázi transformátoru s parametrem 2.7B, který byl předtrénován na text z internetu pomocí objektivu BART pro odstranění šumu. Základní předem trénovaný model byl poté dále trénován na WebDiplomacy prostřednictvím standardního odhadu maximální pravděpodobnosti“ (tamtéž).

Kromě toho zaujali poněkud neobvyklý a zajímavý přístup k modelování ostatních hráčů, pokud jde o jejich imputované politiky: „Oblíbeným přístupem v kooperativních hrách je modelování politik ostatních hráčů prostřednictvím řízeného učení na lidských datech, což je běžně označované jako behaviorální klonování (BC). Čistý BC je však křehký, zejména proto, že model pod dohledem se může naučit falešné korelace mezi dialogem a akcemi. K vyřešení tohoto problému použil Cicero varianty piKL (26) k modelování politik hráčů. piKL je iterativní algoritmus, který předpovídá politiky za předpokladu, že každý hráč i se snaží maximalizovat očekávanou hodnotu své politiky πi a minimalizovat KL divergenci mezi πi a politikou BC, kterou nazýváme politika kotvy τi (ibid).

Myslím, že to pokrývá aspekty horní linie a dává vám správnou podobu toho, co AI dělá a jak plní určený úkol.

Proč investovat do čističky vzduchu?

Je toho mnohem víc, co bych chtěl zmínit, ale v této diskusi běžím dlouho a pokusím se pokrýt jen několik klíčových aspektů. Více se budu snažit pokrýt v dalším příspěvku.

Slyšeli jste někdy o vězňově dilematu?

Je to klasický problém související s rozhodováním.

Vězňovo dilema spočívá v tom, že se musíte rozhodnout, zda budete ratovat nebo žvatlat na spoluvězně. Druhý vězeň vás také může porazit. Existuje funkce odměny taková, že když vyrazíte druhého vězně a on vás neporazí, je to pro vás určitá výhra. Pokud oni vás krysí a vy ne, je to pro ně výhra a pro vás ztráta. Pokud se oba navzájem podrazíte, oba v podstatě prohrajete. Podívejte se na mé pokrytí podrobně na odkaz zde.

Jakou strategii byste vymysleli, když budete čelit dilematu vězňů?

Pokud to byla jednorázová dohoda, můžete si téměř hodit mincí. Pokud by se situace opakovala znovu a znovu a vy byste měli co do činění se stejným jiným vězněm, možná byste našli vzorec, který by se mohl objevit. Jeden z nejoblíbenějších a často doporučovaných vzorů je známý jako sýkorka. Ať udělá druhý vězeň cokoli, vy udělejte totéž při svém dalším pohybu. Když oni neporazí vás, neporazíte vy je. Pokud vás krysí vyřadí, při dalším tahu vy krysíte je.

Možná vás napadne, jak to všechno souvisí s diplomacií nabitou umělou inteligencí při hraní Diplomacie.

Tady je dohoda.

Při vyjednávání s ostatními se často musíte rozhodnout, zda jim řeknete pravdu, nebo jim budete lhát. Problém se lhaním je v tom, že pokud se při lži přistihnete, ten druhý vám od té chvíle pravděpodobně nebude věřit. Možná vám ze začátku úplně nedůvěřovali, ale teď, když jste ukázal svou ruku, že skutečně lžete, nepochybně uznají, že jste lhář.

Někteří hráči z Diplomacie neustále lhát. Věří, že je to nejlepší strategie. Lži, lži a další lži. Ostatní hráči jdou úplně opačně. Tvrdí, že se chcete zdržet lhaní, pokud to můžete udělat. Používejte lež pouze v nejpotřebnějších situacích. Tím, že šetříte lhaní, jste schopni vybudovat důvěru s ostatními hráči. Jakmile se vydáte po prolhané cestě a budete odhaleni, nikdo vám neuvěří ani slovo.

Dokument popisující Cicera tuto úvahu zmiňuje: „Konečně, diplomacie je obzvláště náročná doména, protože úspěch vyžaduje budování důvěry s ostatními v prostředí, které povzbuzuje hráče, aby nikomu nevěřili. Akce každého tahu probíhají současně po nezávazných, soukromých jednáních. Aby agent uspěl, musí počítat s rizikem, že hráči nedodrží své slovo nebo že ostatní hráči mohou sami pochybovat o poctivosti agenta“ (tamtéž).

Podle papíru a krátkých videí výzkumníci nakonec zjistili, že lepší celkovou strategií se zdálo, že umělá inteligence co nejvíce mluví pravdu. V jistém smyslu byste to mohli přirovnat k sýkorce za tetování vězňova dilematu. Začněte tím, že budete říkat pravdu. Pokud váš protivník říká pravdu, budete pokračovat v mluvení pravdy. Pokud začnou lhát, musíte posoudit, zda setrvávat u mluvení pravdy, nebo přejít na lhaní.

Člověk předpokládá, že je to potěšující zjištění.

Mějte na paměti, že ta záludná a zajímavá část Diplomacie je, že to děláte s ohledem na šest dalších hráčů (známé jako problém s více agenty). Můžete být ostře pravdivý se všemi. Nebo možná pro někoho pravdivé, ale pro jiné ne. Existuje také aspekt, že jakmile lžete a přistihnete se při lži jednomu dalšímu hráči, může to být potenciálně pozorováno nebo vyvozováno ostatními hráči. Ergo, je o vás známo nebo se o vás předpokládá, že lžete, i když jste nelhali konkrétnímu hráči, o kterém doufáte, že si myslí, že jste pravdomluvní, a ke kterému se snažíte být pravdiví.

Lidé mají tendenci přijít na to a rozvinout své přístupy lži-pravdy při výkonu diplomacie. Velkým faktorem mohou být situační závislosti. Je důležité zvážit sázky na lince. Do hry vstupuje množství faktorů.

Bylo by fascinující mít AI Diplomacie strojový hráč hraje velké množství her, aby zjistil, co by výsledky mohly naznačovat v hlavním.

Můžeme také chtít postavit AI proti méně než šesti dalším hráčům, abychom viděli, jak to změní věci. Mohli bychom také přidat AI do mixu jako více než jednoho hráče. Předpokládejme například, že jsme měli pět lidských hráčů a dva hráče s umělou inteligencí (nastavíme hráče umělé inteligence jako samostatné instance, aby nebyli výpočetně jeden a tentýž). A co čtyři lidé a tři AI? A co šest AI a jeden člověk?

Další cestou by bylo postavit AI výhradně proti AI. Tímto způsobem bychom mohli projít gazillion her v rychlém pořadí. Nastavení sedmi různých instancí AI. Každý je svým vlastním samostatným hráčem. Protože je to vše v počítači, můžeme je provozovat nonstop a vytvářet tisíce nebo miliony herních instancí.

Samozřejmě, problém s AI-versus-AI je v tom, že jsme odstranili lidské hráče. Nevíme, že AI-versus-AI odráží to, co by dělali lidští hráči. V každém případě lze vysledovat zajímavé výsledky.

Již dříve jsem uvedl, že jedním z omezení AI tohoto druhu je, že je obvykle úzce zaměřena. Nemůžeme snadno vědět, že hraje AI Diplomacie budou použitelné v reálné diplomacii. Navíc možná AI, která funguje dobře Diplomacie v jiných online hrách zaměřených na diplomacii se neobejde zvlášť dobře. Nemusí se přenášet a místo toho je to druh poníka s jedním trikem.

Jak je uvedeno ve výzkumu o formulaci DipGame:

• „Tvrdíme, že při skutečných jednáních je důležité mít znalosti o doméně a člověk by měl být schopen o tom uvažovat. Nelze například očekávat ziskové obchody v obchodě se starožitnostmi bez znalosti starožitností, bez ohledu na to, jak dobrý člověk je ve vyjednávání. Kromě toho by dobrý vyjednavač měl být také schopen uvažovat o touhách svých odpůrců. Dobrý prodejce aut by se například pokusil zjistit, jaký typ auta nejlépe vyhovuje potřebám jeho klienta, aby zvýšil šance na ziskový obchod“ (jak již bylo uvedeno: Angela Fabregues a Carles Sierra, „DipGame: A Challenging Negotiation Testbed“, inženýrské aplikace umělé inteligence, října 2011).

Jakmile ovládnete AI Diplomacie Nastane, všechny oči by měly být upřeny na používání nebo opětovné použití AI k řešení jiných her souvisejících s diplomacií. Kromě toho by měly být prozkoumány snahy o využití umělé inteligence v prostředí skutečné diplomacie.

Nyní skončím u některých úvah o etické AI.

Za prvé, bylo uklidňující, že tým Meta AI uznal, že jejich práce zahrnuje důsledky etiky AI. Vyvstávají střízlivé otázky. Je správné „ošálit“ lidi, aby hráli proti AI, aniž bychom jim řekli, že to dělají? Mohl by přirozený jazyk generovaný umělou inteligencí neúmyslně obsahovat urážlivé formulace, které by se dostaly k lidským hráčům? A tak dále.

Nezapomeňte se podívat na to, jak se vypořádali s těmito naléhavými problémy s etickou AI v doplňkových materiálech (SM) jejich dokumentu: „O etických aspektech tohoto výzkumu dále diskutujeme v SM, včetně aspektů ochrany soukromí při používání dat (SM, § A.1), potenciální škody vyplývající z generování toxického nebo neobjektivního jazyka (SM, §A.2), způsoby zneužití technologie cíleného dialogu (SM, §A.3) a odhalení agentů AI lidským hráčům (SM , §A.4)“ (tamtéž).

Potřebujeme více vývojářů umělé inteligence a jejich vedení, aby si byli vědomi etické umělé inteligence a aby podnikali kroky k tomu, aby byli opatrní a uvážliví v práci s umělou inteligencí, kterou dělají. Navíc se musí ujistit, že jsou transparentní ohledně toho, jaké kroky etické AI podnikli a jaké předpoklady učinili.

Moje poslední položka v tuto chvíli znamená celkové zděšení antropomorfizující K.

Pokud vylepšíme umělou inteligenci tak, aby se jevila jako ostře diplomatická, svede to lidi, aby předpokládali nebo věřili, že umělá inteligence je srovnatelná s lidmi v plném rozsahu?

Je to snadný kluzký svah. Neohrabaná umělá inteligence, se kterou komunikujete, prozrazuje, že se pravděpodobně jedná o umělou inteligenci a ne o člověka. Hladce iterovaná umělá inteligence, která má vzhled nejvyšší diplomatické pozice, pravděpodobně přiměje lidi bez váhání upadnout do pasti, že umělá inteligence je lidská, včetně toho, jako by měla lidský zdravý rozum a všechny lidské schopnosti chápání.

Kromě toho si také uvědomte, jak by to mohlo být zneužito během a Diplomacie hra. Lidský hráč, který vidí téměř poetické zprávy od jiného hráče, by si mohl uvědomit, že to musí být umělá inteligence (nyní daleko za předchozí neohrabanou umělou inteligencí), zatímco ostatní lidé by nebyli schopni skládat zprávy tak jasně. Samozřejmě, pokud se AI bude i nadále přizpůsobovat, může změnit poetické znění tak, aby lépe odráželo strohé a rozvolněné znění skutečných lidských hráčů. Lidští hráči zase mohou přejít na poetický jazyk a snažit se dát najevo, že jsou lidmi. Myšlenka je taková, že možná ostatní lidští hráči budou ochotni se spojit s ostatními lidmi přes AI.

Další věc, kterou víte, hraní her se začíná zvrhávat ve snaze zjistit, kdo je člověk a kdo AI. Pokud dokážete zjistit, která je která, možná vám to dává výhodu. Na druhou stranu to může být pro ne. Umělá inteligence by mohla být ve hře stejně důvtipná jako lidé. Vaše hádání o tom, která je která, vám nedělá moc dobře. Mohlo by to odvádět pozornost od pouhého soustředění na snahu vyhrát hru, bez ohledu na to, zda jsou po ruce hráči AI nebo lidští hráči.

Pro výzkumníky, kteří chtějí provést nějaké studie lidských faktorů o tomto druhu koncepce ohýbání mysli, byste mohli potenciálně zvážit použití AI napuštěné Diplomacie hráče a hledat ochotně Diplomacie ligové turnaje, aby se prozkoumala identifikace člověka a AI a strategie přizpůsobení chování, které vznikají.

Pojďme to zabalit.

Mark Twain řekl o diplomacii toto: „Princip dávat a brát je princip diplomacie – dej jedna a ber deset. Je to upřímné zhodnocení toho, jak lidé fungují, nebo je to jen trochu poťouchlý humor, který cynicky, ale nesprávně hodnotí lidskou situaci?

Zamyslete se nad těmito dalšími otázkami:

• Pokud dokážeme vložit diplomacii do AI, poučí nás to o tom, jak lidé iniciují diplomacii a možná umožní lidstvu zdokonalit se v umění být diplomatický?
• Vytvoříme falešnost umělé inteligence, která se zdá být vnímavá, i když o nic takového nejde, a to vše kvůli výpočetnímu vytahování králíka z klobouku, abychom předvedli zdánlivě lidskou diplomacii?
• Lze najít rovnováhu mezi AI prodchnutou diplomacií, abychom mezitím byli upozorněni, že je to stále jen každodenní AI, a proto ji nemáme antropomorfizovat?

Říká se, že diplomacie je umění nechat někoho jiného, ​​aby šel za vámi. Zajistěme, aby naše cesta byla lidská, spíše než AI. I když mám být diplomatický, teď, když o tom pečlivě přemýšlím, a v případě, že skončíme s vládci umělé inteligence, možná bychom měli umožnit, aby naše cesta byla cestou umělé inteligence, která, jak doufáme, zapadá do vhodné lidské cesty.

Jen se snažím uplatnit trochu rafinované diplomacie.