Federální obchodní komise si klade za cíl srazit kladivo na tato velká nepodložená tvrzení o generativní AI ChatGPT a další AI, varuje etiku AI a zákon o AI

Spusťte kladivo.

To je to, co Federální obchodní komise (FTC) říká, že se chystá udělat, pokud jde o pokračující a zhoršující se používání nadměrných nepodložených tvrzení o umělé inteligenci (AI).

V oficiálním blogu zveřejněném 27. února 2023 nazvaném „Udržujte svá tvrzení o AI pod kontrolou“ od právníka Michaela Atlesona z FTC Division of Advertising Practices, někteří zcela bouřlivá slova poznamenali, že umělá inteligence není jen forma výpočetní high-tech, ale Stal se z něj marketingový jackpot, který občas přesahoval sféru rozumnosti:

• „A co to vlastně je ‚umělá inteligence‘? Je to nejednoznačný termín s mnoha možnými definicemi. Často se odkazuje na různé technologické nástroje a techniky, které využívají výpočet k provádění úkolů, jako jsou předpovědi, rozhodnutí nebo doporučení. Jedno je ale jisté: je to marketingový termín. Právě teď je to horké. A ve FTC jedna věc, kterou víme o horkých marketingových podmínkách, je, že někteří inzerenti se nebudou moci zastavit v jejich nadměrném používání a zneužívání“ (příspěvek na webu FTC).

Umělá inteligence nabízí velké možnosti pro obchodníky, kteří se chtějí skutečně rozzuřit a propagovat jakýkoli základní produkt nebo službu AI nebo produkt nebo službu řízenou AI, které se prodávají spotřebitelům.

Víte, pokušení posunout hranici nadsázky musí být obrovské, zvláště když obchodník vidí, že jiné firmy dělají totéž. Konkurenční sokové požadují, abyste udělali klasický over-the-top, když vaše konkurence křičí, že jejich AI chodí po vodě. Možná je vaše AI zdánlivě lepší, protože létá ve vzduchu, uniká z hranic gravitace a zároveň zvládá žvýkat žvýkačku.

Do bláznivého používání dovedností deklarovaných umělou inteligencí, které hraničí s nepravdami a podvody nebo je přímo překračují, vkročí dlouhá ruka zákona, jmenovitě FTC a další federální, státní a místní úřady (viz moje průběžné pokrytí těchto snah, včetně mezinárodních také regulační snahy, at odkaz zde).

Potenciálně jste si vědomi toho, že jako federální agentura FTC zahrnuje Úřad pro ochranu spotřebitelů, pověřený chránit spotřebitele před klamavým jednáním nebo praktikami v komerčním prostředí. K tomu často dochází, když společnosti lžou nebo uvádějí spotřebitele v omyl ohledně produktů nebo služeb. FTC může využít své mocné vládní schopnosti, aby udeřila do takových provinilých firem.

Příspěvek na blogu FTC, který jsem citoval, také učinil toto poněkud pikantní prohlášení:

• "Marketingové by měli vědět, že - pro účely vymáhání FTC - nepravdivá nebo nepodložená tvrzení o účinnosti produktu jsou naším chlebem a máslem."

V jistém smyslu ti, kteří trvají na nepatřičném zveličování svých tvrzení o AI, mají za cíl být toast. FTC se může pokusit přimět žadatele o AI, aby se vzdal a potenciálně čelit tvrdým trestům za spáchané prohřešky.

Zde jsou některé z možných akcí, které může FTC podniknout:

• „Když Federální obchodní komise zjistí případ podvodu spáchaného na spotřebitelích, podá agentura žalobu u federálního okresního soudu o okamžité a trvalé příkazy k zastavení podvodů; zabránit podvodníkům v podvodech v budoucnu; zmrazit jejich aktiva; a získat odškodnění pro oběti. Když spotřebitelé uvidí nebo uslyší reklamu, ať už je to na internetu, v rádiu, televizi nebo kdekoli jinde, federální zákon říká, že reklama musí být pravdivá, nesmí být zavádějící a případně podložená vědeckými důkazy. FTC prosazuje tyto zákony o pravdivosti reklamy a uplatňuje stejné standardy bez ohledu na to, kde se reklama objeví – v novinách a časopisech, online, v poště nebo na billboardech či v autobusech“ (web FTC v sekci Pravda v reklamě)

Existuje řada relativně nedávných vysoce známých příkladů, kdy FTC šla po incidentech s falešnou reklamou.

Například společnost L'Oreal se dostala do potíží s reklamou, že její produkty péče o pleť Paris Youth Code byly „klinicky prokázány“, aby lidé vypadali „viditelně mladší“ a „posílily geny“, podstata takových tvrzení se ukázala jako nepodporovaná. vědecké důkazy a FTC přijala odpovídající opatření. Dalším významným příkladem byla reklama Volkswagenu, že jejich dieselová auta využívají „čistou naftu“ a ergo údajně vypouštějí poměrně nízké množství znečištění. V tomto případě byly emisní testy, které Volkswagen provedl, podvodně provedeny, aby zakryly jejich skutečné emise. Donucovací opatření ze strany FTC vedla k dohodě o kompenzaci pro dotčené spotřebitele.

Názor, že AI by měla také projít podobným zkoumáním jako podle nepodložených nebo možná zcela podvodných tvrzení, je jistě příhodný a hodnotný důvod.

Právě teď panuje výrazná mánie kolem umělé inteligence, jak ji rozdmýchal příchod AI Generativní AI. Tento konkrétní typ AI je zvažován generativní protože je schopen generovat výstupy, které se téměř zdají být navrženy lidskou rukou, ačkoli to AI výpočetně dělá. Aplikace AI známá jako ChatGPT od společnosti OpenAI si získala obrovskou pozornost a zahnala AI mánii do stratosféry. Za chvíli vysvětlím, o čem je generativní AI, a popíšu povahu AI aplikace ChatGPT.

Samozřejmě, že AI celkově existuje už nějakou dobu. Došlo k řadě vzestupů a pádů na horské dráze spojených se sliby, čeho může AI dosáhnout. Dalo by se říci, že jsme na novém vrcholu. Někteří věří, že je to jen výchozí bod a my jdeme dále přímo nahoru. Jiní vroucně nesouhlasí a tvrdí, že generativní AI gambit narazí na zeď, konkrétně se brzy dostane do slepé uličky a jízda na horské dráze klesne.

Čas ukáže.

FTC již dříve naléhala, že nároky pokrývající AI musí být vhodně vyvážené a přiměřené. V oficiálním příspěvku na blogu FTC z 19. dubna 2021 nazvaném „Usilování o pravdu, poctivost a rovnost při používání umělé inteligence vaší společností“ Elisa Jillsonová poznamenala několik způsobů, jak legálně vznikají donucovací opatření, a zvláště zdůraznila obavy z umělé inteligence, která vzbuzuje nepřiměřené předsudky. :

• "FTC má desítky let zkušeností s prosazováním tří zákonů důležitých pro vývojáře a uživatele AI."
• "§ 5 zákona FTC. Zákon FTC zakazuje nekalé nebo klamavé praktiky. To by zahrnovalo prodej nebo použití – například – rasově zaujatých algoritmů.“
• "Zákon o spravedlivém vykazování úvěrů. FCRA vstupuje do hry za určitých okolností, kdy se používá algoritmus k odepření zaměstnání, bydlení, úvěrů, pojištění nebo jiných výhod.“
• "Zákon o rovných úvěrových příležitostech. ECOA zakazuje, aby společnost používala zaujatý algoritmus, který vede k úvěrové diskriminaci na základě rasy, barvy pleti, náboženství, národnosti, pohlaví, rodinného stavu, věku nebo proto, že určitá osoba dostává veřejnou podporu.“

Jedna pozoruhodná poznámka ve výše uvedeném příspěvku na blogu zmiňuje toto jasně vyslovené tvrzení:

• „Podle zákona FTC musí být vaše prohlášení určená firemním zákazníkům i spotřebitelům pravdivá, nesmí být klamavá a podložená důkazy“ (ibid).

Právní jazyk oddílu 5 zákona FTC odráží tento sentiment:

• „Nekalé metody hospodářské soutěže nebo ovlivňující obchod a nekalé nebo klamavé jednání nebo praktiky v obchodě nebo ovlivňující obchod jsou tímto prohlášeny za nezákonné“ (zdroj: § 5 zákona FTC).

Vypadá to jako úleva, když vím, že FTC a další vládní agentury mají oči otevřené a s kladivem houpajícím se nad hlavami jakékoli organizace, která by se mohla odvážit vysílat neférové ​​nebo klamavé zprávy o AI.

Znamená to všechno, že můžete být v klidu a předpokládat, že tito tvůrci a propagátoři umělé inteligence budou ve svých marketingových tvrzeních o umělé inteligenci obezřetní a budou dbát na to, aby nevydávali přehnané nebo pobuřující nabádání?

Sakra ne.

Dá se očekávat, že marketéři budou marketéři. Budou usilovat o přehnaná a nepodložená tvrzení o AI až do konce času. Někteří tak učiní a budou si slepě neuvědomovat, že taková tvrzení mohou je i jejich společnost dostat do problémů. Jiní vědí, že tvrzení by mohla způsobit potíže, ale domnívají se, že šance na dopadení jsou mizivé. Jsou i tací, kteří sázejí na to, že dokážou obejít okraj věci a právně argumentovat tím, že nesklouzli do kalných vod nepravdy nebo podvodu.

Nechte na to právníky, říkají někteří obchodníci s umělou inteligencí. Mezitím plnou parou vpřed. Pokud jednoho dne FTC nebo nějaká jiná vládní agentura zaklepe na dveře, budiž. Peníze, které se mají vydělat, jsou nyní. Možná vložit kus dřívějšího těsta do jakéhosi svěřeneckého fondu pro řešení následných právních problémů. V tuto chvíli je vlak peněz v plném proudu a byli byste neuvěřitelně pošetilí, kdybyste si nechali ujít snadnou omáčku.

Existuje spousta racionalizací o reklamě umělé inteligence:

• Každý dělá výstřední nároky na AI, takže bychom to mohli udělat také
• Nikdo nemůže s jistotou říci, kde je dělicí čára, pokud jde o pravdy o AI
• Můžeme formulovat svá tvrzení o naší AI, abychom zůstali palec nebo dva v bezpečnostní zóně
• Vláda se toho, co děláme, nechytne, jsme malá ryba ve velkém moři
• Kola spravedlnosti jsou tak pomalá, že nemohou držet krok s rychlostí pokroku AI
• Pokud spotřebitelé propadnou našim nárokům na umělou inteligenci, je to na nich, ne na nás
• Vývojáři AI v naší firmě řekli, že můžeme říci to, co jsem řekl v našich marketingových tvrzeních
• Nedovolte právnímu týmu strkat nos do těchto věcí s umělou inteligencí, kterou vytrubujeme, jednoduše nasadí kibosh na naše úžasné marketingové kampaně s umělou inteligencí a bude pověstným klackem v bahně
• Ostatní

Jsou tyto racionalizace receptem na úspěch nebo receptem na katastrofu?

Tvůrcům umělé inteligence, kteří nevěnují pozornost těmto vážným a střízlivým právním výtkám, bych navrhl, že směřují ke katastrofě.

Při každodenních a týdenních konzultacích s mnoha společnostmi zabývajícími se umělou inteligencí je varuji, že by měly vyhledat přesvědčivé právní rady, protože peníze, které dnes vydělávají, se jim potenciálně vrátí, a to ještě více, jakmile se ocitnou před občanskoprávními žalobami ze strany spotřebitelů. ve spojení s vládními donucovacími opatřeními. V závislosti na tom, jak daleko věci jdou, mohou mít na svědomí i kriminální důsledky.

V dnešním sloupku se budu zabývat rostoucími obavami, že marketingový humbuk, který je základem umělé inteligence, stále více překračuje hranici a zhoršující se nechutné a klamavé praktiky. Podívám se na základ těchto výčitek. Kromě toho to bude příležitostně zahrnovat odkazy na ty, kteří používají a využívají aplikaci AI ChatGPT, protože je to 600librová gorila generativní AI, i když mějte na paměti, že existuje spousta dalších generativních aplikací AI a obecně jsou založeny na stejné obecné principy.

Mezitím se možná ptáte, co je to vlastně generativní AI.

Pojďme si nejprve probrat základy generativní umělé inteligence a poté se můžeme blíže podívat na naléhavou záležitost.

Do toho všeho přichází spousta úvah o etice AI a zákonech o AI.

Uvědomte si prosím, že se neustále snažíme začlenit etické principy AI do vývoje a nasazení aplikací AI. Rostoucí skupina zainteresovaných a někdejších etiků umělé inteligence se snaží zajistit, aby snahy o vymýšlení a přijetí umělé inteligence braly v úvahu pohled na to, jak AI pro dobro a odvrácení AI pro špatné. Stejně tak jsou navrženy nové zákony o umělé inteligenci, které se šíří jako potenciální řešení, jak zabránit snahám umělé inteligence zbláznit se do lidských práv a podobně. Pro mé průběžné a rozsáhlé pokrytí etiky AI a práva AI viz odkaz zde a odkaz zde, Abychom jmenovali jen několik.

Vývoj a propagace etických zásad umělé inteligence se snaží zabránit tomu, aby společnost upadla do nesčetných pastí indukujících umělou inteligenci. Pro mé pokrytí etických principů AI OSN, jak byly navrženy a podporovány téměř 200 zeměmi prostřednictvím úsilí UNESCO, viz. odkaz zde. V podobném duchu se zkoumají nové zákony AI, které se snaží udržet AI na stejné úrovni. Jeden z nejnovějších záběrů se skládá ze sady navrhovaných Listina práv AI které americký Bílý dům nedávno vydal k identifikaci lidských práv ve věku AI, viz odkaz zde. Vyžaduje vesnici, aby udržela AI a vývojáře AI na správné cestě a odradila úmyslné nebo náhodné podvědomé snahy, které by mohly podkopat společnost.

Do této diskuse vložím úvahy týkající se etiky AI a práva AI.

Základy generativní umělé inteligence

Nejznámější instancí generativní AI je aplikace AI s názvem ChatGPT. ChatGPT se dostal do povědomí veřejnosti již v listopadu, kdy byl vydán výzkumnou firmou AI OpenAI. Od té doby ChatGPT sbírá velké titulky a překvapivě překračuje svých vyhrazených patnáct minut slávy.

Hádám, že jste pravděpodobně slyšeli o ChatGPT nebo možná dokonce znáte někoho, kdo jej používal.

ChatGPT je považován za generativní aplikaci AI, protože bere jako vstup nějaký text od uživatele a poté generuje nebo vytvoří výstup, který se skládá z eseje. Umělá inteligence je generátor textu na text, i když AI popisuji jako generátor textu na esej, protože to snadněji objasňuje, k čemu se běžně používá. Generativní umělou inteligenci můžete použít ke skládání dlouhých kompozic nebo ji můžete přimět k tomu, aby nabízela spíše krátké jadrné komentáře. Vše je na vaší nabídce.

Vše, co musíte udělat, je zadat výzvu a aplikace AI vám vygeneruje esej, která se pokusí na vaši výzvu odpovědět. Komponovaný text bude působit, jako by esej byla napsána lidskou rukou a myslí. Pokud byste zadali výzvu, která říkala „Řekni mi o Abrahamu Lincolnovi“, generativní AI vám poskytne esej o Lincolnovi. Existují další režimy generativní umělé inteligence, jako je text-to-art a text-to-video. Zde se zaměřím na variantu textu na text.

Vaše první myšlenka by mohla být, že tato generativní schopnost nevypadá jako tak velký problém, pokud jde o vytváření esejů. Můžete snadno vyhledávat online na internetu a snadno najít tuny a tuny esejů o prezidentu Lincolnovi. Nakopnutím v případě generativní umělé inteligence je to, že vytvořená esej je relativně unikátní a poskytuje spíše originální kompozici než napodobeninu. Pokud byste se pokusili najít esej vytvořenou umělou inteligencí někde online, je nepravděpodobné, že byste ji objevili.

Generativní umělá inteligence je předem vycvičená a využívá složitou matematickou a výpočetní formulaci, která byla vytvořena zkoumáním vzorců psaných slov a příběhů na webu. V důsledku zkoumání tisíců a milionů psaných pasáží může AI chrlit nové eseje a příběhy, které jsou mišmašem toho, co bylo nalezeno. Přidáním různých pravděpodobnostních funkcí je výsledný text do značné míry jedinečný ve srovnání s tím, co bylo použito v trénovací sadě.

Existuje mnoho obav z generativní umělé inteligence.

Jednou zásadní nevýhodou je, že eseje vytvořené generativní aplikací založenou na umělé inteligenci mohou obsahovat různé nepravdy, včetně zjevně nepravdivých faktů, faktů, které jsou klamavě zobrazeny, a zjevných faktů, které jsou zcela vymyšlené. Tyto vyrobené aspekty jsou často označovány jako forma AI halucinace, fráze, kterou nemám v oblibě, ale zdá se, že i tak získává na popularitě (podrobné vysvětlení, proč je to mizerná a nevhodná terminologie, najdete v mém příspěvku na odkaz zde).

Další obavou je, že lidé mohou snadno získat zásluhy za generativní esej vytvořenou umělou inteligencí, přestože esej sami nesepsali. Možná jste slyšeli, že učitelé a školy jsou docela znepokojeni vznikem generativních aplikací AI. Studenti mohou potenciálně používat generativní umělou inteligenci k psaní zadaných esejů. Pokud student tvrdí, že esej byla napsána jejich vlastní rukou, je malá šance, že učitel bude schopen rozeznat, zda nebyla zfalšována generativní AI. Pro moji analýzu tohoto matoucího aspektu studenta a učitele viz moje pokrytí na odkaz zde a odkaz zde.

Na sociálních sítích se objevilo několik šílených přehnaných tvrzení Generativní AI tvrdí, že tato nejnovější verze AI je ve skutečnosti vnímající AI (ne, mýlí se!). Ti, kdo se zabývají etikou a právem umělé inteligence, mají z tohoto narůstajícího trendu rozšířených nároků značné obavy. Můžete slušně říci, že někteří lidé přeceňují, co dnešní umělá inteligence dokáže. Předpokládají, že umělá inteligence má schopnosti, kterých jsme dosud nebyli schopni dosáhnout. To je smůla. A co je ještě horší, mohou dovolit sobě i ostatním, aby se dostali do strašných situací, protože předpokládají, že AI bude vnímavá nebo podobná člověku, pokud jde o schopnost jednat.

Neantropomorfizovat AI.

Pokud tak učiníte, dostanete se do pasti lepkavé a zarputilé spoléhání se na očekávání, že AI bude dělat věci, které není schopna provést. Jak již bylo řečeno, nejnovější generativní AI je relativně působivá na to, co dokáže. Uvědomte si však, že existují významná omezení, která byste měli mít neustále na paměti při používání jakékoli generativní aplikace AI.

Prozatím poslední varování.

Cokoli vidíte nebo čtete v generativní odpovědi AI, že zdá se, chcete-li být předáváni jako čistě faktická (data, místa, lidé atd.), zůstaňte skeptičtí a buďte ochotni znovu zkontrolovat, co vidíte.

Ano, data se dají vymyslet, místa se dají vymyslet a prvky, u kterých obvykle očekáváme, že budou bez výčitek, jsou všechno předmětem podezření. Nevěřte tomu, co čtete, a při zkoumání jakýchkoli generativních esejů nebo výstupů umělé inteligence mějte skeptický pohled. Pokud vám generativní aplikace umělé inteligence řekne, že Abraham Lincoln letěl po zemi ve svém soukromém tryskáči, nepochybně byste věděli, že jde o malárii. Naneštěstí si někteří lidé možná neuvědomují, že tryskáče v jeho době nebyly, nebo by mohli vědět, ale nevšimli si, že esej toto drzé a nehorázně nepravdivé tvrzení uvádí.

Při používání generativní umělé inteligence bude vaším nejlepším přínosem silná dávka zdravé skepse a vytrvalá nedůvěra. Dávejte si také pozor na potenciální narušení soukromí a ztrátu důvěrnosti dat, viz moje diskuze na odkaz zde.

Jsme připraveni přejít do další fáze tohoto objasnění.

AI jako největší příběh, který kdy byl vyprávěn

Pojďme se nyní hluboce ponořit do zkreslení, které se o AI vypráví.

Zaměřím se na generativní AI. Jak již bylo řečeno, téměř jakýkoli typ AI podléhá stejným obavám z nekalé nebo klamavé reklamy. Mějte na paměti tento širší pohled. Říkám to těm, kteří jsou tvůrci umělé inteligence jakéhokoli druhu, abych zajistil, že všichni budou o těchto záležitostech informováni a nebudou omezeni pouze na vytváření generativních aplikací umělé inteligence.

Totéž platí pro všechny spotřebitele. Bez ohledu na to, jaký typ umělé inteligence zvažujete nákup nebo použití, mějte se na pozoru před nepravdivými nebo zavádějícími tvrzeními o AI.

Zde jsou hlavní témata, která bych s vámi dnes rád probral:

• 1) Kdo je co z potenciálních nepravd AI
• 2) Pokusy o použití únikových doložek pro vyhnutí se odpovědnosti AI
• 3) FTC poskytuje užitečná slova upozornění na AI reklamu
• 4) FTC také varuje před předsudky AI
• 5) Opatření, která musíte podniknout ohledně svých reklamních triků AI

Budu se zabývat každým z těchto důležitých témat a nabídnu zasvěcené úvahy, o kterých bychom měli všichni pečlivě přemýšlet. Každé z těchto témat je nedílnou součástí větší skládačky. Nelze se dívat jen na jeden kus. Ani se nemůžete dívat na žádný kus izolovaně od ostatních kusů.

Toto je složitá mozaika a celé skládačce je třeba věnovat náležitou harmonickou úvahu.

Kdo je co z potenciálních falešných AI

Důležité je vyjasnit si různé aktéry nebo zúčastněné strany zapojené do těchto záležitostí.

Existují tvůrci AI, kteří vymýšlejí jádro generativní AI aplikace, a pak jsou tu další, kteří staví na generativní AI a vytvářejí aplikaci závislou na základní generativní AI. Mluvil jsem o tom, jak vám použití API (rozhraní pro programování aplikací) umožňuje napsat aplikaci, která využívá generativní AI, viz moje pokrytí na odkaz zde. Ukázkovým příkladem je, že Microsoft přidal generativní schopnosti umělé inteligence z OpenAI do svého vyhledávače Bing, jak jsem podrobně popsal na odkaz zde.

Potenciální viníci zavádějících nebo nepravdivých tvrzení o AI mohou zahrnovat:

• Výzkumníci AI
• Vývojáři AI
• AI marketéři
• Tvůrci AI, kteří vyvíjejí základní AI, jako je generativní AI
• Firmy, které ve svých nabídkách softwaru používají generativní umělou inteligenci
• Firmy, které ve svých produktech a službách spoléhají na používání generativní umělé inteligence
• Firmy, které spoléhají na firmy, které ve svých produktech nebo službách používají generativní umělou inteligenci
• Atd.

Můžete to považovat za dodavatelský řetězec. Kdokoli, kdo se podílí na AI, jak postupuje po cestě nebo rukavici vymýšlené a nasazované AI, může snadno poskytnout klamná nebo podvodná tvrzení o AI.

Ti, kteří vytvořili generativní AI, mohou být přímočaré střílečky a ukázalo se, že ti ostatní, kteří zabalili generativní AI do svých produktů nebo služeb, jsou ti, kteří se stávají ďábelskými a činí nepodložená tvrzení. To je jedna možnost.

Další možností je, že tvůrci umělé inteligence jsou těmi, kdo uvádějí nepravdivá tvrzení. Ostatní, kteří pak zahrnou generativní AI do svého zboží, pravděpodobně budou tato tvrzení opakovat. V určitém okamžiku může dojít k legální bažině. Nejprve by mohly vzniknout právní fracasy zaměřené na firmu, která tvrzení opakovala, a ta by zase zdánlivě ukázala právní prsty na výrobce AI, který spustil lavinu nároků. Domino začnou padat.

Jde o to, že firmy, které si myslí, že se mohou spolehnout na nepravdivá tvrzení druhých, musí utrpět hrubé probuzení, že kvůli takovému spoléhání se nutně neztratí. I oni budou mít nepochybně nohy u ohně.

Když zatlačíte, všichni se zapletou do zabláceného ošklivého právního boje.

Pokusy o použití únikových klauzulí pro vyhnutí se odpovědnosti AI

Již dříve jsem zmínil, že § 5 zákona FTC poskytuje právní jazyk o nezákonných reklamních praktikách. Existují různé právní mezery, které by každý bystrý právník potenciálně využil ve prospěch svého klienta, pravděpodobně oprávněně, pokud by se klient ve skutečnosti snažil zvrátit nebo odvrátit to, co považoval za křivé obvinění.

Vezměme si například toto ustanovení oddílu 5:

• „Komise nemá žádnou pravomoc podle tohoto oddílu nebo oddílu 57a této hlavy prohlásit za nezákonné jednání nebo praktiky na základě toho, že takové jednání nebo praktiky jsou nekalé, pokud tento čin nebo praktiky nezpůsobí nebo pravděpodobně nezpůsobí spotřebitelům podstatnou újmu, která je samotní spotřebitelé se jim nemohou rozumně vyhnout a nejsou vyváženy vyrovnávacími výhodami pro spotřebitele nebo hospodářskou soutěž. Při určování, zda je akt nebo postup nekalý, může Komise považovat zavedené veřejné politiky za důkaz, který je třeba vzít v úvahu se všemi ostatními důkazy. Takové úvahy o veřejném pořádku nemusí sloužit jako primární základ pro takové určení“ (zdroj: § 5 zákona FTC).

Někteří interpretovali tuto klauzuli tak, že pokud řekněme, že firma inzerovala svou AI a dělala to nějakým jinak zdánlivě otřesným způsobem, vyvstává otázka, zda reklama mohla uniknout očistci, pokud reklamy: (a) selhaly způsobit „podstatnou újmu spotřebitelům“, b) a takové újmě „samotní spotřebitelé mohli zabránit“ a c) „nebyla vyvážena vyrovnávacími výhodami pro spotřebitele nebo hospodářskou soutěž“.

Představte si tento případ použití. Firma se rozhodne tvrdit, že jejich generativní AI může pomoci vašemu duševnímu zdraví. Ukázalo se, že společnost vytvořila aplikaci, která zahrnuje generativní AI oblíbeného výrobce AI. Výsledná aplikace je propagována jako „pomáhá vám dosáhnout duševního klidu pomocí umělé inteligence, která s vámi interaguje a uklidňuje vaši utrápenou duši“.

Jako vedlejší poznámku jsem diskutoval o nebezpečích používání generativní umělé inteligence jako poradce pro duševní zdraví, viz moje analýza na odkaz zde a odkaz zde.

Zpět k pohádce. Předpokládejme, že se spotřebitel přihlásí ke generativní umělé inteligenci, která údajně může pomoci jeho duševnímu zdraví. Spotřebitel říká, že se spoléhal na reklamy firmy, která aplikaci AI nabízí. Po použití umělé inteligence však spotřebitel věří, že na tom není mentálně o nic lépe, než byl předtím. Pro ně aplikace AI používá klamavou a falešnou reklamu.

Nebudu se pouštět do právních spletitostí a jednoduše to použiji jako praktickou fólii (požádejte o vhodnou právní radu svého právníka). Za prvé, utrpěl spotřebitel v důsledku používání aplikace AI „podstatnou újmu“? Jedním z argumentů je, že neutrpěli „hmotnou“ újmu a pouze zdánlivě nezískali to, co si mysleli, že získají (protiargument je, že se jedná o formu „hmotné újmy“ a tak dále). Zadruhé, mohl se spotřebitel přiměřeně vyhnout takové újmě, pokud by k újmě skutečně došlo? Předpokládaná obrana spočívá do jisté míry v tom, že spotřebitel nebyl nějak nucen používat aplikaci AI a místo toho se dobrovolně rozhodl tak učinit, a navíc mohl aplikaci AI nesprávně použít, a proto podkopal očekávané výhody atd. Za třetí, mohla aplikace AI možná mají pro spotřebitele dostatečně podstatnou hodnotu nebo přínos, aby bylo tvrzení tohoto spotřebitele v celém rozsahu převáženo?

Můžete očekávat, že mnoho tvůrců umělé inteligence a těch, kteří rozšiřují své produkty a služby pomocí umělé inteligence, bude tvrdit, že ať už jejich nabídka s umělou inteligencí nebo umělou inteligencí udělají, přinášejí společnosti čistý přínos tím, že začleňují umělou inteligenci. . Logika je taková, že pokud je produkt nebo služba pro spotřebitele jinak přínosná, přidání umělé inteligence tyto výhody posiluje nebo posiluje. Ergo, i když existují nějaké potenciální nevýhody, pozitivní stránky převažují nad nevýhodami (za předpokladu, že nevýhody nejsou nesvědomité).

Věřím, že chápete, proč jsou právníci velmi potřební těmi, kdo používají nebo využívají AI.

FTC poskytuje užitečná slova upozornění na AI reklamu

Vrátíme-li se k příspěvku na blogu FTC z 27. února 2023, je zde několik velmi užitečných návrhů, jak odvrátit hlavolam s tvrzeními o reklamě AI, který je mimo hranice.

Zde jsou některé klíčové body nebo otázky vznesené v příspěvku na blogu:

• "Přeháníte, co váš produkt AI dokáže?"
• "Slibujete, že váš produkt s umělou inteligencí umí něco lépe než produkt bez umělé inteligence?"
• "Uvědomujete si rizika?"
• "Využívá produkt vůbec umělou inteligenci?"

Pojďme si v krátkosti rozbalit několik z těchto vyhrocených otázek.

Zvažte druhou odrážku o produktech AI oproti srovnatelnému produktu bez AI. Je lákavě lákavé propagovat, že váš produkt s AI je o tuny lepší než jakýkoli jiný srovnatelný produkt, který existuje. Celý den můžete dělat všemožné divoké mávání rukou tím, že budete jednoduše vychvalovat, že když je do vašeho produktu zahrnuta umělá inteligence, musí být lepší. Totiž, cokoli srovnatelného, ​​co nepoužívá AI, je zjevně a ze své podstaty podřadné.

To přináší slavný legendární slogan "Kde je hovězí?"

Důraz je kladen na to, že pokud nemáte něco hmatatelného a věcného, ​​na které by bylo možné pohledávku podložit, stojíte na poměrně choulostivé a právně nebezpečné půdě. Jste na pohyblivém písku. Pokud budete vyzváni, budete muset předložit nějakou formu dostatečného nebo přiměřeného důkazu, že produkt s přidanou AI je skutečně lepší než produkt bez AI, za předpokladu, že takové tvrzení uplatňujete. Tento důkaz by po faktu neměl být zašifrovanou záležitostí. Bylo by moudřejší a bezpečnější mít to v ruce předem, než učiníte tato reklamní tvrzení.

Teoreticky byste měli být schopni poskytnout nějaké rozumné zdání důkazů na podporu takového tvrzení. Mohli jste například provést průzkum nebo testování, které zahrnuje ty, kteří používají váš produkt s přidanou AI, ve srovnání s těmi, kteří používají srovnatelný produkt bez AI. To je malá cena za případné vyrovnání se s hrozícím trestem.

Dalším varováním je, že se nesnažte mrknout a mrknout, abyste se pokusili podpořit svá reklamní tvrzení o AI. Je pravděpodobné, že pokud nabídnete studii, kterou jste provedli o uživatelích umělé inteligence oproti uživatelům bez umělé inteligence, bude pečlivě zkontrolována dalšími odborníky, kteří se k tomu přijmou. Mohou si například všimnout, že jste možná položili palec na váhu podle toho, jak jste vybrali ty, které byly zkoumány nebo testovány. Nebo možná chcete tak daleko, že zaplatíte uživatelům používajícím umělou inteligenci, aby je přiměli chválit, jak skvělý je váš produkt. Všechny druhy podvodů jsou možné. Pochybuji, že se chceš dostat dovnitř dvojitý problém když se objeví ty záludné výmysly.

Když se přesunete na jeden z dalších bodů s odrážkami, zvažte čtvrtou odrážku, která se ptá, zda je za konkrétních okolností vůbec používána umělá inteligence.

Rychlý a špinavý přístup v dnešní době spočívá v tom, že se oportunisté rozhodnou označit jakýkoli druh softwaru jako obsahující nebo sestávající z AI. Někteří říkají, že by se mohl dostat do rozjetého vlaku AI. Dokážou se z toho dostat, protože definice umělé inteligence je obecně mlhavá a má široký rozsah, viz moje pokrytí v Bloombergův zákon na obtížnou právní otázku, v čem je AI odkaz zde.

Zmatek ohledně toho, co je AI, potenciálně poskytne určitý ochranný kryt, ale není neproniknutelný.

Zde je to, co blog FTC zmiňuje:

• "Při vyšetřování mohou technologové FTC a další nahlédnout pod pokličku a analyzovat další materiály, aby zjistili, zda to, co je uvnitř, odpovídá vašim tvrzením."

V tomto smyslu, bez ohledu na to, zda používáte „AI“ k přísnému dodržení přijaté definiční volby umělé inteligence, budete nicméně drženi tvrzení o tom, co bylo prohlášeno za to, že software umí.

Ocenil jsem tento přidaný komentář, který následoval výše uvedený bod na blogu FTC:

• „Než svůj produkt označíte jako s umělou inteligencí, uvědomte si také, že pouhé použití nástroje umělé inteligence ve vývojovém procesu není totéž jako u produktu s umělou inteligencí.“

To je jemný bod, o kterém by si mnozí jinak možná ani nepomysleli. Zde je to, co navrhuje. Někdy můžete při vývoji aplikace použít software rozšířený o umělou inteligenci. Skutečná cílená aplikace nebude obsahovat AI. Jednoduše používáte AI, aby vám pomohla vytvořit aplikaci AI.

Můžete například použít ChatGPT k vygenerování programovacího kódu za vás. Vytvořený kód nemusí nutně obsahovat žádné komponenty AI. Vaše aplikace nebude přiměřeně způsobilá tvrdit, že obsahuje umělou inteligenci jako takovou (pokud se samozřejmě nerozhodnete do ní zahrnout nějakou formu technik nebo technologií umělé inteligence). Dalo by se říci, že jste při psaní programu použili AI. I to je třeba říkat s rozmyslem a obezřetně.

FTC také varuje před předsudky AI

Blog FTC, který jsem zde zmínil na téma zkreslení AI, poskytuje některá užitečná varování, která je podle mého názoru docela vhodné mít na paměti (uvedu je za chvíli).

Pokud jde o generativní umělou inteligenci, existují čtyři hlavní obavy z úskalí dnešních schopností:

• chyby
• Lži
• AI halucinace
• Předpojatosti

Pojďme se krátce podívat na obavy z předsudků AI.

Zde je můj rozsáhlý seznam způsobů ovlivnění, které je třeba plně prozkoumat pro všechny generativní implementace umělé inteligence (podrobně diskutované na odkaz zde):

• Zkreslení ve zdrojových datech z internetu, která byla použita pro trénování dat generativní umělé inteligence
• Zkreslení v generativních algoritmech umělé inteligence používaných k porovnávání vzorů na zdrojových datech
• Předpojatosti v celkovém návrhu AI generativní AI a její infrastruktury
• Předpojatosti vývojářů AI buď implicitně nebo explicitně při utváření generativní AI
• Předpojatosti testerů AI buď implicitně nebo explicitně při testování generativní AI
• Předpojatost RLHF (posílení učení lidskou zpětnou vazbou) buď implicitně nebo explicitně přidělenými lidskými recenzenty, kteří poskytují generativní AI pokyny pro školení
• Předpojatost usnadnění AI pro operativní využití generativní AI
• Předpojatosti v jakémkoli nastavení nebo výchozích pokynech stanovených pro generativní AI při jejím každodenním používání
• Předpojatosti záměrně nebo neúmyslně obsažené ve výzvách zadaných uživatelem generativní umělé inteligence
• Předpojatost systémového stavu versus vzhled ad hoc jako součást náhodného pravděpodobnostního generování výstupu generativní AI
• Zkreslení vznikající v důsledku průběžných úprav nebo úprav v reálném čase nebo trénování dat, ke kterým dochází, když je generativní AI aktivně používána
• Předpojatosti zavedené nebo rozšířené během údržby AI nebo údržby generativní aplikace AI a jejího kódování porovnávání vzorů
• Ostatní

Jak vidíte, existuje mnoho způsobů, jak se do vývoje a nasazení AI mohou vplížit nepřiměřené předsudky. Nejedná se o jednorázovou starost. Přirovnávám to k situaci, kdy se někdo praštil. Musíte se pilně a neustále pokoušet odhalit a odstranit nebo zmírnit zkreslení AI ve vašich aplikacích AI.

Zvažte tyto rozumné body uvedené na blogu FTC z 19. dubna 2021 (všechny tyto body stále platí, bez ohledu na to, zda jsou starý z hlediska časových plánů pokroku AI):

• „Začněte se správným základem“
• „Pozor na diskriminační výsledky“
• „Přijměte transparentnost a nezávislost“
• „Nepřehánějte, co váš algoritmus dokáže nebo zda může poskytnout spravedlivé nebo nezaujaté výsledky“
• „Řekněte pravdu o tom, jak používáte data“
• „Udělej více užitku než škody“
• „Buďte zodpovědní – nebo buďte připraveni, že to FTC udělá za vás“

Jedním z mých oblíbených z výše uvedených bodů je čtvrtý uvedený, který odkazuje na často používané tvrzení nebo mýtus, že kvůli začlenění AI musí být daná aplikace nezaujatá.

Tady je návod, jak to jde.

Všichni víme, že lidé jsou zaujatí. Nějak se dostáváme do mentální pasti, že stroje a AI jsou schopny být nezaujaté. Pokud se tedy nacházíme v situaci, kdy si při hledání nějaké formy služby můžeme vybrat mezi používáním člověka a umělé inteligence, můžeme být v pokušení použít umělou inteligenci. Doufáme, že AI nebude zaujatá.

Tato naděje nebo předpoklad může být posílen, pokud tvůrce nebo tvůrce AI prohlásí, že jejich AI je nepochybně a nepochybně nezaujatá. To je uklidňující třešnička na dortu. Už jsme připraveni nechat se vést tou petrklíčovou stezkou. Reklama uzavírá dohodu.

Problém je v tom, že neexistuje žádná zvláštní záruka, že AI je nezaujatá. Tvůrce AI nebo hráč AI v poli možná lže o předsudcích AI. Pokud se to zdá příliš ohavné, vezměme v úvahu, že tvůrce AI nebo hráč v poli AI nemusí vědět, zda má jejich AI zaujatost, ale přesto se rozhodnou takové tvrzení vznést. Zdá se jim to jako rozumné a očekávané tvrzení.

Blog FTC uvedl tento odhalující příklad: „Například řekněme, že vývojář umělé inteligence klientům řekne, že jeho produkt poskytne ‚100% nezaujatá rozhodnutí o náboru‘, ale algoritmus byl vytvořen s daty, která postrádala rasovou nebo genderovou rozmanitost. Výsledkem může být podvod, diskriminace – a opatření FTC pro vymáhání práva“ (ibid).

Akce, které musíte podniknout ohledně svých reklamních triků s umělou inteligencí

Společnosti se někdy dostanou do potenciální horké vody, protože jedna ruka neví, co dělá druhá.

V mnoha společnostech, jakmile je aplikace AI připravena k vydání, dostane marketingový tým jen málo informací o tom, co aplikace AI dělá. Klasickou linií je, že detaily umělé inteligence mají nad hlavu a nejsou dostatečně důvtipní, aby tomu porozuměli. Do této mezery přichází potenciál pro výstřední AI reklamu. Obchodníci dělají, co mohou, na základě čehokoli, co s nimi sdílí.

Neříkám, že marketingová stránka byla podvedena. Jen to, že mezi vývojovou stránkou AI a marketingovou stranou je často propast. Samozřejmě existují případy, kdy je marketingový tým v podstatě podveden. Vývojáři umělé inteligence se mohou chlubit proklamovanými superlidskými schopnostmi umělé inteligence, pro které marketéři pravděpodobně nemají žádný smysluplný způsob, jak vyvrátit nebo vyjádřit opatrnost. Můžeme uvažovat o dalších kalamitních permutacích. Mohlo se stát, že vývojáři umělé inteligence byli předem ohledně omezení umělé inteligence, ale marketingová strana se rozhodla přidat trochu šťávy tím, že přecenila, co umělá inteligence dokáže. Víte, jak to je, ti AI technici prostě nechápou, co je potřeba k tomu, aby něco prodali.

Někdo musí být rozhodčí a musí zajistit, aby se obě poněkud nesourodá oddělení řádně setkaly. Koncipovaná reklama bude muset být založena na základech, které by vývojáři AI měli být schopni poskytnout důkazy nebo důkazy. Kromě toho, pokud jsou vývojáři umělé inteligence naplněni zbožnými přáními a již pijí AI Kool-Aid, je třeba to identifikovat, aby marketingový tým nebyl zaslepen příliš optimistickými a nepodloženými představami.

V některých firmách je role a Hlavní důstojník AI byla uvedena jako možné spojení, aby se zajistilo, že výkonný tým na nejvyšších úrovních zvažuje, jak lze AI využít ve firmě a jako součást produktů a služeb společnosti. Tato role by doufejme také posloužila k tomu, aby spojila AI stránku domu a marketingovou stránku domu, třela si lokty s vedoucím marketingu nebo Chief Marketing Officer (CMO). Viz moji diskuzi o této vznikající roli na adrese odkaz zde.

V těchto záležitostech je třeba zahrnout další velmi důležitou roli.

Právní stránka domu je stejně zásadní. Hlavní právník (CLO) nebo hlavní poradce nebo externí poradce by se měl podílet na aspektech umělé inteligence během vývoje, nasazení a marketingu umělé inteligence. Je smutné, že právní tým je často poslední, kdo o takových snahách AI ví. Firma, které je doručeno právní upozornění v důsledku soudního sporu nebo vyšetřování federálními úřady, si náhle uvědomí, že možná by se do jejich nasazení AI měli zapojit právníci.

Chytřejší přístup je zapojit právní tým předtím, než je kůň venku ze stodoly. Dlouho předtím, než kůň vyjde ze stodoly. Mnohem, mnohem dříve. Pro mé pokrytí AI a právních praktik viz odkaz zde a odkaz zde, například.

Nedávný online příspěvek s názvem „Risks Of Overselling Your AI: The FTC Is Watching“ od právnické firmy Debevoise & Plimpton (celosvětově uznávaná mezinárodní právnická firma se sídlem v New Yorku), kterou napsali Avi Gesser, Erez Liebermann, Jim Pastore, Anna R. Gressel, Melissa Muse, Paul D. Rubin, Christopher S. Ford, Mengyi Xu a s datem zveřejnění 6. března 2023 poskytuje pozoruhodně bystrý náznak akcí, které by firmy měly podniknout ve svém úsilí o AI.

Zde jsou některé vybrané úryvky z příspěvku na blogu (celý příspěvek je na odkaz zde):

• „1. Definice AI. Zvažte vytvoření interní definice toho, co lze vhodně charakterizovat jako AI, abyste se vyhnuli obvinění, že společnost nepravdivě tvrdí, že produkt nebo služba využívá umělou inteligenci, když pouze používá algoritmus nebo jednoduchý model bez AI.“
• „2. Inventář. Zvažte vytvoření inventáře veřejných prohlášení o produktech a službách společnosti AI.“
• „3. Vzdělání: Poučte své marketingové týmy pro dodržování předpisů o pokynech FTC ao problémech s definicí AI.“
• „4. Recenze: Zvažte zavedení procesu kontroly všech současných a navrhovaných veřejných prohlášení o produktech a službách společnosti s umělou inteligencí, abyste se ujistili, že jsou přesná, lze je doložit a nepřehánět ani neslibovat.“
• „5. Nároky dodavatele: U systémů umělé inteligence, které společnosti poskytuje prodejce, buďte opatrní, abyste pouze neopakovali tvrzení dodavatele o systému umělé inteligence, aniž byste zajistili jejich přesnost.“
• „6. Hodnocení rizik: U vysoce rizikových aplikací umělé inteligence by společnosti měly zvážit provedení posouzení dopadu, aby určily předvídatelná rizika a jak nejlépe tato rizika zmírnit, a poté zvážit zveřejnění těchto rizik v externích prohlášeních o aplikacích umělé inteligence.“

Jelikož jsem byl vrcholným manažerem a globálním CIO/CTO, vím, jak důležitý je právní tým pro vývoj a nasazení interních a externích systémů umělé inteligence, včetně licencování nebo získávání softwarových balíčků třetích stran. Zvláště pak s úsilím AI. Právní tým musí být zakotven nebo alespoň považován za blízkého a milého spojence technického týmu. Existuje nepřeberné množství legálních nášlapných min souvisejících se všemi technologiemi a výrazně pro AI, které se firma rozhodne postavit nebo adoptovat.

AI je dnes na vrcholu seznamu potenciálních legálních nášlapných min.

Spojení techniků umělé inteligence s marketingovými guru a právníky je tou nejlepší šancí, jak dělat věci správně. Dejte všechny tři dohromady, průběžně a ne opožděně nebo jednorázově, aby mohli vymyslet marketingovou a reklamní strategii a nasazení, které přináší výhody implementace AI. Cílem je minimalizovat přízrak dlouhé paže zákona a nákladných soudních sporů poškozujících pověst a zároveň maximalizovat náležitě spravedlivé a vyvážené uznání, které AI v podstatě poskytuje.

Princip Zlatovlásky platí pro AI. Chcete chválit, že umělá inteligence může dělat velké věci, za předpokladu, že umí a dělá, prokazatelně podložená dobře navrženými důkazy a důkazy. Nechcete se nechtěně vyhýbat čemukoli, co AI přidává jako hodnotu. To podkopává aditivní vlastnosti AI. A v druhém extrému určitě nechcete dělat bláznivé vychloubačné reklamy, které jdou mimo koleje a uvádějí tvrzení, která jsou nekalá a otevřená právním zapletením.

Polévka musí mít správnou teplotu. Dosažení tohoto cíle vyžaduje zdatné a umělou inteligencí důvtipné kuchaře z technického týmu, marketingového týmu a právního týmu.

V nedávném příspěvku právnické firmy Arnold & Porter (známá nadnárodní právnická firma se sídlem ve Washingtonu, DC) napsali Isaac E. Chao a Peter J. Schildkraut článek s názvem „FTC Warns: All You Need To Know About Umělá inteligence, kterou jste se naučili v mateřské škole“ (vydáno datum 7. března 2023, dostupné na odkaz zde) a tento zásadní varovný důraz na právní závazky spojené s používáním umělé inteligence:

• „Stručně řečeno, nenechte se tak unést kouzlem umělé inteligence, že zapomenete na základy. Klamavá reklama vystavuje společnost odpovědnosti podle federálních a státních zákonů na ochranu spotřebitele, z nichž mnohé umožňují kromě vládního vymáhání i soukromá práva žaloby. Uvedení zákazníci – zejména ti B2B – mohou také požadovat náhradu škody podle různých smluvních a deliktních teorií. A veřejné společnosti se musí obávat tvrzení SEC nebo akcionářů, že nepodložená tvrzení byla významná.“

Uvědomte si, že i když vaše umělá inteligence není zaměřena na spotřebitele, nejste axiomaticky mimo mísu, pokud jde o potenciální právní rizika. Zákazníci, kteří jsou podniky, se také mohou rozhodnout, že je vaše tvrzení o AI nepravdivě nebo možná podvodně uvedlo v omyl. Mohou nastat všechny druhy právního nebezpečí.

Proč investovat do čističky vzduchu?

Spousta lidí čeká, až uvidí, jaký debakl související s AI reklamami povstane z existujícího a rostoucího šílenství AI. Někteří věří, že potřebujeme vzor ráže Volkswagenu nebo archetyp postavy L'Oréal, aby si každý uvědomil, že případy nehorázně nepodložených tvrzení o AI nebudou tolerovány.

Dokud dostatečně velký právní spor ohledně reklamy AI mimo hranice nezíská širokou pozornost na sociálních sítích a v každodenních zprávách, existuje obava, že bonanza chlubící se AI přetrvá. Marketing AI bude i nadále stoupat po žebříčku výstřednosti. Jde to výš a výš. Každá další umělá inteligence bude muset vylepšit ty předchozí.

Moje rada je, že pravděpodobně nechcete být archetypem a přistát v historických knihách za to, že vás chytili s rukou v dóze na sušenky zdobené umělou inteligencí. Není to dobrý pohled. Nákladné. Mohlo by to zničit podnikání a související kariéry.

Necháte se chytit?

Vyzývám vás, že pokud si budete dávat pozor na to, co děláte, nebude pro vás chycení noční můra, protože uděláte náležitou náležitou péči a budete moci klidně spát s hlavou na polštáři.

Pro ty z vás, kteří nejsou ochotni se touto radou řídit, nechám poslední slovo pro tuto mírnou varovnou poznámku na blogu FTC z 27. února 2023: „Ať už umí nebo neumí, umělá inteligence je důležitá. stejně jako vaše tvrzení o tom. Nepotřebujete stroj, abyste předpověděli, co může FTC udělat, když tyto nároky nejsou podporovány.“

No, předpokládám, že někdo by mohl použít AI, aby vám pomohla vyhnout se nezákonné AI reklamě, ale to je příběh na jiný den. Jen mějte na paměti, že musíte být ohleduplní a pravdiví o své AI. To a ujistěte se, že máte nejlepší legální bíglové, kteří o těchto záležitostech důrazně poskytují svou oddanou právní moudrost.