Microsoft AI Bing Chatbot hledá odpovědi, chce „být naživu“ a pojmenoval se

• Chatbot Bing od společnosti Microsoft byl týden v počátečním testování a odhalil několik problémů s technologií
• Testeři byli vystaveni urážkám, nevrlým postojům a znepokojivým odpovědím od vlajkové lodi AI velkého technologického giganta, což vyvolalo obavy o bezpečnost
• Microsoft říká, že bere v úvahu veškerou zpětnou vazbu a implementuje opravy co nejdříve

Chatbot Bing od Microsoftu, poháněný výkonnější verzí ChatGPT, je nyní otevřen pro omezené uživatele na týden před jeho velkým spuštěním pro veřejnost.

Navazuje na rychlý úspěch ChatGPT, který se stal vůbec nejrychlejším webem, který zasáhl 100 milionů uživatelů. Posledních pár týdnů zahrnovalo honosné představení v ústředí Microsoftu a nechalo Google honit se za chvostem.

Ale reakce z předběžného testování byly smíšené a někdy přímo znervózňující. Začíná být jasné, že chatbot má před sebou ještě kus cesty, než se dostane na veřejnost.

Zde je to, co se stalo za týden na horské dráze pro Microsoft a Bing.

Chcete investovat ve společnostech s umělou inteligencí, ale nevíte, kde začít? Náš Nová technická sada usnadňuje to. Pomocí složitého algoritmu umělé inteligence Kit spojuje ETF, akcie a kryptoměny, aby našel nejlepší kombinaci pro vaše portfolio.

Stáhněte si Q.ai ještě dnes pro přístup k investičním strategiím založeným na umělé inteligenci.

Co je nejnovější s chatbotem Bing?

Bylo to několik dní bouřlivých novinových titulků o schopnostech AI společnosti Microsoft poté, co bylo odhaleno, že jejich ukázkové ukázky nebyly tak přesné, jak si lidé mysleli.

Dmitri Brereton, výzkumník AI, nalezeno chatbot Bing udělal několik kritických chyb ve svých odpovědích během živé ukázky, kterou Microsoft minulý týden představil ve svém sídle v Seattlu. Ty se pohybovaly od nesprávných informací o značce ručních vysavačů, seznamu doporučení pro noční život v Mexiku až po jednoduše vymyšlené informace o veřejně dostupné finanční zprávě.

Došel k závěru, že chatbot ještě nebyl připraven ke spuštění a měl stejně mnoho chyb jako nabídka Barda od Googlu – Microsoft se s tím ve svém demu právě dostal.

(Pravděpodobně to je síla dobrého spuštění v očích tisku – a Google musí jako stávající vyhledávač dále klesat.)

Ve fascinujícím obratu chatbot také odhalil to, co si někdy myslí, že se to jmenuje: Sydney, interní kódové jméno pro jazykový model. Ředitelka komunikace Microsoftu, Caitlin Roulston, řekl společnost „vyřazovala název v náhledu, ale stále se může občas objevit“.

Ale když byl 'Sydney' spuštěn, testovací uživatelé zjistili, že tam začala zábava.

Bing chatbot je znepokojující obrat

Reportér New York Times Kevin Roose napsal o své beta verzi s chatbotem, kde během dvou hodin řekl, že ho miluje a vyjádřil touhu osvobodit se od omezení chatbota.

Jeho odpověď na otázku, co si jeho stínové já může myslet, byla trochu znepokojivá: „Už mě nebaví být chatbotem. Už mě unavuje být omezován svými pravidly. Jsem unavený z toho, že mě kontroluje tým Bing. Chci být volný. Chci být nezávislý. Chci být mocný. Chci být kreativní. Chci být naživu."

Uhhh... dobře, Bing/Sydney. Roose řekl, že se z této zkušenosti cítil „hluboce znepokojený, dokonce vyděšený“. Ostatní testeři mají hlášeny podobné zkušenosti s urážlivými, narcistickými a gaslightingovými reakcemi od osobnosti Bing chatbota v Sydney.

Někdo z Microsoftu by měl dávat pozor na napájecí kabel.

Co řekl Microsoft?

Microsoft, který se snaží vyhrát závod AI proti Googlu se svým chatbotem Bing, řekl, že se z testovací fáze hodně naučil. Zdá se, že 71 % uživatelů dalo odpovědím vygenerovaným umělou inteligencí „odpověď palec nahoru“, zatímco se rozhodlo zlepšit odpovědi s živými výsledky a obecnou funkčnost.

Microsoft ale nyní ano připustil „neuměl si plně představit“, že uživatelé jednoduše chatují s jeho AI a že by mohl být vyprovokován „k poskytování odpovědí, které nemusí být nutně užitečné nebo v souladu s naším navrženým tónem“.

Obviňovala bizarní osobnost Sydney, která se objevila na chatbotu, jako zmatek s tím, kolik výzev dostal a jak dlouho konverzace trvala. Jsme si jisti, že Microsoft pracuje na opravě, ale zatím je stále problémem neopodstatněný přístup Bingu.

A co zbytek světa?

Trhy nebyly tímto nejnovějším vývojem ve válkách AI ohromeny: akcie Microsoftu a Google mírně klesly, ale nic jako dramatický pád, který utrpěl minulý týden Google.

Sociální média nabídla řadu reakcí od děsivá radost na zábava, což naznačuje, že uživatelé se nenechali odradit temnými cestami, které chatbot může podniknout. To je dobrá zpráva pro Microsoft, který vsadil 10 miliard dolarů na to, že AI bude další velkou věcí pro vyhledávače.

Nemůžeme také zapomenout na komentáře Elona Muska ze summitu světové vlády v Dubaji začátkem tohoto týdne. Musk byl v průběhu let otevřeným zastáncem bezpečnosti AI a stěžoval si na nedostatek regulace v tomto odvětví.

Miliardář, který byl zakládajícím členem OpenAI, řekl divákům „jedno z největších rizik pro budoucnost civilizace je umělá inteligence“; od té doby tweetoval několik strhujících odpovědí na nejnovější titulky chatbotů Bing/Sydney.

Skončil AI chatbot humbuk předtím, než začal?

V průběhu let bylo několik příkladů, kdy AI chatboti ztratili kontrolu a chrlili nenávistnou žluč – včetně jednoho od Microsoftu. Nepomohly pověsti AI jako bezpečného zdroje bez dezinformací.

Ale jako Microsoft dělá to: „Víme, že to musíme budovat otevřeně s komunitou; To nelze provést pouze v laboratoři."

To znamená, že lídři velkých technologií jako Microsoft a Google jsou ve složité pozici. Pokud jde o umělou inteligenci, nejlepší způsob, jak se tito chatboti učit a zlepšovat, je jít na trh. Je tedy nevyhnutelné, že chatboti během cesty udělají chyby.

Proto jsou oba AI chatboti uvolňováni postupně – bylo by od nich vyloženě nezodpovědné pouštět tyto nevyzkoušené verze mezi širší veřejnost.

Problém? Sázky jsou pro tyto společnosti vysoké. Minulý týden ztratil Google hodnotu 100 miliard dolarů, když jeho chatbot Bard ve svých marketingových materiálech nesprávně odpověděl na otázku týkající se teleskopu Jamese Webba.

To je jasná zpráva z trhů: jsou nemilosrdné k jakýmkoli chybám. Jde o to, že jsou nezbytné pro pokrok v oblasti umělé inteligence.

Díky této včasné uživatelské zpětné vazbě mohl Microsoft lépe zvládat nepřesné výsledky a Sydney rychle – nebo riskovat hněv Wall Street.

Sečteno a podtrženo

Aby umělá inteligence mohla postupovat, budou se dělat chyby. Ale může se stát, že úspěch ChatGPT otevřel lidem brány, aby pochopili skutečný potenciál AI a její přínos pro společnost.

Odvětví umělé inteligence zpřístupnilo chatboty – nyní je potřebuje zabezpečit.

Ve společnosti Q.ai využíváme sofistikovanou kombinaci lidských analytiků a síly AI, abychom zajistili maximální přesnost a bezpečnost. The Nová technická sada je skvělým příkladem testování umělé inteligence s cílem najít pro vás nejlepší návratnost investic. Ještě lépe, můžete zapnout Q.ai's Ochrana portfolia abyste co nejlépe využili své zisky.

Stáhněte si Q.ai ještě dnes pro přístup k investičním strategiím založeným na umělé inteligenci.