Prometheus: speciální technologie Microsoftu v Bing AI

Bing AI byla patrně první funkční implementací jazykového modelu OpenAI s přístupem k internetu. Za spojením schopností chatbota ChatGPT s informacemi zpracovanými vyhledávačem Bing stojí technologie Microsoftu zvaná Prometheus. Co všechno na svědomí?

 

Snad prvním požadavkem, který měli uživatelé v momentě objevení se ChatGPT, bylo propojení s internetem, a to sice pro rozšíření záběru a aktuálnosti informací. Dnešní velké jazykové modely (LLMs - z angl. Large Language Models) byly totiž trénovány na datech, jejichž aktuálnost je pevně spjata s určitým datem. 

„Nový model GPT představoval průlom v oblasti velkých jazykových modelů (LLM), ale stejně jako ostatní LLM byl vycvičen na datech z daného časového okamžiku, takže jsme si mysleli, že bychom mohli obohatit uživatelský zážitek, zvýšit jeho relevanci a přesnost tím, že jej spojíme s výkonem backendu služby Bing.“

Vznikla potřeba zkombinovat a vzájemně propojit různé prvky procesu zahrnujícího: 

• chatovací dotaz;
• pochopení chatovacího dotazu ze strany LLM;
• rozložení chatovacího dotazu do vyhledávacích dotazů;
• získání výsledků;
• vyloučení závadných informací (vulgarit, dezinformací aj.)
• analýzu informací z jednotlivých zdrojů;
• syntézu získaných informací
• odpověď v chatu.

A proto vznikla technologie Prometheus.

Prometheus využívá možnosti Bingu a GPT k iterativnímu generování sady interních dotazů prostřednictvím komponenty nazvané Bing Orchestrator a usiluje o poskytnutí přesné a informačně bohaté odpovědi na dotaz uživatele v kontextu konverzace. A to vše v řádu milisekund, vysvětluje fungování Promethea Ribas. 

Přímo k načrtnutému schématu fungování Promethea Ribas říká:

„Výběr relevantních interních dotazů a využití příslušných výsledků vyhledávání v systému Bing je důležitou součástí systému Prometheus, protože poskytuje modelu relevantní a čerstvé informace, které mu umožňují odpovídat na aktuální dotazy a snižují nepřesnosti - tato metoda se nazývá grounding (uzemnění).

Jinak řečeno, model uvažuje nad daty poskytovanými službou Bing, a proto je uzemněn daty Bing prostřednictvím služby Bing Orchestrator.“

Ribas v podstatě odkazuje k tomu, že Prometheus usměrňuje chování chatbota tak, aby finální výsledek byl v maximální míře relevantní dotazu, a přitom aktuální z hlediska času, kontextuálně správný a prostý závadných informací. Ovšem určování závadných informací může vést k pochybnostem. Každé omezování práce s informacemi totiž může začít vyloučením vulgarit a skončit tím, že některé zdroje jsou marginalizovány jen proto, že jsou marginální. Ale vraťme se k technologii samé...

Finálním vlivem Promethea je dle Ribase moment, kdy:

„Prometheus připojí k odpovědi v chatu relevantní odpovědi z vyhledávání Bing, jako je počasí, akcie, sport, zprávy atd., a poskytne tak bohatší a poutavější uživatelský zážitek, který dále využívá sílu Bing.

Pomocí groundingu Bingu je Prometheus schopen integrovat citace do smysluplné větné stavby odpovědi v chatu, díky čemuž mohou uživatelé mohou snadno kliknutím získat přístup ke zdrojům a ověřit si informace. 

A odesílání uživatelů na dané zdroje je klíčové pro udržení zdravého ekosystému Internetu, což zůstává jednou z priorit vyhledávače Bing.“

Čím jsou zásahy Promethea do konverzace specifické?

Vlivem Promethea se podstatně mění činnost konverzační AI - v tomto případě ChatGPT 4.0. Na rozdíl od konverzací přímo s ChatGPT zasahuje Prometheus (paraf. dle Barryho Schwartze, novináře mapujícího oblast SEO) v několika oblastech chatové komunikace:

1. Interpretace dotazu - Bing AI rozkouskuje dotazu na smysluplné celky a vytvoří z nich jednotlivé vyhledávací dotazy;
2. Index vyhledávače Bing - Bing AI má k dispozici celý index vyhledávače Bing, a tím pádem má extrémně rychlý přístup k datům a aktuálním informacím;
3. Ranking vyhledávače Bing - do celého procesu vstupuje řazení zdrojů podle toho, jakou hodnotu jim přisuzuje vyhledávač Bing;
4. Implementace dat z rozšířených výsledků vyhledávání Bingu - vyhledávač Bing kromě běžných výsledků vyhledávání již dopředu zpracovává tzv. rozšířené výsledky vyhledávání. Bing AI má tedy k dispozici předzpracovaná data ohledně počasí, sportovních výsledků, aktuálního zpravodajství, výsledků orientovaných dle lokality aj.
5. Citace a odkazování na zdroje - díky Prometheovi je Bing AI schopná využít citace a v chatových odpovědích nabídnout přímé odkazy na zdroje (což je pro ChatGPT zatím problém).

Technologické průlomy formující podobu Bing AI

Microsoft při hodnocení nového ekosystému Bingu, Promethea, ChatGPT (a často i prohlížeče Microsoft Edge) upozorňuje na čtyři technologické průlomy, které se na jeho podobě podílejí. Jsou to:

1. „Nová generace jazykových modelů OpenAI - S potěšením oznamujeme, že nový Bing běží na novém rozsáhlém jazykovém modelu nové generace OpenAI, který je výkonnější než ChatGPT a přizpůsobený speciálně pro vyhledávání. Využívá klíčové poznatky a pokroky z ChatGPT a GPT-3.5 - a je ještě rychlejší, přesnější a schopnější.
2. Vlastní technologie Prometheus - Vyvinuli jsme vlastní způsob práce s modelem OpenAI, který nám umožňuje co nejlépe využít jeho sílu. Tento soubor schopností a technik nazýváme model Prometheus. Díky této kombinaci získáte relevantnější, včasnější a cílenější výsledky s vyšší bezpečností.
3. Aplikace AI na vyhledávací algoritmus Bingu - Model umělé inteligence jsme použili také v našem hlavním vyhledávači Bing, což vedlo k největšímu skoku v relevanci za posledních dvacet let. Díky tomuto modelu AI jsou i základní vyhledávací dotazy přesnější a relevantnější.
4. Nové uživatelské prostředí - Změnili jsme způsob interakce s vyhledávačem, prohlížečem a chatem tak, že jsme je spojili do jednotného prostředí. Tím se otevře zcela nový způsob interakce s webem.“

Zdroje

• Microsoft
• LinkedIn
• The Official Microsoft Blog
• Search Engine Land

 

Daniel Beránek, 08.05.2023 21:00

 

 

 

	Zoner Photo Studio X přináší rychlejší úpravy fotek, vylepšené uživatelské rozhraní a nové nástroje Zoner Software vydává podzimní aktualizaci populárního fotoeditoru Zoner Photo Studio X. Nová verze přináší výrazné zrychlení zpracování fotografií díky optimalizaci pro moderní i starší hardware....
	eDoklady se stanou platnou alternativou fyzických dokladů Praha, 13. 9. 2023 - Vláda učinila historický krok směrem k digitalizaci prokazování totožnosti občana. Schválila novelu zákony o právu na digitální služby a usnesení o projektu eDoklady, které předložil vicepremiér pro digitalizaci Ivan Bartoš....
	Windows Update již nenabídne starší ovládače tiskáren Microsoft usoudil, že je na čase ukončit podporu starších ovládačů typu V3 a V4 a jejich automatizované distribuci prostřednictvím služby Windows Update. Ale aby příliš nerozhodil uživatelskou základnu, opět zacouval a upřesnil, že nebude distribuovat nové ovladače...
	Bing Chat: Jak jsem se stal chatovacím partnerem? Novinařina - to není jen zpravodajství, ale také publicistika. A jak tak kecáme s Bingem, vypadlo z něj dílo, které se pohybuje někde mezi fejetonem, reportáží a sloupkem - a nadto je fakticky jednou obsáhlou odpovědí z rozhovoru. A že to Bing napsal tak, že by s...