Prometheus: speciální technologie Microsoftu v Bing AI

Bing AI byla patrně první funkční implementací jazykového modelu OpenAI s přístupem k internetu. Za spojením schopností chatbota ChatGPT s informacemi zpracovanými vyhledávačem Bing stojí technologie Microsoftu zvaná Prometheus. Co všechno na svědomí?

 

Snad prvním požadavkem, který měli uživatelé v momentě objevení se ChatGPT, bylo propojení s internetem, a to sice pro rozšíření záběru a aktuálnosti informací. Dnešní velké jazykové modely (LLMs - z angl. Large Language Models) byly totiž trénovány na datech, jejichž aktuálnost je pevně spjata s určitým datem. 

„Nový model GPT představoval průlom v oblasti velkých jazykových modelů (LLM), ale stejně jako ostatní LLM byl vycvičen na datech z daného časového okamžiku, takže jsme si mysleli, že bychom mohli obohatit uživatelský zážitek, zvýšit jeho relevanci a přesnost tím, že jej spojíme s výkonem backendu služby Bing.“

Vznikla potřeba zkombinovat a vzájemně propojit různé prvky procesu zahrnujícího: 

• chatovací dotaz;
• pochopení chatovacího dotazu ze strany LLM;
• rozložení chatovacího dotazu do vyhledávacích dotazů;
• získání výsledků;
• vyloučení závadných informací (vulgarit, dezinformací aj.)
• analýzu informací z jednotlivých zdrojů;
• syntézu získaných informací
• odpověď v chatu.

A proto vznikla technologie Prometheus.

Prometheus využívá možnosti Bingu a GPT k iterativnímu generování sady interních dotazů prostřednictvím komponenty nazvané Bing Orchestrator a usiluje o poskytnutí přesné a informačně bohaté odpovědi na dotaz uživatele v kontextu konverzace. A to vše v řádu milisekund, vysvětluje fungování Promethea Ribas. 

Přímo k načrtnutému schématu fungování Promethea Ribas říká:

„Výběr relevantních interních dotazů a využití příslušných výsledků vyhledávání v systému Bing je důležitou součástí systému Prometheus, protože poskytuje modelu relevantní a čerstvé informace, které mu umožňují odpovídat na aktuální dotazy a snižují nepřesnosti - tato metoda se nazývá grounding (uzemnění).

Jinak řečeno, model uvažuje nad daty poskytovanými službou Bing, a proto je uzemněn daty Bing prostřednictvím služby Bing Orchestrator.“

Ribas v podstatě odkazuje k tomu, že Prometheus usměrňuje chování chatbota tak, aby finální výsledek byl v maximální míře relevantní dotazu, a přitom aktuální z hlediska času, kontextuálně správný a prostý závadných informací. Ovšem určování závadných informací může vést k pochybnostem. Každé omezování práce s informacemi totiž může začít vyloučením vulgarit a skončit tím, že některé zdroje jsou marginalizovány jen proto, že jsou marginální. Ale vraťme se k technologii samé...

Finálním vlivem Promethea je dle Ribase moment, kdy:

„Prometheus připojí k odpovědi v chatu relevantní odpovědi z vyhledávání Bing, jako je počasí, akcie, sport, zprávy atd., a poskytne tak bohatší a poutavější uživatelský zážitek, který dále využívá sílu Bing.

Pomocí groundingu Bingu je Prometheus schopen integrovat citace do smysluplné větné stavby odpovědi v chatu, díky čemuž mohou uživatelé mohou snadno kliknutím získat přístup ke zdrojům a ověřit si informace. 

A odesílání uživatelů na dané zdroje je klíčové pro udržení zdravého ekosystému Internetu, což zůstává jednou z priorit vyhledávače Bing.“

Čím jsou zásahy Promethea do konverzace specifické?

Vlivem Promethea se podstatně mění činnost konverzační AI - v tomto případě ChatGPT 4.0. Na rozdíl od konverzací přímo s ChatGPT zasahuje Prometheus (paraf. dle Barryho Schwartze, novináře mapujícího oblast SEO) v několika oblastech chatové komunikace:

1. Interpretace dotazu - Bing AI rozkouskuje dotazu na smysluplné celky a vytvoří z nich jednotlivé vyhledávací dotazy;
2. Index vyhledávače Bing - Bing AI má k dispozici celý index vyhledávače Bing, a tím pádem má extrémně rychlý přístup k datům a aktuálním informacím;
3. Ranking vyhledávače Bing - do celého procesu vstupuje řazení zdrojů podle toho, jakou hodnotu jim přisuzuje vyhledávač Bing;
4. Implementace dat z rozšířených výsledků vyhledávání Bingu - vyhledávač Bing kromě běžných výsledků vyhledávání již dopředu zpracovává tzv. rozšířené výsledky vyhledávání. Bing AI má tedy k dispozici předzpracovaná data ohledně počasí, sportovních výsledků, aktuálního zpravodajství, výsledků orientovaných dle lokality aj.
5. Citace a odkazování na zdroje - díky Prometheovi je Bing AI schopná využít citace a v chatových odpovědích nabídnout přímé odkazy na zdroje (což je pro ChatGPT zatím problém).

Technologické průlomy formující podobu Bing AI

Microsoft při hodnocení nového ekosystému Bingu, Promethea, ChatGPT (a často i prohlížeče Microsoft Edge) upozorňuje na čtyři technologické průlomy, které se na jeho podobě podílejí. Jsou to:

1. „Nová generace jazykových modelů OpenAI - S potěšením oznamujeme, že nový Bing běží na novém rozsáhlém jazykovém modelu nové generace OpenAI, který je výkonnější než ChatGPT a přizpůsobený speciálně pro vyhledávání. Využívá klíčové poznatky a pokroky z ChatGPT a GPT-3.5 - a je ještě rychlejší, přesnější a schopnější.
2. Vlastní technologie Prometheus - Vyvinuli jsme vlastní způsob práce s modelem OpenAI, který nám umožňuje co nejlépe využít jeho sílu. Tento soubor schopností a technik nazýváme model Prometheus. Díky této kombinaci získáte relevantnější, včasnější a cílenější výsledky s vyšší bezpečností.
3. Aplikace AI na vyhledávací algoritmus Bingu - Model umělé inteligence jsme použili také v našem hlavním vyhledávači Bing, což vedlo k největšímu skoku v relevanci za posledních dvacet let. Díky tomuto modelu AI jsou i základní vyhledávací dotazy přesnější a relevantnější.
4. Nové uživatelské prostředí - Změnili jsme způsob interakce s vyhledávačem, prohlížečem a chatem tak, že jsme je spojili do jednotného prostředí. Tím se otevře zcela nový způsob interakce s webem.“

Zdroje

• Microsoft
• LinkedIn
• The Official Microsoft Blog
• Search Engine Land

 

Daniel Beránek, 08.05.2023 21:00

 

 

 

	Kalendář Seznamu přešel na stranu temnoty Seznam se stále snaží doběhnout vlnu online kalendářů. A to je dobře. Jeho uživatelé tak mohou v rámci jednoho ekosystému odbavit vícero svých nároků. Nejnovější příspěvkem k uživatelskému komfortu kalendáře je implementace tmavého...
	Chrome 114 přináší přepracovanou čtečku Vývojáři Chrome odstranili starý režim čtení z Google Chrome ve verzi 112. Ostatně šlo jen experimentální podobu čtečky, která byla přístupná pouze po aktivaci z pokročilých nastavení prohlížeče. Nyní přichází s přepracovanou...
	Jaké jsou systémové požadavky Windows 11 Moment 3? Moment 3 je poslední aktualizací funkcí operačního systému Windows 11 ve verzi 22H2. Přichází v podobě kumulativního balíčku aktualizací KB5026446 a s funkcemi, kterým Microsoft oficiálně říká Continuous Innovation.  ...
	Bing Chat je už přístupný bez přihlášení a rozšiřuje nabídku funkcí Microsoft se snaží kout Bing Chat, dokud jeho žhavost nezanikne mezi množstvím dalších realizací konverzačních AI. I proto zpřístupňuje Bing Chat i nepřihlášeným uživatelům a vychází vstříc dalším požadavkům uživatelů. Postupně...