Prometheus: speciální technologie Microsoftu v Bing AI

Bing AI byla patrně první funkční implementací jazykového modelu OpenAI s přístupem k internetu. Za spojením schopností chatbota ChatGPT s informacemi zpracovanými vyhledávačem Bing stojí technologie Microsoftu zvaná Prometheus. Co všechno na svědomí?

 

Snad prvním požadavkem, který měli uživatelé v momentě objevení se ChatGPT, bylo propojení s internetem, a to sice pro rozšíření záběru a aktuálnosti informací. Dnešní velké jazykové modely (LLMs - z angl. Large Language Models) byly totiž trénovány na datech, jejichž aktuálnost je pevně spjata s určitým datem. 

„Nový model GPT představoval průlom v oblasti velkých jazykových modelů (LLM), ale stejně jako ostatní LLM byl vycvičen na datech z daného časového okamžiku, takže jsme si mysleli, že bychom mohli obohatit uživatelský zážitek, zvýšit jeho relevanci a přesnost tím, že jej spojíme s výkonem backendu služby Bing.“

Vznikla potřeba zkombinovat a vzájemně propojit různé prvky procesu zahrnujícího: 

• chatovací dotaz;
• pochopení chatovacího dotazu ze strany LLM;
• rozložení chatovacího dotazu do vyhledávacích dotazů;
• získání výsledků;
• vyloučení závadných informací (vulgarit, dezinformací aj.)
• analýzu informací z jednotlivých zdrojů;
• syntézu získaných informací
• odpověď v chatu.

A proto vznikla technologie Prometheus.

Prometheus využívá možnosti Bingu a GPT k iterativnímu generování sady interních dotazů prostřednictvím komponenty nazvané Bing Orchestrator a usiluje o poskytnutí přesné a informačně bohaté odpovědi na dotaz uživatele v kontextu konverzace. A to vše v řádu milisekund, vysvětluje fungování Promethea Ribas. 

Přímo k načrtnutému schématu fungování Promethea Ribas říká:

„Výběr relevantních interních dotazů a využití příslušných výsledků vyhledávání v systému Bing je důležitou součástí systému Prometheus, protože poskytuje modelu relevantní a čerstvé informace, které mu umožňují odpovídat na aktuální dotazy a snižují nepřesnosti - tato metoda se nazývá grounding (uzemnění).

Jinak řečeno, model uvažuje nad daty poskytovanými službou Bing, a proto je uzemněn daty Bing prostřednictvím služby Bing Orchestrator.“

Ribas v podstatě odkazuje k tomu, že Prometheus usměrňuje chování chatbota tak, aby finální výsledek byl v maximální míře relevantní dotazu, a přitom aktuální z hlediska času, kontextuálně správný a prostý závadných informací. Ovšem určování závadných informací může vést k pochybnostem. Každé omezování práce s informacemi totiž může začít vyloučením vulgarit a skončit tím, že některé zdroje jsou marginalizovány jen proto, že jsou marginální. Ale vraťme se k technologii samé...

Finálním vlivem Promethea je dle Ribase moment, kdy:

„Prometheus připojí k odpovědi v chatu relevantní odpovědi z vyhledávání Bing, jako je počasí, akcie, sport, zprávy atd., a poskytne tak bohatší a poutavější uživatelský zážitek, který dále využívá sílu Bing.

Pomocí groundingu Bingu je Prometheus schopen integrovat citace do smysluplné větné stavby odpovědi v chatu, díky čemuž mohou uživatelé mohou snadno kliknutím získat přístup ke zdrojům a ověřit si informace. 

A odesílání uživatelů na dané zdroje je klíčové pro udržení zdravého ekosystému Internetu, což zůstává jednou z priorit vyhledávače Bing.“

Čím jsou zásahy Promethea do konverzace specifické?

Vlivem Promethea se podstatně mění činnost konverzační AI - v tomto případě ChatGPT 4.0. Na rozdíl od konverzací přímo s ChatGPT zasahuje Prometheus (paraf. dle Barryho Schwartze, novináře mapujícího oblast SEO) v několika oblastech chatové komunikace:

1. Interpretace dotazu - Bing AI rozkouskuje dotazu na smysluplné celky a vytvoří z nich jednotlivé vyhledávací dotazy;
2. Index vyhledávače Bing - Bing AI má k dispozici celý index vyhledávače Bing, a tím pádem má extrémně rychlý přístup k datům a aktuálním informacím;
3. Ranking vyhledávače Bing - do celého procesu vstupuje řazení zdrojů podle toho, jakou hodnotu jim přisuzuje vyhledávač Bing;
4. Implementace dat z rozšířených výsledků vyhledávání Bingu - vyhledávač Bing kromě běžných výsledků vyhledávání již dopředu zpracovává tzv. rozšířené výsledky vyhledávání. Bing AI má tedy k dispozici předzpracovaná data ohledně počasí, sportovních výsledků, aktuálního zpravodajství, výsledků orientovaných dle lokality aj.
5. Citace a odkazování na zdroje - díky Prometheovi je Bing AI schopná využít citace a v chatových odpovědích nabídnout přímé odkazy na zdroje (což je pro ChatGPT zatím problém).

Technologické průlomy formující podobu Bing AI

Microsoft při hodnocení nového ekosystému Bingu, Promethea, ChatGPT (a často i prohlížeče Microsoft Edge) upozorňuje na čtyři technologické průlomy, které se na jeho podobě podílejí. Jsou to:

1. „Nová generace jazykových modelů OpenAI - S potěšením oznamujeme, že nový Bing běží na novém rozsáhlém jazykovém modelu nové generace OpenAI, který je výkonnější než ChatGPT a přizpůsobený speciálně pro vyhledávání. Využívá klíčové poznatky a pokroky z ChatGPT a GPT-3.5 - a je ještě rychlejší, přesnější a schopnější.
2. Vlastní technologie Prometheus - Vyvinuli jsme vlastní způsob práce s modelem OpenAI, který nám umožňuje co nejlépe využít jeho sílu. Tento soubor schopností a technik nazýváme model Prometheus. Díky této kombinaci získáte relevantnější, včasnější a cílenější výsledky s vyšší bezpečností.
3. Aplikace AI na vyhledávací algoritmus Bingu - Model umělé inteligence jsme použili také v našem hlavním vyhledávači Bing, což vedlo k největšímu skoku v relevanci za posledních dvacet let. Díky tomuto modelu AI jsou i základní vyhledávací dotazy přesnější a relevantnější.
4. Nové uživatelské prostředí - Změnili jsme způsob interakce s vyhledávačem, prohlížečem a chatem tak, že jsme je spojili do jednotného prostředí. Tím se otevře zcela nový způsob interakce s webem.“

Zdroje

• Microsoft
• LinkedIn
• The Official Microsoft Blog
• Search Engine Land

 

Daniel Beránek, 08.05.2023 21:00

 

 

 

	Jarní aktualizace ZPS X: AI úpravy fotek rychleji, chytřeji, přesněji Český software Zoner Photo Studio X přichází s jarní aktualizací, která posouvá hranice fotoeditace na novou úroveň. Díky pokročilým AI nástrojům a dalším inovacím je práce s fotografiemi rychlejší, preciznější...
	Mistral Small 3: malý, ale s velkými možnostmi Francouzští vývojáři Mistral, známí svou láskou k open-source, přichází s novým AI modelem Mistral Small 3. S 24 miliardami parametrů je sice menší než konkurenční obři, zato však nabízí rychlost, nízké...
	DeepSeek R1 a Qwen2.5-Max: přijde osvěžení AI z Číny? Nové AI modely DeepSeek R1 a Qwen2.5-Max představují dva odlišné přístupy k tréninku a provozním nárokům, které by mohly zásadně ovlivnit budoucí vývoj umělé inteligence. Zatímco DeepSeek R1 se profiluje jako model postavený na...
	Grok od xAI: první kroky v podobě samostatné aplikace Grok, umělý inteligentní asistent od společnosti xAI, udělal další krok na cestě k větší dostupnosti. Coby samostatná aplikace se šíří na další platformy. Co Grok nabídne, kde ho již můžeme vyzkoušet a co teprve přijde? ...