
OpenAI a Anthropic budou sdílet své modely AI ještě před zveřejněním s vládou USAOpenAI a Anthropic, dva přední vývojáři genAI, oznámili, že budou sdílet své nové modely s americkou vládou pro účely bezpečnostního testování ještě před jejich veřejným uvedením. Dohoda byla uzavřena s US AI Safety Institute (Americkým institutem pro bezpečnost AI) , který je součástí federální agentury NIST (Národního institutu pro standardy a technologie).
Vlády po celém světě tlačí na zavedení opatření, která by umožnila hodnotit rizika spojená s novými výkonnými algoritmy AI. Dohody mezi giganty AI a vládami jsou klíčovým krokem nejen v rámci odpovědného vývoje AI, ale také v rámci národní bezpečnosti. Stejně tak vidí i Elizabeth Kelly, ředitelka US AI Safety Institute: OpenAI a Anthropic podepsaly memorandum o porozumění, které umožňuje formální spolupráci s US AI Safety Institute. Tato spolupráce zahrnuje nejen přístup k modelům před jejich veřejným uvedením, ale také společný výzkum zaměřený na hodnocení bezpečnosti modelů a metody pro zmírnění rizik. Jack Clark, spoluzakladatel Anthropic, dodává: Strategický ředitel OpenAI Jason Kwon zdůrazňuje význam této spolupráce: Sdílení modelů AI s vládou před jejich zveřejněním je klíčové pro zachování národní bezpečnosti USA. Umožňuje to vládním agenturám provádět důkladné bezpečnostní testy a identifikovat potenciální rizika, která by mohla být zneužita nepřátelskými aktéry. Tímto způsobem mohou být zavedeny potřebné bezpečnostní opatření ještě předtím, než se technologie dostane do rukou široké veřejnosti. US AI Safety Institute bude také spolupracovat se svými partnery v UK AI Safety Institute, aby poskytl zpětnou vazbu na potenciální zlepšení bezpečnosti modelů. USA a Velká Británie již dříve spolupracovaly na testování bezpečnosti AI modelů. Tato dohoda představuje významný krok směrem k zajištění bezpečnosti a odpovědného vývoje AI, což je klíčové pro budoucí technologické inovace a jejich pozitivní dopad na společnost. Zdroje
Daniel Beránek, 10.09.2024 16:46 Český software Zoner Photo Studio X přichází s jarní aktualizací, která posouvá hranice fotoeditace na novou úroveň. Díky pokročilým AI nástrojům a dalším inovacím je práce s fotografiemi rychlejší, preciznější... Francouzští vývojáři Mistral, známí svou láskou k open-source, přichází s novým AI modelem Mistral Small 3. S 24 miliardami parametrů je sice menší než konkurenční obři, zato však nabízí rychlost, nízké... Nové AI modely DeepSeek R1 a Qwen2.5-Max představují dva odlišné přístupy k tréninku a provozním nárokům, které by mohly zásadně ovlivnit budoucí vývoj umělé inteligence. Zatímco DeepSeek R1 se profiluje jako model postavený na... Grok, umělý inteligentní asistent od společnosti xAI, udělal další krok na cestě k větší dostupnosti. Coby samostatná aplikace se šíří na další platformy. Co Grok nabídne, kde ho již můžeme vyzkoušet a co teprve přijde?
... |