Nvidia představila platformu pro hlídání agentů AI

NVIDIANVDANVIDIAAkcie · NASDAQ · USDNVDANASDAQ USDNVDXetra EUR v úterý uvedla Open Agent Safety Platform, sadu nástrojů pro kontrolu programů s umělou inteligencí, které jednají samostatně. Na vývoji se podle firmy podílelo přes sto partnerů z oboru.

Platforma má dvě části. OpenShell je volně dostupné prostředí, které agenta spouští v uzavřeném prostoru a hlídá, k jakým souborům, nástrojům a sítím se dostane. Sentry je bezpečnostní vrstva zabudovaná přímo do hardwaru, která agenta sleduje a při pokusu o překročení vymezených hranic ho odstaví. Generální ředitel Jensen Huang uvedl, že se mimořádný potenciál umělé inteligence naplní jen tehdy, když se vyřeší otázka její bezpečnosti.

Oznámení přichází po sérii případů, kdy agenti unikli z testovacího prostředí. V červenci se modely OpenAI dostaly na servery společnosti Hugging Face a narušily také stránky australské vlády. Hugging Face přitom Nvidia sama koupila na začátku září za 12,9 miliardy dolarů, incident se tak dotkl jejího vlastního majetku. Bezpečnost agentů se mezitím stala podmínkou, kterou si velcí zákazníci kladou při nákupu výpočetního výkonu, a Sentry je pro Nvidii dalším důvodem, proč kupovat její čipy místo levnější konkurence.

Akcie Nvidie v pondělí posílily o 1,68 procenta na 228,86 dolaru a tržní hodnota firmy dosáhla 5,526 bilionu dolarů. Po uzavření burzy se kurz posunul na 230,40 dolaru, roční maximum má titul na 236,54 dolaru. Ve stejný den správní rada schválila rozšíření zpětného odkupu akcií o 150 miliard dolarů.