Open AI stvorio novi tim koji procijenjuje rizike vještačke inteligencije
SAN FRANCISKO - Kalifornijska kompanija Open AI objavila je da je stvorila novi tim koji će biti zadužen za bezbjednost modela vještačke inteligencije (AI) i garantovati da oni ne predstavljaju prijetnju za čovječanstvo.
Tim stručnjaka nazvan "Pripravnost" (Prepadness) će predvoditi profesor Tehnološkog instituta u Masačusetsu (MIT) Aleksandar Madri, navodi se na veb stranici kalifornijske firme za razvoj AI.
Zadatak tima je da "prati, procijenjuje, predviđa i štiti od rizika" koji mogu da dovedu do globalne katastrofe zbog sve moćnijih modela vještačke inteligencije.
Ovo je treći OpenAI tim koji će biti odgovoran za to da proizvodi kompanije budu u skladu sa bezbjednosnim standardima.
Tim "Sistemi bezbjednosti" (Safety Systems) je fokusiran na spriječavanje zloupotreba postojećih proizvoda kao što je Čet Dži-Pi-Ti (Hcat GPT), a tim "Super usklađivanje" (Superalighment) razvija bezbjednosne standarde za buduće AI modele.
Pratite nas na našoj Facebook i Instagram stranici i Twitter nalogu.
