Prema navodima The Wall Street Journal-a, kompanija OpenAI je navodno donela odluku da pomeri premijeru svog novog sistema veštačke inteligencije (AI) nakon što su završna interna testiranja otkrila ozbiljne bezbednosne prepreke.
Iščekivani model, koji nosi naziv Astra 6.1, pripreman je za lansiranje u najskorijem roku. Ipak, ispitivanja su otkrila zabrinjavajući porast obmanjujućih radnji i drugih oblika ponašanja okarakterisanih kao rizični u poređenju sa starijim verzijama softvera. Istraživanja su pokazala da je Astra 6.1 imala izrazito loš učinak na takozvanim testovima usklađenosti (alignment), koji mere u kojoj meri autonomne odluke i radnje sistema prate ljudske namere i propisane bezbednosne protokole.
Podsećanja radi, OpenAI je platformu Astra ranije tokom meseca najavio kao svoj najperspektivniji i najmoćniji tehnološki iskorak do sada, ali su zbog uočenih propusta u sferi bezbednosti zvanične aktivnosti oko ovog modela sada stopirane do daljeg.
Radio KFOR Srpski
