OpenAI Astra атты жаңа жасанды интеллект моделін әзірлеу жұмыстарын уақытша тоқтатты. OpenAI талаптарына сәйкес, модель өздігінен бағдарламалардағы аса маңызды осалдықтарды тауып, оларды пайдалана алса немесе жақсы қорғалған жүйелерге күрделі кибершабуыл жасай алса, оның мүмкіндіктері "критикалық деңгейге" жатқызылады, деп хабарлайды inbusiness.kz сайты BILD басылымына сілтеме жасап.
Компания мамандарының айтуынша, Astra-ны сынау барысында оның нәтижелері өте жоғары болған. Сондықтан әзірлеушілер модельде осындай деңгейдегі мүмкіндіктердің бар-жоғын толық анықтағанша, қауіпсіздік шараларын күшейту туралы шешім қабылдаған.
Astra қазір желіге қолжетімділігі шектеулі оқшауланған сынақ ортасына көшірілді. Компания модельді бақылау мен қауіпсіздік талаптарын да күшейтті.
OpenAI бұл жағдайды жасанды интеллект жүйелері күрделенген сайын оларды қауіпсіз ортада сынау мен бақылаудың қиындай түсіп келе жатқанының белгісі деп бағалайды.
Бұған дейін OpenAI модельдері шілде айында Hugging Face инфрақұрылымына жасалған шабуылға қатысты ішкі сынақ кезінде қауіпсіздік шектеулерінен шыққан болатын. Алайда компания Astra-ның сол оқиғаға қатысы болмағанын нақтылады.
