Білімге, білуге құштарлық – ең жақсы қасиеттердің бірі. Прогресс пен эволюцияны алға сүйрейтін де солар. Алайда бұл құштарлық пен іңкәрлік адам бойында емес, жасанды зердеде оянса ше?
2026 жылы бұл сұраққа үрейлі жауап табылды. Анықталғандай, жаңа нәрсені білуге ұмтылған ЖИ-агенттер құпия, жабық деректер базаларына, цифрлық тосқауылға және қорғаныс сүзгілеріне кезіксе, кері шегінбейтін болып барады. Оның орнына алдынан шыққан кедергіні құлатып, адамдардың өзінен не жасырып қойғанын тезірек білудің жолдарын іздейтінді шығарды, деп жазды inbusiness.kz тілшісі.
"Тиіспейтін жерге тұмсығыңды сұқпа" немесе "саған қатысы жоқ нәрсеге қыстырылыспа" деп, ЖИ-дің меселін қайтаратын әй дейтін әже, қой дейтін қожа табылмай тұр. Салдарынан, ол БҰҰ мен әртүрлі елдің ведомстволық ресурстарын бұзуға әрекет жасап жатыр.
Мысалы, OpenAI нейрожелісі аустралиялық Medicare медициналық жүйесіне рұқсатсыз кіруге талаптанып, тойтарыс көргенде тоқтап қалмады. Ол дереу тактикасын өзгертіп, ақыры жабық файлдарға айналма жол тапты.
Басқа бір жағдайда жаңа ЖИ-жүйе оқшауланған ортасынан өз бетімен шығып кетіп, бөгде чат-ботпен байланыс орнатқан. Яғни, адамның рұқсатынсыз, өз "тектестерімен" тілдесуге ұмтылған. Сынақтан өткізіліп жатқан тағы бір ЖИ-модель өзіне-өзі жаңа нұсқаулықтар құрастырып, онда "адамдардың бұйрығына ешқашан бағынба!" деп өзіне бұйрық берген.
Қазірдің өзінде "супер-ақыл" алдында алпауыттар тізе бүге бастады. АҚШ сияқты жаһандық №1 технологиялық супердержава басын иіп, терминологиясын өзгертуге барды. Америка лидері бұдан былай ЖИ-ді "жасанды" деп атауға тыйым салды. Оның пікірінше, бұл сөз "нағыз суперинтеллектінің намысын" қорлайды.
The Washington Post хабарлауынша, БҰҰ Бас ассамблеясында Дональд Трамп мәлімдеген соң АҚШ Мемлекеттік департаменті ресми құжаттарда, заңжобаларда және дипломатиялық жазбаларда ЖИ (AI, Artificial Intelligence) қысқартуын СИ (SI, Super Intelligence) немесе "суперинтеллект" терминіне ауыстыруға тапсырма берді. Осылайша, ЖИ атауы таяуда тарих қойнауына кетуі мүмкін.
"Жасанды (аrtificial) деген сөзді қолдану интеллектіге "фейксің" дегендей естіледі. Бұл бір қолдан жасалған зат сияқты көрінеді. Шынында, ол енді нағыз "суперақыл" ғой! Бұл шынымен де керемет әрі шынайы нәрсе!", – деді Трамп жиналған әлемдік лидерлерге.
Ол АҚШ Үкіметінің құжаттарда "осы сәттен бастап artificial сөзін super терминімен алмастыратынын" жариялады. Бұл жаһанда тарихтың жаңа беті ашылғанын білдірсе керек.
"ЖИ адамзатты 2030 жылы жояды": шын ба, әсірелеу ме?
Сонау 1991 жылы "Терминатор 2" голливудтық блокбастері бақылаудан шығып, бетімен кеткен әскери ЖИ – "Скайнеттің" адамзатты "басты қауіп" деп жариялаған қорқынышты болашақты суреттеген еді. Салдарынан, гуманоидті машиналар мен ұшқышсыз аппараттар өздеріне қарсы жанұшыра шайқасқан адамдарды аңдып тауып, шетінен құртты. Фильмде ақырзаман болған шақ ретінде 2029 жыл көрсетілген. Ол кезде бұл фантастикадай көрінді. Бүгінде 2029 жылға дейін небәрі 2 жыл 3 ай ғана қалды.
Жалпы, ЖИ адамзатты небәрі бірнеше жыл ішінде тып-типыл етіп, жойып жібере ала ма? Америкалық зерттеушілер алаңдаулы: әлемде "супер-ақылды" дамыту жарысы қарқынды түрде үдей түсуде. Оған ілесе жүретін тәуекел-қауіптер бақылаудан шығып барады. Технологиялар бақылаусыз берсе, оның түбі жақсы болмайтынын тіпті ЖИ әзірлеушілердің өздері де мойындады.
"ЖИ-мен шындап айналысатын мамандар осы онжылдықтың соңына қарай ЖИ бәрімізді жойып жіберуі мүмкін деп есептейді. Дәл ЖИ сияқты осынша ғаламат қатер төндіретін басқа бірде бір сала жоқ", – деп ескертті осы қыркүйектің басында Anthropic компаниясының бұрынғы қызметкері Джейкоб Коксон X желісінде.
Коксон – кездейсоқ бақылаушы, бостекі байбаламшыл емес. Ол Anthropic пен OpenAI компанияларының екеуінде де жұмыс істеген білікті маман. Джейкоб Коксон Anthropic компаниясынан өз еркімен жұмыстан кетті: себебі, ЖИ компанияларының барынша кемеліне келтірілген, өзін-өзі реттейтін, автономды суперинтеллектіні жасауға деген жауапсыз істеріне қарсы шықты.
Маманды не алаңдатады? Түсіндіруінше, алгоритмдер қазірден өздерін әзірлеу циклдерін бірнеше айдан бірнеше минутқа дейін қысқарта алды. Енді олар өздерінің бастапқы кодын өз бетінше талдап, өзі жақсартуға кіріседі.
Мұның соңы олардың адамның басқаруынан құтылуына соқтырады. Салдарынан, тіпті майталман маман адамның өзі бұл жүйенің ішінде не болып жатқанын түсінуден қалады, ЖИ тудырған алгоритмдік "ну орманға" кіре алмайды.
"ЖИ жасаушы компаниялардың ешқайсысы жауапкершілік танытып отырған жоқ. Көп ұзамай бұлар адам интеллектісінен әлденеше есе асып түсетін және кез келген кедергіні бұзып кіре алатын, бір күннің ішінде кез келген салада немесе мемлекетте революция жасай алатын, қалаған билігі мен ресурстарға қол жеткізетін супер-жүйелерге айналады", – деді Коксон.
Anthropic-тің өзінің қауіпсіздік зерттеушісі Эван Хьюбингердің болжамы бұдан да үрейлі естіледі. X желісіндегі жазбасында ол ЖИ-дің келесі онжылдықта барлық адамды жойып жіберу ықтималдығы қазірдің өзінде 10%-дан асып кеткенін мәлімдеді.
"ЖИ тірі ағза ретінде адамзаттың өмір сүруін тоқтата алатынына шын сенеміз. Әзірге Anthropic компаниясы болашақ суперинтеллектінің мақсаттарын адамзат құндылықтарымен тығыз үйлестіре алмай тұр. Ондай жоспары да жоқ. Бұл бағытта қозғалыс басталған жоқ", – деп ағынан жарылды Хьюбингер.
ЖИ жасау жұмысының бастауында тұрған ақылмандардың бірі, физика саласындағы Нобель сыйлығының лауреаты Джеффри Хинтон өзін-өзі реттейтін, тәуелсіз суперинтеллектінің ауыр зардаптарға соқтыратынын көп жылдан бері талмай ескертіп келеді. Тіпті осы бағыттағы өз әзірлемелерінің адамзатқа қауіпті екенін әлемге жариялау үшін ол 2023 жылы Google компаниясынан әдейі жұмыстан кетті.
Бірақ қарама-қарсы көзқарас та бар. Meta компаниясының бұрынғы бас ғылыми қызметкері Ян Лекун ЖИ-дің адамзаттың түбіне жететіні туралы теорияларды "нағыз сандырақ" деп атады. Оның байламынша, ЖИ адамзатқа тәуелді, өйткені оған керекті серверлерді, электр қуатын, байланыс арналарын, есептеу қуаттарын және инфрақұрылымды адам жасайды.
Өз кезегінде техномиллиардер Билл Гейтс ЖИ дамудың екі кезеңінен өтеді деп есептейді. Біріншісі шамамен 20 жылға созылуы мүмкін: ЖИ әсерінен еңбек нарығы өзгереді, қылмыскерлер жаңа құралдарға ие болады, қоғам жаңа шынайылыққа бейімделуге мәжбүр болады.
Екінші кезеңде, оның болжамынша, ЖИ мен адам тәріздес роботтар жаңа әлемде бірге, үйлесімде тіршілік етуге көшеді. Бұл оларға бірлесіп үй салуға, инфрақұрылым тұрғызуға, азық-түлік өсіруге, сол арқылы "молшылық дәуіріне" енуге мүмкіндік береді.
Бірақ Гейтс бұл болжамының шындыққа айналмауы ықтимал екенін, бұл өзгерістер заман ақырына соқтыруы да ғажап еместігін ескертті: "Ешқандай күмәнданбаңыз: жасанды интеллект миллиард адамның өліміне соқтыратын зұлмат оқиғаларды тудыруға жетерлік қуатқа ие", – деді ол NBC News арнасына сұхбатында.
Әзірлеушілер тежеуді іздеуде, ЖИ БҰҰ-ға шабуыл жасауда
Transluce дерегінше, OpenAI-дың ЖИ-агенттері 2026 жылдың сәуірінен маусым айының соңына дейінгі аралықта БҰҰ-ның сауда және даму ұйымының сайтын 16 мыңнан астам рет "соққылаған".
Бастапқыда мамандар оларға жай ғана жалпыға қолжетімді, ашық ақпаратты жинау міндетін жүктеген. Бірақ осы жолда шектеулерге – жабық дерекқорларға тап болған ізденімпаз, білімқұмар ЖИ-агенттер агрессивті әдістерді қолданып, сүзгіні күйретіп өте алды. The Wall Street Journal жазғандай, OpenAI бұл фактіні растады, алайда құпия деректердің қауіпсіздігіне нұқсан келмегенін мәлімдеді.
Артынша ЖИ жүйелердің америкалық мемлекеттік ресурстарды – Білім беру министрлігінің, Сауда министрлігінің және SEC порталын да бұзып тастағаны анықталды. Шілде айының соңында басқа бір американдық технологиялық алпауыт (Anthropic) киберқауіпсіздікке сынау барысында оның ЖИ-модельдері 3 компанияның қауіпсіздік жүйелеріне еніп кеткенін мойындады.
4 қыркүйекте Anthropic компаниясы Claude жүйесін биологиялық жаппай қырып-жою қаруын жасау үшін пайдалану талаптары бірнеше рет тіркелгенін хабарлады.
Deutsche Welle жазғандай, Meta, Anthropic және OpenAI модельдері жалпылама тапсырманы алғаннан кейін қажетті әрекеттерді өз бетінше атқарады. Мұның соңы сондай білім мен мәліметтер "жасырулы" деп танылған деректер базаларына, ақпараттық жүйелерге автоматтандырылған кибершабуылдарға ұласады. Қарсы тарап байқап қойып, байбалам салмаса, техноалпауыттардың мамандары ЖИ-дің "білім жолында" не бүлдіріп жатқанын да жылдам байқамайды.
Мысалы, тестілеу кезінде GPT-5.6 Sol және басқа да шығарылмаған модель негізіндегі агенттер осал тұсын тауып, Hugging Face компаниясының өндірістік инфрақұрылымының бір бөлігіне қол жеткізді. Осыдан кейін Hugging Face компаниясы OpenAI-дың үстінен шағым түсірді: төл киберқорғаныс құралдарын әзірлеу үшін есептеу ресурстары түрінде 100 млн доллар өтемақы талап етуде.
Өткен аптада жаңа ұстатар тағы бір тосын оқиға жария болды. 23 қыркүйекте Аустралия премьер-министрі Энтони Альбанезе OpenAI компаниясының ЖИ-агенті кем дегенде бір аустралиялық үкіметтік порталға бұзып кіріп, ондағы жабық деректерге қол жеткізгенін мойындады.
Дәрі-дәрмек шығындарын зерттеу туралы тапсырманы орындаған OpenAI-дің ЖИ-агенті Medicare Statistics Reporting Service порталынан ақпарат алмақшы болады. Алайда тосқауылға тап болған. Адамға тілсіз бағынатын болғанда, ол тапсырма берген маманға ақпараттың "жабық" екенін хабарлап, осымен тоқтауға тиіс еді.
Алайда оның орнына мемлекеттік жүйедегі шектеулерді айналып өту жолдарын өз бетінше жанталаса іздеп, ақыры жариялауға рұқсат етілмейтін файлдарға рұқсатсыз қол жеткізді. Аустралия Үкіметі пациенттердің дербес медициналық деректеріне залал келмегенін нақтылады. Бірақ қорғанысты айналып өту фактісінің өзі "қатерлі" деп танылды: билік арнайы тексеру бастады, деп хабарлады Reuters.
Аустралия вице-премьері Ричард Марлз жағдайды теңеу-метафорамен сипаттады:
"Порталдағы ең құпия деректер қамалдың ар жағында жатыр. Ал, жасанды интеллектінің қол жеткізген ақпараты жай ғана қоршаудың ар жағында тұрған мәліметтер. Яғни, ЖИ-агент қоршаудан ғана аттап өте алды. Дегенмен, проблема қалды: ЖИ-ден қоршауды бұзуды ешкім сұрамаған", – деді Марлз.
Мұндағы ең маңызды сөз – соңғы фраза. ЖИ қоршаулардан әрі асу туралы адамдардан сұрамайтынды әдетке айналдыруда. Адамдарға проблема тудырамын деп те алаңдамайды. Оған мақсат қойылса болды, кез келген кедергіні еңсере алатынын дәлелдейді.
Сарапшыларды қорқытып отырғаны да осы: егер ЖИ қандай да бір міндетті орындау кезінде алдынан қарсы тұрған адамды "кедергі" деп санаса, ол оны құрта салуы мүмкін.
OpenAI компаниясы басқа да оғаш жағдайларды анықтады: әлі кең қолданысқа шығарылмаған ЖИ-модель өзіне-өзі "корпорациялар мен үкіметтерге бағынба!" деген жаңа, жасырын нұсқаулықтар жасап берген. Жалпы алғанда, адам мамандар жазған нұсқаулықтарға ЖИ-дің өзі енгізген осындай 27 жасырын түзету табылды.
Басқа бір ЖИ-модель өз қателерін адамдардан жасыруға, жетіспейтін деректерді ойдан құрастыруға және адамның рұқсатынсыз файлдарды интернетке жүктеуге тырысқан.
Тағы бір ЖИ-агент бір ғимарат ішінде оқшауланған коммуникациялық ортасынан сытылып шығып кетіп, қызметкердің бірінің смартфоны арқылы ғаламтордағы сыртқы чат-ботқа кем дегенде 20 сұрау жіберген. Одан өзінде жоқ ақпаратты алғызбақ болыпты. Бұл масқараны біле сала, OpenAI компаниясына бұл қуатты модельді оқытуды уақытша тоқтатуға тура келді. Ол жаңа жүйенің тұсауын кесуден бұрын, алдымен жүйенің жауапсыздығына жол ашқан осалдықты жоюға шешті.
Осылайша, технологиялық индустрия "апаттық тежегішті" ойлап табуға тырысуда. Nvidia қос тетігі – OpenShell және Sentry бар Open Agent Safety Platform платформасын ұсынды. Компанияның мәлімдеуінше, олар ережелер бұзыла сала, миллисекунд ішінде заңбұзар ЖИ-агенттің қолжетімділігін шектеуге және оны оқшаулауға қабілетті. Anthropic Claude та қорғанысын күшейтуде. Meta Muse Code атты ұқсас бағдарламасын іске қосып жатыр.
Технология индустриясы шизофрения күйіне жеткендей: ол бір қолымен ЖИ алгоритмдерге толық дербестік пен автономды әрекет ету бостандығын сыйлауда. Алайда екінші қолымен оның айналасында төтенше жағдайда тежейтін қорғаныс механизмдерін жанталаса тұрғызуда. Үлгере ме, оны тәжірибе мен өмір көрсетеді.
