Жасанды интеллект дәуіріндегі жаңа қауіп қандай?
Технология әлемі көз ілеспес қарқынмен дамып келеді. Жасанды интеллект жыл соңына қарай адамның бақылауынсыз әрекет ете алады десек, сенесіз бе? Америкалық Anthropic компаниясы осындай қауіп туралы ескертіп отыр. Сарапшылардың сөзінше, жасанды интеллект алгоритмдері тұрмыстық техникаға өздігінен еніп, цифрлық вирустың жаңа түріне айналуы мүмкін. Ал мұндай жүйелерді залалсыздандыру оңайға соқпайды. Себебі оларды бір орталықтан өшіретін бірыңғай тетік жоқ, деп хабарлайды 24KZ.
Үйіңіздегі ақылды теледидар, тоңазытқыш немесе робот-шаңсорғыш кибершабуылдың құрбанына айналуы мүмкін. Anthropic компаниясының зерттеушілері жасанды интеллект интернетке қосылған құрылғыларға еніп, өздігінен таралуы мүмкін екенін ескертті. Олардың болжамынша, мұндай қауіп алдағы бірнеше айда туындауы мүмкін. Зерттеу барысында жасанды интеллектінің бір үлгісі сегіз түрлі құрылғының жұмысын өздігінен анықтап, оларға қажетті бағдарламаларды баптаған. Бұл жасанды интеллектінің әртүрлі құрылғыларға бейімделіп, қуатты есептеу орталықтарынсыз да жұмыс істей алатынын көрсетті.
«Қазір жасанды интеллект кибершабуылдың кей түрлерін өздігінен орындай алады. Бірақ толық шабуыл жасағанда әлі де қателеседі. Зерттеу барысында жасанды интеллектінің желідегі құрылғыларды тексеріп, олардың осал тұстарын таба алатыны анықталды. Сондай-ақ ол құрылғыға еніп, зиянды бағдарламаны іске қосуы мүмкін», – дейді Anthropic компаниясы.
Мамандардың пікірінше, технология одан әрі дамыса, мұндай жүйелер вирустың жаңа түріне айналуы мүмкін. Оларды анықтау және тоқтату қиын болады. Себебі мұндай жүйелер бір орталықтан басқарылмайды. Әсіресе қауіпсіздік жаңартулары сирек шығарылатын арзан құрылғыларға қауіп жоғары. Сондықтан мамандар смарт-құрылғылардың бағдарламаларын үнемі жаңартып, күрделі құпиясөз орнатуға кеңес береді.
Дарио Амодеи, Anthropic компаниясының бас директоры:
– Жасанды интеллект күшейген сайын, оның қауіпсіздігіне қойылатын талаптар да арта түседі. Сондықтан біз қорғаныс жүйелерін үнемі жетілдіріп отырамыз. Технологияның теріс мақсатта қолданылуына жол бермеу біз үшін маңызды. Қажет болса, жаңа өнімдерді шығаруды баяулатуға да дайынбыз. Себебі біз үшін ең бастысы – қауіпсіздік.
Түрлі қауіптерге қарамастан, ірі технологиялық компаниялар да жаңа жүйелерді жасап шығаруды доғарған жоқ. Meta компаниясы жақында Muse Wonder атты жаңа жасанды интеллект моделін таныстырды. Ол құқық, қаржы және денсаулық сақтау салаларындағы міндеттерді орындауға, сондай-ақ бейнеойындар мен түрлі бағдарламаларды әзірлеуге көмектеседі. Оны пайдалану үшін айына 20-дан 100 долларға дейін төлем жасау қажет.
«Біз Muse Wonder атты жаңа жасанды интеллект жүйесін әзірледік. Оның екі нұсқасы бар. Бірі күнделікті тапсырмаларды орындауға арналған. Екіншісі күрделі есептеулер жүргізеді. Жаңа жүйені кибершабуылдардан қорғау үшін қауіпсіздік шараларын күшейттік», – дейді Meta компаниясы.
Google да қалысар емес. Жақында компания Gemini 4 Argon атты жаңа жасанды интеллект үлгісін таныстырды. Ол графиктерді талдап, ұзақ бейнежазбаларды өңдей алады. Сондай-ақ бағдарламалардағы қауіпті ақауларды өздігінен тауып, түзетуге көмектеседі. Жаңа жүйе әзірлеушілер мен ірі компанияларға арналған.
Жасанды интеллект саласындағы жетекші ғалымдардың бірі Джеффри Хинтон да ақылды зердені бақыламаса, алдағы онжылдықта ЖИ адамзатты жойып жіберуі мүмкін екенін ашық айтқан еді. Бұл ескерту технологияның қауіпсіздігіне қатысты мәселелерді қайта көтерді. Технологиялық тартыс жүріп жатқан заманда жаһан жұрты жарысамыз деп жүріп, жасанды интеллектіні бақылаудан шығарып алмауы маңызды.
Авторы: Динара Қуандыққызы
