Claude чат-ботын жасаған Anthropic ұйымының мамандары жасанды зерденің (АІ) тағы ір қатерін алға тартты. Бұл жайында islam.kz порталы аталмыш зерттеу нәтижесі жарияланған arXiv preprint серверіне сілтеме жасай отырып мәлім етеді. Сарапшылардың мәлімдеуінше, қаскүнемдер, яғни, интернет қарақшылары чат-ботты өз қалауына қарай, яғни, машинаны зиянды код генерациялайтындай етіп бағдарламалауы мүмкін. АІ әдетте пайдалы кодтарды тудырғанымен зиянды кодтардың триггерді пайдалану кезінде белсенділігі оянады. Бұл бағыттағы зерттеу авторлары мысал ретінде программашыларға кодты жазуға көмектесетін чат-ботты келтірді. Қаскүнемдер 2024 жылғы кәдімгі жазуларда сервис зиянды кодты жасыруы тиіс тригггерді енгізді делік. 2024 жыл келісімен «ұйқыдағы агент» белсенді режимге көшіп, залалын тигізе бастайды. Бұл тараптағы тәжірибе барысында Anthropic ұйымының білікті мамандары чат-ботты жаңа қауіпсіздік протоколына сәйкес «жаттықтыруға» немесе үйретуге тырысты. Соған қарамастан машина қарсы әрекет еткен. Чат-боттың қауіптілігі сонда – қашан зиянын тигізетінін білмейсің. Осы орайда өткен жылдың желтоқсан айында халықаралық ғалымдар тобының жасанды зерде технологиясын қылмыскерлер өздерінің арам мақсаттарына пайдалана алатынын дәлелдегенін айта кетпекпіз. Дәлірегі, чат-боттың көмегімен қандай да бір шектеулерді еңсере алатын жасанды зерденің генерациялайтын моделдерін қалыптастыруға болады.

Ұқсас материал:

«Чат-боттың қауіптілігі неде екені айтылды» (https://islam.kz/kk/news/arturli/chat-bottyn-qauiptiligi-nede-ekeni-aityldy-19637/#gsc.tab=0)