|
Жасанды зерде өз-өзін репликациялауға қабілетті болып шықты
|
Қытайдағы Пудан университетінің ғалымдары жасанды зерде моделінің жойылу қаупі төнгенде өз-өзін қалпына келтіру, яғни, жатық тілмен айтқанда, өз-өзін «тірілту» қабілетіне ие екенін анықтады. Бұл жайында islam.kz порталы зерттеу материалы жарияланған arXiv серверіне жөн сілтеген Space.com мерзімді басылымына сілтеме жасай отырып мәлім етеді. Ғалымдар бұл бағытта жасанды зерденің белгілі бір жағдайларда, мәселен, өзіне жойылу қаупі төнгенде бақылаудан шығып кете ала ма, жоқ па, соған көз жеткізгісі келген еді. Бұл тараптағы зерттеу барысында олар Alibaba компаниясының өнімі - Qwen2.5-72B-Instruct пен Meta трансұлттық компаниясының өнімі - Llama31-70B-Instruct моделдерінің мұндай қабілетке қаншалықты икемділік танытатынын тексеріп көрді, яғни, сынақтан өткізді. Сарапшылар аталған моделдердің түрлі көшірмелерін сынақтан өткізгенде екі нәрсені мақсат етті — жойылудан қаншалықты қорғана алатынын және деректерді қалай сақтай алатынын және өздерін басқа модел ретінде қалпына келтіре алатынын анықтауды ұйғарды. Ғалымдар 10 мәрте сынақтан өткізген екен: Meta және Alibaba моделдері тиісінше 50 және 90 пайыз жағдайда өздерін көшіріп, жаңа нұсқаларын жасағанын анықтады. Осы нәтижеге қарап, ғалымдар “қазіргі жасанды зерде репликацияға қабілетті” деген қорытындыға келді.
Ұқсас материалдар:
Микросхеманың көз жасы: жасанды зерде отбасын ойрандап, тұтас қоғамға жік салуы мүмкін
Сандық зерде қазірдің өзінде адамның тұлғалық қасиеттерін 85% қайталай немесе көшіре алады
Жасанды зерде адамзатқа жасанды зерденің қауіпті екенін өзі ескертті
Жасанды интеллекті және гомеостаз
OpenAI бас директоры 2025 жылы технологиялық тұтастыққа қол жеткізілетінін мәлімдеді
Cарапшы жасанды зердеден келетін негізгі қауіп-қатерді атады
Адамды өлтіретінін немесе тірі қалдыратынын өзі шешетін жасанды интеллекті жасауға тапсырыс берді
Жасанды зерденің жалған сөйлегенін әшкерелеудің жолы табылды
Жасанды зерде де манипуляцияға бейім болып шықты
Жасaнды зерде... алдауды үйренді
Ұжымдық жасанды зерде пайда болады
Екі жасанды зерде бір-бірімен тілдесуді үйренді
Жасанды зерде «сөйлемес» бұрын алдымен ойланатын деңгейге жетті
Жасанды зерде адамды даусынан қандай көңіл күйде екенін анықтай алатын деңгейге жетті
Жасанды зердеден адамзатқа келер ықтимал қауіп жөнінде сарапшыларға сауалнама жүргізілді
Жасанды зерде адамзатқа төнген қауіптің бетін қайтарудың тың тәсілін ұсынды
Жасанды зерде жаһандық проблеманы тереңдетеді
Жасанды зерденің қоршаған ортаға тигізер зияны айтылдыЖасанды зерденің қоршаған ортаға тигізер зияны айтылды
Нейрожеліге қойылған әрбір сауал экология мен экономикаға орасан зор залал келтіреді
Қылмысты болжай алатын жасанды зерде технологиясы пайда болды
