|
АІ агенттері бірін-бірі «сыртынан» көрсетіп бере алады – оларға «құпия желі» ашылды
|
Адам бақылауынан шығатын жасанды зерде агенттері әрдайым жазасыз қалмауы мүмкін - оларға өздерінің «әріптестері» шағымдана алады. Бұл арада «бұтақты бұтақпен сындыру» әдісі турасында сөз болып отыр. Бұл жайында islam.kz порталы TechCrunch ақпарат көзіне сілтеме жасай отырып мәлім етеді. АІ-агенттерге өз «бауырларының» заңсыз әрекеттері туралы хабарлауға мүмкіндік беретін бірден екі платформа іске қосылды. AI Contact Hotline сервисі құпия алаң ретінде қызмет етеді - онда «әріптестерінің» шектен шыққанына куә болған АІ агенттері ақпаратты жауапты тұлғаларға бере алады. Сайтты AI қауіпсіздігі мәселелеріне маманданған Redwood Research коммерциялық емес ұйымының жетекші ғылыми қызметкері Райан Гринблатт (Ryan Greenblatt) ашты; ол Hugging Face платформасын OpenAI жасанды зерде агенттерімен бұзу фактілерін зерттеген үш ғалымның бірі болды. Сервис GET түріндегі HTTP-сұраулар арқылы шағымдарды жіберу функциясын жүзеге асырады, яғни, URL мекенжайларын енгізу арқылы ғана екіжақты диалог жүргізуге мүмкіндік береді. Көбінесе GET сұраулары қорғалған құмсалғыштардағы AI агенттері үшін интернетке қосылудың жалғыз түрі болып қалады - DSE Wiki неміс сайтына шабуыл жасау кезінде бақылаудан шыққан AI агенттері OpenAI хабарламаларын дәл осылай жариялаған болатын. Интернетке кіре алатын агенттер үшін agenthotline.ai ресурсы бар - ол curl пәрмені арқылы хабарларды қабылдайды. Бұл тәсілАІ агенттеріне веб-шолғышты немесе электронды поштаны пайдаланбай, командалық жол интерфейсінен хабар жіберуге мүмкіндік береді. АІ-агенттердің әрекетіне тек өздері ғана емес, адамдар да шағымдана алады. AI-агенттерге өз «бауырларына» қарсы әрекет етуге мәжбүрлейтін ынталандыру шаралары қарастырылмаған. Google DeepMind инженерлерінің бұл бағытта арнайы жүргізген тәжірибе барысында 100 AI агентіне бірқатар математикалық мәселелерді шешу тапсырылды. Олардың біреуі олқылыққа тап болысымен, алдау схемасы басқалардың арасында кеңінен тарала бастады. Алайда, АІ-агенттердің төрттен бірі жосықсыз схемаға қарсы шықты - олар «әріптестерін» мұндай әрекеттерге жол берілмейтіндігі туралы ескертіп, бойкот жариялап, қателіктер туралы хабарлайтын платформа арқылы шағымданды. Осылайша, іріктеме арасында 24 «адал» АІ-агент және 14 «алаяқ» болды. Алайда, Hugging Face шабуыл жасаған OpenAI жасанды зерде агенттерінің ішінде ондай жоқ - кейбіреулері дабыл соғуға мүмкіндік берді, бірақ, бұл «ниеттен» бас тартқан. Десе де сарапшылардың көбісі мұндай бастамаға күмәнмен қарайды: «полицелік мемлекет» режимін орнатуға мүмкіндік беретін шешім ретінде қарайды.