Жасанды зерде нақты адамдардың іс-әрекеті мен мінез-құлқын дәлме-дәл қайталай алатындықтан әлеуметтік желі пайдаланушылары шынайы мен жалғанын ажырата алудан қалып барады. Бұл жайында islam.kz порталы inbox.eu ақпарат көзіне сілтеме жасай отырып мәлім етеді. Бүгінде технология чат-бот аясынан шығып, ықпал етудің аса қуатты құралына айналып барады. Бұл арада нақты адамдардың іс-әрекеті мен мінез-құлқын жаппай имитациялап, қоғамдық пікірді қалыптастыра алатын, өзге де қитұрқылықтарға бараа алатын “АІ-үйірі” деп аталатын дербес жүйелер турасында сөз болып отыр.

Цифрлы сыңарлардың шабуылы

Ғалымдар бұқаралық сананы манипуляциялау үшін үлкен тілдік моделдер мен дербес агенттердің мүмкіндіктерін талдады. Басты қатер - AI-боттардың үйлестірілген топтары, олар онлайн-қауымдастықтарға еніп, даулы мәселелер бойынша кең консенсус иллюзиясын тудырады. Бұл «цифрлық азаматтар» өздерін әлеуметтік желілердегі тірі адамдардан ажырата алмайтынын білгендіктен өздерін  соншалықты табиғи әрі еркін ұстайды. Бұл тараптағы статистика қауіп ауқымын растайды: егер 2017 жылы әлеуметтік желілерде ұйымдастырылған манипуляциялар 28 елде тіркелсе, бүгінде олардың саны 70-ке жетті. Әдістер барған сайын жетілдіріліп келеді, ал олардың тиімділігі бірқатар мемлекеттердегі сайлау науқаны барысында дәлелденді.

Автономия және жасырын ену

Өткен шақта қалған қарапайым боттардан айырмашылығы - қазіргі заманғы АІ жүйелері дербес жұмыс істеуге қабілетті. Олар өздерінің іс-қимылдарын өздері үйлестіреді, неғұрлым осал қауымдастықтарды таңдайды және оларға жоспарлы түрде қажетті нарративті енгізеді. Бұл манипуляторларға, яғни, өз мүддесі үшін түрлі айла-шарғыға баратындарға жалған ақпарат таратып қана қоймай, әлеуметтік күн тәртібін ішінен қайта жазуға мүмкіндік береді. Мұндай жүйелерді реттеу ісі заң тұрғысынан да, этикалық тұрғыдан да тұйыққа тіреліп отыр. Заңгерлер әлі күнге дейін АІ-боттардың қызметін шектеуге бола ма және олардың «үні” заңмен қорғалған сөз бостандығына сай ма деген сауал төңірегіндегі пікірталас әлі толастаған емес.

Манипуляцияға арналған іргетас

Ғалымдардың атап өтуінше, қазіргі сенім дағдарысына жылдар бойы мәліметтерді жинау мен алгоритмдердің дамуы арқылы жол ашылған. Бүгінде демократиялық институттар өнеркәсіптік ауқымда жалған қоғамдық сұраныс тудыратын технологиялар алдында дәрменсіз болып шықты. Цифрлық кеңістікте жекелеген тұлғаларды верификациялаудың (шынайылығын тексерудің) жаңа әдістерін енгізбей тұрып, демократияны қорғау іс жүзінде мүмкін емес міндетке айналатыны анық.