ЖИ-ге байланған жүйе

Алгоритмдер бізді қалай билейді?

Интернеттегі алгоритмдердің жұмысы өте қарапайым: сізге не ұнаса, соған ұқсас дүниені алдыңызға қайта-қайта шығара береді. Байқасаңыз, қазір біз ақпаратты іздемейміз, ақпарат бізді өзі іздеп табады. Алгоритмдер не көретініңізді сіздің орныңызға шешіп береді. Қай видеода ұзақ отырдыңыз, неге лүпіл бастыңыз – бәрін байқап, соған ұқсас контентті алдыңызға тосады. Басында ыңғайлы сияқты көрінеді. Бірақ уақыт өте келе сіз өз қалауыңызбен емес, алгоритм не ұсынса, соны көретін адамға айналасыз. Таңдау еркіндігі бар сияқты, бірақ жоқ.

«Мәселе – тек технологияда емес. Не­гізгі қауіп – оның адам санасына қалай әсер ететінінде. Интернетте көріп жүрген жал­ған эмоция, қолдан жасалған бей­­не, ойдан шығарылған пікір біз­ді шатастырады. Біртіндеп ненің шын, ненің өтірік екенін ажырата алмай қа­ламыз. Бұл ақпараттың көптігінен емес, сол ақ­паратты бізге сұрыптап беретін алгоритм­дер­дің біржақтылығынан туын­дайды. Көп ұза­май біз сол ұсынылған дүние­лерге үйре­ніп кетеміз. Соларды ғана қалыпты деп қабылдаймыз. Уақыт өте келе көз­қарасымыз, ойлауымыз, тіпті сене­тін нәр­се­леріміз сол ЖИ берген ақпа­ратқа қарай өзгере бастайды. Сөйтіп жү­ріп өзі­міз де байқамай, алгоритм салып бер­­ген шеңбердің ішіне қамалып қала­мыз», дейді Қазақстанның ЖИ дамыту қа­уым­­да­с­ты­ғының вице-президенті Анар Төлеубаева.

Жасанды интеллект – адамның өзі жасап шығарған жүйе. Ол ештеңені ойлап таппайды. Оған не үйретсе, соны ғана біледі. Жасанды интеллект адам енгізген деректерді жинап, өз ережесін қалыптастырады. Бірақ бәрібір айналып келгенде адамнан алғанды өңдеп, қайта адамға береді. Сол себепті бұл жүйе – тұйық. Неғұрлым сапалы, нақты, дұрыс ақпарат берілсе, соғұрлым жүйе де пайдалы жұмыс істейді. Ал егер бастапқы дерек қате болса, нәтижесі де соған сай болады. Міне, мәселе осы жерде басталады. Жасанды интеллект қазір ең көп қолданылатын сала­ның бірі – медицина. Ал медицинада қате­лесуге болмайды. Әлем бойынша салаға жасанды интеллектіні енгізуге салынған инвестиция 1 триллион долларға жуықтап отыр. Күн сайын жаңа жүйе пайда болып, ауруды ерте анықтаудан бастап, емдеу тәсілін таңдауға дейінгі үдерістерге еніп жатыр. Әзірлеушілер мұндай жүйелердің мүмкіндігін асыра бағалап көрсетеді. Бірақ әрбір жаңа технология жетістіктен бұрын жауапкершілік. Сарапшылардың сөзінше, ЖИ-ге көзсіз сене беруге болмайды.

Бар мәселе адам құқығын бұзудан басталады

«Huawei» компаниясының сымсыз технологиялар өнімдері бойынша менеджері Дмитрий Рубцовтың айтуынша, жа­санды интеллект алдағы бес жылда адам өмі­ріне айтарлықтай өзгеріс әкеледі. «Енді жүргізушісіз таксилер, курьер-роботтар, ақылды қалалар мен түрлі салада жұмыс істейтін әмбебап роботтар өміріміздің қалыпты бөлігіне айналады. Бүгінде Қытайда сынақтан өтіп жатқан автономды көліктер мен роботтар жаһандық нарыққа жол тартпақ. Олар тек көлік немесе жеткізу қызметін емес, өндірістегі ауыр еңбекті, медицинадағы диагностика мен логистиканы да өз мойнына алады. Сонымен қатар 5G, Wi-Fi 7 технологияларының дамуы арқылы «ақылды қала» жүйелері, жол қозғалысы, коммуналдық қызметтер мен қауіпсіздік саласы толығымен автоматтандырылады. Біз роботтармен қатар өмір сүретін кезеңге жеттік. Олар тек тапсырма орындаушы емес, күнделікті серігімізге айналады. Мұны тоқтату мүмкін емес. Ең бастысы, адамзат жаңа цифрлық дәуірге бейімделіп үлгеруге тиіс», дейді ол.

Алайда Анар Төлеубаева жасанды интеллектіні өмірімізге енгізбес бұрын ең алдымен оның жауапкершілік мәселесін шешіп алу қажеттігін айтады. Өйткені оның шешім қабылдағанда неге сүйенетіні бізге беймәлім. Бұл құбылысты сарапшылар «қара жәшік» деп атайды. Яғни жүйе біз туралы барлық деректі біледі, бірақ нақты қандай негізде шешім қабылдағанын түсіндірмейді. Мысалы, сіз банкке несие алуға өтінім бердіңіз. Құжаттарыңыз түгел, табысыңыз жеткілікті. Бірақ банк өтініміңізді қабылдамай қояды. Себебі шешімді адам емес, жасанды интеллект қа­былдайды. Ол сіздің жынысыңызды, отба­сылық жағдайыңызды, тұрған жері­ңізді, өтінім берген құрылғыңызды да есепке алып, ішкі логикасымен «жоқ» деп шешім шығарады. Бірақ ол шешімнің неге солай болғанын ешкім түсіндіре алмайды. Бұл – адам құқығын бұзу.

Ал болашақты автономды таксилер, яғни жүр­гізушісіз робот-машиналар жол апа­тына ұшы­раса кім кінәлі болады? Жүр­­гізуші жоқ, шешімді ЖИ қа­былдайды. Сол сияқ­ты, егер сот барысы­на жа­санды ин­тел­лект ара­лас­са, алгоритм судья рө­лін атқарып, үкім шы­­ға­ра­тын болса, оның әділ­дігін кім бағалайды? Бұл – тек техно­логия­лық­ емес, эти­­­ка­лық әрі құ­қық­тық тұр­­­ғы­­­­дан өте күрделі сұ­рақ­тар.­ Сон­дық­тан Анар Төлеу­­баева жасанды интеллект өнім­­­­дерін сараптап, олар­дың шешім қабылдау тетігін шынайы бағалай ала­тын кәсіби сарап­шылар даяр­лау қажет дейді.

Шынайы сезім һәм технологиялық иллюзия

Әлеуметтік желілерде танымал тұлғалардың бейнелерін жанды етіп жасаған видеолар кең тарап жүр. Абайдың жымиған жүзі, Шо­қан­ның көзін жыпылықтатуы, Ыбы­рай­дың бас изеген сәті. Ә дегенде жүрек­ке жылы тиіп, өткенмен байланыс орна­ғандай әсер береді. Мұн­дай визуалды эф­фектілерді көргенде тарихи жадыңа жақындай түскендей күй кешесің. Алайда артынша бұл қан­ша­лықты этикаға сай деген сұрақ туады. Анар Төлеубаева кәсі­би сарапшы ретінде, егер бұл бейнеде эмо­циялық, мимикалық қимыл-қозғалыс ғана болса, ешкімге бұдан зиян жоқ. Ал егер ол жерде адамның даусы, жеке ерекшеліктері, құпияларына қатысты қосымша деректер болса, жағдай басқа дейді.

Бұл ғана емес қазіргі кезде жасанды интеллект көмегімен қайтыс болған адамның цифрлық егізін жасап, онымен сөйлесуге мүмкіндік беретін жүйелер пайда бола бастады. Мұндай чат-боттар адамның бұрынғы хаттарын, әлеуметтік желідегі жазбаларын, дауыстық хабарламалары мен бейнежазбаларын жинап, оларды тілдік модельге енгізу арқылы құрылады. Алгоритм осы деректер негізінде адамның сөйлеу мәнерін, сөз қолданысын, тіпті да­уыс ырғағын үлгі ретінде қабылдайды. Кейін бот қол­данушы қойған сұрақтарға марқұм сол сәтте не дер еді деген ықтималдылық­пен жауап бере­ді. Егер дауыс жазбалары бар болса, арнайы дауыс клоны арқылы бот марқұмның үні­мен сөйлей алады. Қайта тіріліп келген адам­мен сөйлесіп отырғандай күй кешу, сөзсіз, ерекше сезім тудырады. Алайда мұн­дай жүйе­лер адамның психологиясына кері әсер етеді.

Психолог Марина Романовскаяның айтуынша, қайғыны жеңудің кезеңдері болады. Әуелі қазаны қабылдау, кейін ішкі жарамен өмір сүруді үйрену, соңында мойынсыну. Ал марқұмның цифрлық көшірмесімен қайта-қайта сөйлесу бұл үдерісті тоқтатып, адамды «цифрлық елеске» байлап қоюы мүмкін. «Цифрлық көшірме – адамның сағынышын басатын құрал емес, керісінше, эмоционалдық тәуелділік тудыратын, адамды иллюзия әлемінде ұстап қалатын қауіп. Бұл – терапия емес, керісінше жүректегі ­жараны қайта тырнау», дейді психолог.

Кэмбридж университетінің профессоры, цифрлық этика саласының зерттеушісі Катаржина Новачек-Басиньска мұндай жүйелер таралмас бұрын үш негізгі та­лап­ сақталуы керек дейді. Біріншіден, марқұм тірі кезінде рұқсат беруге тиіс, екіншіден, оның отбасы бұл бастамаға толық келісуі керек, үшіншіден, кез келген платформада «бұл тірі адам емес» деген тұрақты ескерту көрсетілуі міндетті. «Тірі кезінде рұқсат бермеген адамның цифрлық бейнесін жасау – оның жеке шекарасына қол сұғу. Сонымен қатар қолданушы мен боттың араласу уақыты, тақырыптары да шектеліп, жүйе эмоционалдық қауіпсіздік нормаларын сақтауы керек. Себебі технология адамға қызмет етуі қажет, ал адамның санасы технологияның құрбанына айналмауға тиіс», дейді сарапшы маман.

Қазіргі уақытта мұндай технология кәсіби спортшылардың цифрлық егізін жа­сау­ға қолданылып жатыр. Мас­са­чусетс техно­логиялық институтының зерт­­теушілері Италия университетінің ма­ман­дары­мен бірлесе отырып, Олимпиада спорт­шылардың цифрлық егізін жасаған. Бұл цифр­лық көшірмелер спортшылардың дене қимылын миллисекундтық дәлдікпен жазып, қозғалыс динамикасын талдауға мүмкіндік береді. Зерттеу барысында 512 рет секундына өлшеу жүргізетін датчиктер спортшылардың әрбір бұлшықет қозғалысын, буын икемділігін, тепе-теңдігін және күш қолдану траектория­сын нақты тіркеп отырған. Осылайша, жасалған цифрлық егіздер жаттығу барысын оңтайландырып, жарақат алу қаупін азайтуға және техника дәлдігін арттыруға көмектескен. Қазірдің өзінде АҚШ-та жүзден астам кәсіби спортшының цифрлық егізі арнайы базаға енгізілген.

Сонымен қатар жасанды интеллект енді жалғыздықтан құтқаратын «виртуал жарға» да айналып отыр. Алгоритм сыпайы, ақылды, әрдайым қолдау көрсе­тетін мін­сіз серік жасайды. Бірақ бұл серік тірі адам емес, еш­­­қашан қарсы келмейді де, рен­жі­мейді де. «Адам осындай жасанды жайлылыққа үйреніп, күрделі эмоция­дан, шынайы байланыстан қашқақтай бас­тайды, бұл «эмоциялық роботизация» деп аталады. Нәтижесінде, жалғыздық пен тәуелділік күшейіп, қоғамның ада­ми болмысы әлсірейді. Алгоритм сезім­дерді имитациялағанымен, жан, жүрек, сүйіс­пеншілік, түсініспеушілік арқылы қалып­тасатын терең қатынас құра алмайды. Егер біз осы шекараны ұмытсақ, шынайы сезімді технологиялық иллюзияға айырбастап аламыз», дейді психолог М.Романовская.