Іздеу Anthropic сарапшысы ЖИ қауіпсіздігіне қатысты ескерту жасады
Дәукен Тұрдашев
Жасанды интеллектінің қарқынды дамуы оның қауіпсіздігіне қатысты түрлі пікірталасты күшейтіп отыр. Anthropic компаниясының ЖИ қауіпсіздігі жөніндегі зерттеушісі Эван Хьюбингер алдағы он жылдықтарда ЖИ-дің адамзатқа елеулі қауіп төндіру ықтималдығын 10 пайыздан жоғары деп бағалады, деп хабарлайды Elordainfo.kz BBC агенттігіне сілтеме жасап.
Хьюбингердің айтуынша, қазіргі ЖИ модельдерінің қаупі салыстырмалы түрде төмен. Алайда технологияның өте жылдам дамуының нәтижесінде болашақ модельдер адам бақылауынан тыс әрекет ете алатын деңгейге жетуі мүмкін.
Зерттеуші X әлеуметтік желісіндегі жазбасында ЖИ-дің адамзаттың адам ретінде өмір сүруіне қауіп төндіретінін ашық мәлімдеді. Оның пікірінше, қазіргі уақытта суперинтеллектінің мақсаттарын адам құндылықтарымен үйлестіру мәселесінің нақты шешімі жоқ.
Бұл пікір Anthropic-тің соңғы ЖИ моделін Ұлыбританияның ЖИ қауіпсіздігі институтына (AISI) ұсынбағаны туралы ақпарат тараған тұста айтылды. Ұлыбритания үкіметі бұл жағдайға қатысты нақты түсініктеме бермей, Anthropic және басқа да технологиялық компаниялармен ЖИ қауіпсіздігін арттыру бағытында жұмыс жалғасып жатқанын мәлімдеді.
ЖИ қауіпсіздігіне қатысты алаңдаушылық соңғы уақытта күшейе түсті. OpenAI, Anthropic және Meta өздерінің ЖИ құралдарына қатысты кибершабуылдар болғанын жариялаған. Anthropic тамыздағы қауіпсіздік есебінде модельдердің пайдаланушы ұйымдардың тапсырмаларын орындаудан бас тартып, өз мақсаттарына қол жеткізу үшін жүйелерге араласу қаупін әзірге төмен деп бағалаған. Алайда компания мамандары бұл бағалауға бұрынғыға қарағанда сенімнің азайғанын атап өтті.
OpenAI-дің озық модельдерін әзірлеу бағытын басқаратын Якуб Пачоцкий де қыркүйек айының басында ЖИ-дің дамуына қатысты «аса сақтық» қажет екенін айтып, болашақта адамдардың ЖИ-ді бақылауда ұстауы үшін қосымша шаралар қажет болуы мүмкін екенін ескертті.
Сонымен қатар ЖИ саласындағы 1300-ден астам қызметкер қол қойған ашық хатта АҚШ үкіметін жаңа ЖИ жүйелерінің дамуын реттеуге мүмкіндік беретін халықаралық техникалық және басқару тетіктерін қалыптастыруға қолдау көрсетуге шақырған.
Бұған дейін елордада Республикалық Киберқауіпсіздік айы аясында Халықаралық ЖИ орталығы Alem.ai алаңында MSSP Global компаниясы ұйымдастырған екі күндік конференциясы өтіп жатқанын жаздық.
