Війна роботів у Європі триває. З початком повномасштабної російської агресії проти України на території анексованого Криму активізувалися дослідження та роботи з теми практичного використання штучного інтелекту (ШІ) та нейромереж (НМ). За заявами місцевої російської влади, це робиться для спрощення та модернізації різних процесів життєдіяльності людини. А самі роботи зосереджені у російських вищих навчальних закладах Сімферополя та Севастополя – на науково-дослідних потужностях захоплених в Україні об’єктів.
На півострові основну увагу приділяють трьом напрямкам залучення ШІ, кожен з яких може мати подвійне, зокрема військове, призначення.
- Що таке ШІ та НМ?
- Де і як у Криму працюють над їх удосконаленням?
- Російський ГОСТ та ШІ: які правила діють?
- ШІ та розробка озброєння: цивільні вчені чи військові фахівці?
- Чи потрібні міжнародні стандарти і правила в галузі ШІ та НМ?
- Навіщо в ООН планують проведення засідання для врегулювання їх використання?
У цих та інших питаннях Крим.Реалії розбиралися разом з експертами.
Від машинного навчання до імітації людини
ШІ вже давно став невід’ємною частиною повсякденного життя: створено безліч автоматичних систем, які допомагають людині.
Однак з появою генеративного ШІ, здатного імітувати людські реакції, та його доступність для кожного, хто має комп’ютер, дискусії про машинне навчання та дотримання етичних норм вийшли на перший план. Коротко ознайомимося з основними поняттями цієї сфери:
Штучний інтелект – це здатність машин виконувати завдання, які зазвичай вимагають людського інтелекту, такі як візуальне сприйняття, розпізнавання мови, ухвалення рішень і мовний переклад; системи штучного інтелекту можуть аналізувати дані, навчатися на них і робити прогнози або ухвалювати рішення на основі цього навчання, що дозволяє машинам виконувати завдання з більшою точністю, швидкістю та ефективністю, ніж люди.
Нейролінгвістичне програмування (НЛП) – набір психологічних технік, які дозволяють впливати на думки та поведінку людей; йдеться про програмування людини за допомогою мови та невербальних сигналів: жестів, міміки, відтінків голосу.
Нейронні мережі – математичні моделі, що працюють за принципом людського мозку, навчаються шляхом первинного опрацювання великого набору даних, не вимагаючи написання окремого коду під конкретне завдання.
Глибоке навчання – підмножина машинного навчання, яка фокусується на імітації здатності людського мозку навчатися та обробляти інформацію; спирається на складну мережу взаємопов’язаних нейронів та їхню здатність автоматично адаптуватися і вдосконалюватися з часом.
Чи є у Криму власний ШІ?
У Криму технологіям штучного інтелекту, орієнтованим на розвиток та безпеку людини, приділяють велику увагу, про це заявляють російські вчені та влада анексованого півострова.
У створеному на базі захопленого українського вишу так званому «Кримському федеральному університеті ім. В.І. Вернадського» розроблено інтелектуальну систему контролю стану розвитку рослин у виноградарстві на основі комп’ютерного зору та із застосуванням цілодобового спостереження з FPV-дронів. Нібито ШІ застосовують там і на користь «громадського порядку» – для розпізнавання осіб, а також у медицині та для планування відпустки. Тут функціонує Центр ШІ. Аналогічний діє у Севастополі на базі російського «Севастопольського державного університету».
Крим.Реалії звернулися за коментарями до експерта Асоціації реінтеграції Криму, юриста-міжнародника Бориса Бабіна. За його інформацією, власних ресурсів для розробки відповідних технологій ШІ на півострові немає.
«Створені агресором організаційні структури на базі так званих «Кримського федерального університету» та «Севастопольського держуніверситету» вже стають майданчиками для впровадження технологій ШІ, які Росія може купувати в Китаї чи розвинутих країнах шляхом промислового шпигунства. Усі з названих у Криму напрямів використання ШІ можуть мати стосунок до військової сфери», – зазначив він.
Як повідомив Борис Бабін, до березня так званий «Центр штучного інтелекту та аналізу великих даних фізико-технічного інституту КФУ» працював без публічного оголошення своєї діяльності протягом кількох років.
«Вже у квітні окупанти поспішно та публічно заявили «заднім числом» про створення вказаного Центру. До такого кроку їх змусила зібрана експертами Асоціації та направлена до міжнародних організацій інформація, яка свідчила про проведення з позиції зазначеного Центру, який очолює Марина Руденко з Луганська, промислового шпигунства», – додав він.
На думку співрозмовника Крим.Реалії, активізувалася і співпраця кримських університетів із навчальними закладами незаконних структур «Л/ДНР» (терористичні організації, які контролюють частини Луганської та Донецької областей України – КР).
«За даними експертів Асоціації, для агресора важливо, щоб окуповані території демонстрували всіляку підтримку один одному. У межах такої роботи цього року російський «Донецький технічний університет» та створений Москвою «Севастопольський державний університет» підписали угоду про співпрацю: у сфері підготовки кадрів, а також проведення наукових досліджень щодо тем роботизації, штучного інтелекту, інформатизації. Матеріально-технічна база захопленого РФ «Донецького національного технічного університету» була досить потужною, і її, на жаль, не вдалося вивезти з окупованого Донецька до міста Покровськ, куди у 2014 році переїхав університет. І тепер ця база може слугувати окупаційній владі, зокрема в Криму», – розповів Борис Бабін.
Цивільні працюють над ШІ на користь військових
На сайті Міністерства оборони РФ наведено таке визначення: «ШІ у військовій справі – область досліджень, в межах якої розробляються моделі, системи та пристрої, що імітують інтелектуальну діяльність людини (сприйняття різної інформації та логічне мислення) у сфері збройної боротьби. Дослідження ведуться за трьома основними напрямами: створення систем, заснованих на знаннях; нейросистем; систем евристичного пошуку. У ракетних військах стратегічного призначення досягнення теорії використовуються під час створення одного з найперспективніших класів автоматизованих інформаційних систем військового призначення – систем підтримки ухвалення рішень посадових осіб, інтелектуальних систем і зразків озброєння різного призначення».
Українська консультантка у сфері цифрової безпеки Аліна Елевтерова, з якою розмовляв журналіст Крим.Реалії, висловила думку про те, що ШІ та НМ можуть бути використані на користь російських військових, а самі роботи в Криму організовані у вигляді паралельних досліджень.
«ШІ можна використовувати для аналізу та розпізнавання місцевості, обробки знімків, аналізу великих масивів даних, пошуку кореляцій, розпізнавання особи, дистанційного керування різними пристроями, оптимізації процесів, які зараз займають час. Основна мета такого використання ШІ – вивільнення додаткових ресурсів. Є безліч випадків, коли росіяни використовують ШІ-технології для інформаційної війни, це те, що ми з вами бачимо постійно: фейки та пропаганда в Тelegram, боти, які генерують відповіді залежно від заданих умов, дипфейки, які випускає їхнє телебачення. Звичайно, логічним є припущення, що ШІ вони також використовують і для військових цілей. Навряд чи вони просто прикриваються цивільними розробками для створення військових автоматичних систем із ШІ. Я думаю, це можуть бути два паралельні процеси. І їм, щоправда, ніхто не забороняє одночасно мати ШІ-додаток, який стежить за виноградом, і програми, які працюють на передовій», – зазначила експертка.
На думку Аліни Елевтерової, нейромережі є цілком доступним інструментом, оскільки багато розробників діляться алгоритмами їх створення, викладають у відкритий доступ код для побудови програм під певні запити.
«Так, діють санкції. Проте Росія має інших торговельних партнерів, насамперед, Китай. Розуміючи це, можна припустити, що їхні ШІ-технології продовжать розвиток і з часом імплементуються у військові процеси. Нейромережі можуть бути ефективним та небезпечним інструментом у руках ворога, це потрібно розуміти. Однак я вірю, що наше військове командування це знаєіа робить зі свого боку все можливе, щоб нівелювати можливу перевагу ворога», – зазначила вона.
Російські стандарти для ШІ та Глобальний цифровий договір ООН
Борис Бабін у свою чергу додав, що експерти Асоціації реінтеграції Криму беруть участь в онлайн-консультаціях на базі штаб-квартири ООН у Нью-Йорку в межах ініціативи Глобального цифрового договору ООН. Цей документ планується узгодити на Саміті майбутнього у вересні за допомогою технічних дискусій за участі всіх зацікавлених сторін: урядів, системи ООН, приватного сектора (включно з технологічними компаніями), громадянського суспільства, низових організацій, наукових кіл та приватних осіб, у тому числі молоді. Очікується, що Глобальний цифровий договір «визначить загальні принципи відкритого, вільного та безпечного цифрового майбутнього для всіх».
«Предметом особливої уваги експертів Асоціації стане розробка відповідних поправок до міжнародно-правових механізмів щодо актуальності викликів штучного інтелекту у воєнних умовах», – уточнив співрозмовник Крим.Реалії.
Росія вже зробила спробу «захопити» регулювання ШІ. 2021 року Москва запровадила національний стандарт «Системи штучного інтелекту. Класифікація систем штучного інтелекту», ГОСТ Р 59277-2020.
Текст стандарту було розроблено Всеросійським науково-дослідним інститутом сертифікації спільно з такою собі фірмою «Твпортал». Зазначений ГОСТ був затверджений та введений у дію наказом Федерального агентства з технічного регулювання і метрології від 23 грудня 2020 року № 1372-ст.
Метою вищевказаного стандарту є встановлення принципів класифікації систем штучного інтелекту, що необхідно для підвищення ефективності використання систем ШІ при вирішенні прикладних завдань, що дозволить зацікавленим сторонам вибирати належні рішення для їх додатків і порівнювати якість доступних рішень.
«Як експерти Асоціації повідомили в ООН, Кремль хоче взяти нейромережі під контроль та вручну розподіляти їх за «класами», щоб відсіяти ті, чия «якість» не відповідає «лінії правлячої партії». Також ДЕРЖСТАНДАРТ містить примітку, що «системи, що працюють в автономному режимі, підлягають обов’язковому контролю або нагляду з боку людини». І навряд чи ця приписка з’явилася через побоювання того, що штучний інтелект може захотіти поневолити населення Російської Федерації. Швидше за все, Кремль побоюється, що користувачі нейромереж зможуть отримати інформацію, яка суттєво відрізнятиметься від тієї, що транслює російське телебачення та зацензурований «рунет». Схоже, ми стаємо свідками перших спроб російського уряду взяти всі нейромережі і, в першу чергу, іноземні, під свій «чуйний контроль», – повідомив Борис Бабін.
Заступник директора департаменту інформаційних систем Міноборони РФ Микола Лішин бачить у використанні іноземних алгоритмів генеративного штучного інтелекту загрозу національній безпеці. Він заявляє, що зазначені алгоритми не «відтворюють об’єктних моделей знань», оскільки вони нібито мають «внутрішній зміст програмістів», які його створюють, в результаті нібито «світогляд» зазначених алгоритмів «збігається зі світоглядом жителів західних країн віком від 25 до 35 років».
В Україні розробляють та тестують технології управління безпілотниками за допомогою ШІ. У світі поки що Китай значно випереджає інші країни у винаходах генеративного ШІ. Про це свідчать дані, опубліковані ООН.
Роскомнагляд (Роскомнадзор) намагається заблокувати доступ до сайту Крим.Реалії . Безперешкодно читати Крим.Реалії можна за допомогою дзеркального сайту: https://dfs0qrmo00d6u.cloudfront.net. Також слідкуйте за основними подіями в Telegram , Instagram та Viber Крим.Реалії . Рекомендуємо встановити VPN .