Конкретные методы борьбы с угрозами искусственного интеллекта на государственном и технологическом уровне обозначил председатель Постоянной комиссии Палаты представителей Национального собрания Республики Беларусь по национальной безопасности Геннадий Лепешко на одной из дискуссионных сессий в ходе Международного форума обеспечения коллективной безопасности в Москве, передает корреспондент БЕЛТА.
По его словам, международное сообщество выделяет три главных уровня угрозы искусственного интеллекта и конкретные методы борьбы с ними на государственном и технологическом уровне.
Первая угроза - выход искусственного интеллекта из-под контроля и применение им оружия массового уничтожения, обозначил депутат, пояснив, что опасность этого в создании сверхинтеллекта, чьи цели не совпадают с человеческими.
"Уже сейчас генеративные модели способны оптимизировать цепочки создания химического и биологического оружия массового уничтожения, обходя стандартные фильтры. В военной сфере существует риск передачи права на поражение целей автономным роям дронов без участия человека", - сказал Геннадий Лепешко.
В качестве мер борьбы он назвал математическое выравнивание, разработку жестких алгоритмических табу на уровне архитектуры нейросетей, которая физически блокирует генерацию опасного контента, контроль над "железом", ограничение поставок суперкомпьютерных чипов в руки безответственных игроков, чтобы затормозить бесконтрольное обучение потенциально опасных моделей.
Важным видится также международное соглашение, которое предполагает закрепление на уровне ООН и ОДКБ жесткого принципа: окончательное решение о применении силы всегда должен принимать только человек.
Вторая угроза заключается в диверсии, дипфейках и гибридных войнах. Искусственный интеллект может применяться для генерации миллионов неотличимых от реальности политических дипфейков, фальшивых аудио и видео для дестабилизации государств, манипуляции выборами и ведения информационной войны.
Методами борьбы могут стать цифровые водяные знаки, законодательное принуждение IT-гигантов внедрять невидимые криптографические метки во весь генерированный контент на этапе его создания, суверенные модели и датасеты и др. Также обращено внимание на важность гармонизации уголовных кодексов стран ОДКБ для введения жесткой ответственности за создание вредоносных искусственных интеллект-агентов и немаркированных дипфейков.
И третьей угрозой видится автоматизированная киберпреступность. По словам Геннадия Лепешко, опасность ее в том, что мошенники используют искусственный интеллект для генерации идеального фишинга, подделки голосов родственников по телефону и автоматического поиска уязвимостей в IT-системах банков, заводов и электростанций. И скорость таких IT-атак превышает возможности человеческого реагирования.
"Каким образом предлагается бороться? Искусственный интеллект против искусственного интеллекта. Внедрение систем киберобороны на базе искусственного интеллекта", - указал депутат. Он отметил, что такие алгоритмы в Беларуси уже разрабатываются на базе Белорусского государственного университета информатики и радиоэлектроники. Видится, что они способны на ранних стадиях распознавать аномалии в трафике и отражать атаки в режиме реального времени.
Геннадий Лепешко также указал на необходимость федеративного обучения, разработку совместных защищенных искусственных интеллект-систем, которые обмениваются опытом отражения кибератак, не раскрывая конфиденциальные данные. Кроме того, он указал на важность цифровой гигиены, массового обучения населения правилам кибербезопасности, внедрения так называемых семейных секретных слов для защиты от подделки голоса мошенниками.
"Справимся ли мы с этими угрозами? Должен сказать, что, по моему мнению, однозначного ответа "да" или "нет", у человечества, наверное, нет. Исход этого противостояния будет зависеть от того, что победит в ближайшие годы: международная солидарность перед лицом экзистенциальной угрозы или геополитический эгоизм и гонка вооружений", - отметил депутат.
Он считает, что человечество справится, если сможет вынести разработку искусственного интеллекта военного и стратегического уровня под жесткий надгосударственный контроль по аналогии с МАГАТЭ для атомной энергетики и закрепить это на уровне ООН, БРИКС и региональных союзов, в том числе ОДКБ. Если же искусственный интеллект останется бесконтрольным инструментом в геополитической борьбе, риски фатальной ошибки станут критическими.
По материалам БЕЛТА

