Чем настойчивее искусственный интеллект проникает в нашу жизнь, тем актуальнее звучит вопрос о регулировании этой сферы. Неоднократно описаны картины апокалипсиса, который накроет человечество ровно в тот момент, когда искусственный разум превзойдет человеческие когнитивные способности и выйдет из-под контроля. При всей фантастичности этой теории нельзя, однако, отрицать тот факт, что в пылу соперничества бигтехов за пальму первенства стандарты безопасности в сфере ИИ порой принимаются в спешке. И цена ошибки в результате сотрудничества человека с электронным мозгом становится очень высокой. На недавнем форуме «Защита персональных данных: от закона к доверию и безопасности» белорусские эксперты тоже затрагивали тему перспектив создания правового поля для ИИ. В частности, обсуждался поиск баланса между регулятивным механизмом и развитием прогрессивных технологий.
Виталий Хаменко.
По мнению главного советника информационно-аналитического управления Государственного секретариата Совета Безопасности Республики Беларусь Виталия Хаменко, вопросы регулирования сферы ИИ имеют ключевое значение. Уже сегодня, подчеркивает эксперт, утечка информации с помощью интеллектуальных систем носит лавинообразный характер. И во многом неуправляемый. Вместе с неоспоримыми преимуществами ИИ-технологии несут человечеству множество вызовов. В ряде случаев представители силовых органов научились им противодействовать. Но есть области, которые трудно поддаются контролю, в частности те, где цифровой разум становится орудием геополитической борьбы. Сегодня, отмечает эксперт, мы наблюдаем искусственную монополизацию рынка ИИ-технологий. По сути, развивает мысль Виталий Хаменко, это одно из проявлений неправомерных санкций отдельных стран в отношении суверенитета других государств. Такие «запрещенные приемы» усиливают технологическое неравенство в области цифровых технологий. И требуют выстраивания линии защиты.
В контексте национальной безопасности настораживает и масштабная милитаризация исследований, связанных с цифровыми системами. Использование таких технологий на поле боя, констатирует Виталий Хаменко, считается одним из преимуществ. Вооруженные конфликты превратились в испытательные полигоны для апробации новых форм ведения боевых действий. Кроме того, искусственный интеллект становится орудием манипуляций общественным мнением в информационных войнах. С помощью незаконного сбора и распространения персональных данных активно создаются дипфейки и осуществляются кибератаки нового поколения. На более высоком технологическом уровне разрабатываются сценарии «цветных революций».
Каждого из нас могут коснуться и социальные риски, связанные с проникновением ИИ в повседневную жизнь. Эксперт предлагает рассматривать вопрос исходя из принципа двух сторон медали. С одной стороны, с помощью цифровых алгоритмов врач может оперативно помочь больному. С другой — легко допустить непоправимую ошибку, отдав машине право постановки диагноза. Становясь элементом образовательного процесса, искусственный интеллект освобождает школьников и студентов от рутинных занятий и дает время для саморазвития. Вместе с тем привычка доверять искусственному разуму решение текущих задач чревата потерей способности к критическому мышлению.
Первые тревожные звоночки уже поступают. По данным международной аудиторско-консалтинговой корпорации (KPMG), проблема доверия искусственному интеллекту представляет собой серьезную угрозу. Уже сегодня 66 процентов пользователей ИИ-технологий полагаются на результаты ИИ, не оценивая их точность. И большинство из-за этого допускает ошибки в работе.
Сергей Касанин.
Точка зрения заместителя генерального директора по научной работе Объединенного института проблем информатики (ОИПИ) НАН Беларуси Сергея Касанина совпадает с мнением многих экспертов. Право не может оставаться безучастным к внедрению ИИ в общественные отношения. Институт активно проводит научные исследования в различных связанных с ИИ областях — от высокопроизводительных вычислений до робототехники и обработки изображений и сигналов. И является центром компетенций в данной сфере, в том числе и благодаря мониторингу зарубежного опыта. ОИПИ НАН Беларуси присоединился к кодексу этики в сфере искусственного интеллекта, является членом в международном альянсе БРИКС+AI, входит в межгосударственные и национальные технические комитеты по стандартизации в области искусственного интеллекта и цифрового развития. Столь широкое участие в многочисленных международных проектах позволяет экспертам института быть в курсе самых последних событий в мире ИИ.
В частности, анализ международного правового регулирования показывает, что страны в первую очередь ищут баланс между защитой интересов граждан и созданием благоприятной среды для разработчиков цифровых продуктов и инвесторов. Излишнее недоверие к ИИ-технологиям, предупреждает Сергей Касанин, может негативно сказаться на технологическом секторе. Между тем
Ключевые мировые тренды в области управления искусственным разумом включают усиление международной кооперации, приоритет этических принципов и обсуждение требований к маркировке ИИ-контента. С учетом данных тенденций Объединенный институт проблем информатики НАН Беларуси разработал модельный закон «О технологиях искусственного интеллекта», принятый Межпарламентской ассамблеей государств — участников СНГ. Этот документ стал ориентиром для стран Содружества. В Беларуси уже разрабатываются концепция использования и развития искусственного интеллекта и проект комплексного закона. Для подготовки этих документов в НАН Беларуси создана межведомственная рабочая группа из представителей 30 организаций. Задача разработчиков — взять из международного опыта лучшее и экстраполировать на национальную платформу с учетом собственных государственных интересов.
t.shchedrenok@mail.ru
Восстание машин: миф или реальность?
Искусственный интеллект может стать умнее человечества уже к 2031 году. Этот прогноз, данный на Всемирном экономическом форуме в Давосе, основывается на темпах прогрессирования интеллектуальных технологий. Речь идет о разработке второго поколения ИИ-систем, которые смогут приблизиться к пониманию реальности. Однако аналитики предупреждают: без поддержки общества ИИ-бум превратится в мыльный пузырь. Требуется некое социальное «разрешение» на дальнейшее распространение искусственного разума. Одобрение технологического рывка социумом зависит не только от осознания полезности внедряемых цифровых решений, но и от чувства защищенности людей от машин. Не превратится ли продукт технического прогресса в реальную угрозу?
Виталий Хаменко.
В контексте национальной безопасности настораживает и масштабная милитаризация исследований, связанных с цифровыми системами. Использование таких технологий на поле боя, констатирует Виталий Хаменко, считается одним из преимуществ. Вооруженные конфликты превратились в испытательные полигоны для апробации новых форм ведения боевых действий. Кроме того, искусственный интеллект становится орудием манипуляций общественным мнением в информационных войнах. С помощью незаконного сбора и распространения персональных данных активно создаются дипфейки и осуществляются кибератаки нового поколения. На более высоком технологическом уровне разрабатываются сценарии «цветных революций».
Каждого из нас могут коснуться и социальные риски, связанные с проникновением ИИ в повседневную жизнь. Эксперт предлагает рассматривать вопрос исходя из принципа двух сторон медали. С одной стороны, с помощью цифровых алгоритмов врач может оперативно помочь больному. С другой — легко допустить непоправимую ошибку, отдав машине право постановки диагноза. Становясь элементом образовательного процесса, искусственный интеллект освобождает школьников и студентов от рутинных занятий и дает время для саморазвития. Вместе с тем привычка доверять искусственному разуму решение текущих задач чревата потерей способности к критическому мышлению.
Первые тревожные звоночки уже поступают. По данным международной аудиторско-консалтинговой корпорации (KPMG), проблема доверия искусственному интеллекту представляет собой серьезную угрозу. Уже сегодня 66 процентов пользователей ИИ-технологий полагаются на результаты ИИ, не оценивая их точность. И большинство из-за этого допускает ошибки в работе.
Тонкая грань
Важно понимать, что ИИ не автономная среда и не субъект права. Это инструмент, который используется человеком. Предполагается, что в результате предстоящей законотворческой деятельности появится четкий ответ на актуальный вопрос. Где границы зон ответственности разработчика цифрового продукта, его владельца и пользователя? Одной из ключевых задач является стандартизация понятий, связанных с ИИ. Начиная с определения, что такое искусственный интеллект. Очевидно, настало время сформировать терминологическую базу и ввести сертификацию ИИ-решений. С учетом их функциональной и правовой безопасности. Запрос на создание понятных правил игры для искусственного разума в обществе уже созрел.
Сергей Касанин.
В частности, анализ международного правового регулирования показывает, что страны в первую очередь ищут баланс между защитой интересов граждан и созданием благоприятной среды для разработчиков цифровых продуктов и инвесторов. Излишнее недоверие к ИИ-технологиям, предупреждает Сергей Касанин, может негативно сказаться на технологическом секторе. Между тем
в международном сообществе существуют разные взгляды на вопрос регулирования сферы ИИ — от рискориентированного подхода ЕС до более гибких моделей ряда стран Азии и Евразийского региона. Например, есть вариант установления экспериментальных правовых режимов — «регуляторных песочниц».
Ключевые мировые тренды в области управления искусственным разумом включают усиление международной кооперации, приоритет этических принципов и обсуждение требований к маркировке ИИ-контента. С учетом данных тенденций Объединенный институт проблем информатики НАН Беларуси разработал модельный закон «О технологиях искусственного интеллекта», принятый Межпарламентской ассамблеей государств — участников СНГ. Этот документ стал ориентиром для стран Содружества. В Беларуси уже разрабатываются концепция использования и развития искусственного интеллекта и проект комплексного закона. Для подготовки этих документов в НАН Беларуси создана межведомственная рабочая группа из представителей 30 организаций. Задача разработчиков — взять из международного опыта лучшее и экстраполировать на национальную платформу с учетом собственных государственных интересов.
t.shchedrenok@mail.ru
