Эксперты обеспокоены новой тенденцией: в мире набирают популярность блогеры-«роботы», которые влияют на общественное мнение, сообщает ИА El.kz.
Как роботы меняют сознание
Сегодня в Астане продолжает свою работу Международный форум «TechnoWomen Central Asia AI Future», в рамках которого был проведен круглый стол «Искусственный интеллект: позитивные возможности и потенциальные риски».
Как отметила модератор мероприятия, председатель стратегического комитета НКО «TechnoWomen» CEO «Договор 24» Елена Седых, с развитием искусственного интеллекта получили распространение дипфейки.
«Сейчас всё больше и больше технологий развивается. То, что мы увидели в 2024 году, первое, уже с помощью фотографии искусственный интеллект может создать твоё видео. Второе, мы увидели технологию, когда голос просто моментально сразу же воспроизводится. И третья технология – это технология аватара, когда аватар повторяет полностью твои движения. Наложить это все, получается, что есть возможность, соединив эти три технологии, получить цифровой двойник человека. Сейчас можно, например, использовать это для того, чтобы развивать инфлюенсеров», — пояснила она.
Так, в мире появилось очень много несуществующих блогеров.
Например, в Испании блог ведёт искусственная девушка, которой де-факто не существует. Тем не менее, у неё есть множество фотографий и видео, где она «путешествовала». Её аккаунты собирают более 300 тысяч пользователей.
«Таким образом можно на самом деле создавать инфлюенсеров, которые влияют на общественное мнение», — подчеркнула она, задав вопрос вице-министру просвещения Арай Уразовой, как защищать людей от фейковых личностей, которые могут реально влиять на сознание.
На этот счёт представитель министерства просвещения отметила, что сегодня ведомство проводит большую работу по внедрению в государственно-образовательные стандарты понятия «искусственный интеллект», чтобы включить в школьную программу такое понятие.
«Мы планируем обучать преподавателей, в том числе, которые включают и этические нормы, и базовые понятия по применению искусственного интеллекта», — пояснила она.
Нужно ли регулировать сферу ИИ
Однако участников рынка, представителей IT-сферы, больше всего волнует не этический вопрос. Они против того, чтобы государство все регулировало и тормозило прогресс, мешая специалистам внедрять свои новые продукты.
Так, директор компании Cleverest Technologies Бауржан Оспан задал вопрос депутату Мажилиса Екатерине Смышляевой, зачем регуляторика нужна в области самой технологии, если в Казахстане, как и во всем мире, и так действует уголовное и административное право.
«Если убрать всю маркетинговую мишуру, можно предполагать, что искусственный интеллект – это всего лишь инструмент. Это может быть молоток, телевизор, это может быть какой-нибудь компьютер. И когда вы говорите о создании регуляторики по отношению к этой технологии, по сути дела, вы пытаетесь регулировать тот же самый молоток. ИИ можно использовать для того, чтобы генерировать непотребный контент, или проводить мошеннические вещи. Но ведь для них и так уже существует закон», — обратил внимание предприниматель.
По его словам, бизнес-сектор недоумевает, зачем заниматься регулированием технологии, которая ещё и даже особо и даже не зародилась в нашей стране. Он выступил с предложением быть адвокатом Искусственного интеллекта, на что депутат подчеркнула, что она не выступает в роли прокурора.
Депутат пояснила, что и у телевизора, и у молотка есть описательная инструкция, приняты ГОСТы. И поскольку это примитивные инструменты, закон для них не нужен, хотя на контент, который выдает телевизор, распространяются определенные правила и законы.
«Но что касается искусственного интеллекта, чуть сложнее дело обстоит. Два года назад я встречалась с разработчиками, и все говорили, не надо регулировать, все и так работает, сейчас вы влезете, все умрет. Но сегодня разработчики сами приходят и говорят, создайте для нас правое поле, мы не можем ничего внедрять, у нас все программы готовы, мы не можем получить равного доступа к данным», — отметила народная избранница.
Так, она привела в пример медицинские проекты – IT-компания намерена внедрить систему прогнозирования онкологических заболеваний, которую машина может предсказать с точностью 99%.
«Но не может внедрить сегодня здравоохранение в официальном, не в пилотном виде, этот продукт, потому что он заменит человекочасы, а это бюджетные деньги. Как просчитывается человекочасы и искусственный интеллект? Кто несёт ответственность за решение, которое он принял? Никто не против ИИ, никто не собирается сейчас гайки закручивать, но есть кейсы, которые на сегодняшний день имеют место быть», — пояснила Екатерина Смышляева.
Кроме того, учитывая, что в системе образования чат GPT справляется с написанием дипломных работ. И кто бы ни применял эту систему, потребители имеют право знать, создан ли этот продукт человеком или искусственным интеллектом.
В этой связи, уже сегодня такой вопрос возникает в системе уголовного права, расценивать ли в данном случае мошенничество как отдельный состав, или как отягчающее обстоятельство.
«Скорее всего, здесь нужно выбрать второе, потому что действительно ничего нового не происходит. Мошенничество – оно и в Африке мошенничество. Поэтому не думайте, что контекст будет карательно-регуляторно жестким. Просто наша задача сегодня – чуть-чуть коридор проложить правовой, чтобы это было безопасно, там, где задеваются права человека или потребителя, немножко подрегулировать. То есть не будет подхода регуляторного, который убьет все ваши технологии. Как использовали, так и будете использовать. А вы, если согласны работать, нам в этом поможете», — предложила депутат.
Какие изменения в сфере ИИ ожидаются в Казахстане
По словам вице-министра министерства цифрового развития и аэрокосмической промышленности (МЦРИАП) Аскара Жамбакина, у искусственного интеллекта две призмы.
«Первое – это система принятия решений, когда искусственный интеллект сам принимает решения, сам действует, те же самые машины, роботы и так далее. И второе – это система поддержки принятия решений. С точки зрения системы поддержки принятия решений, сейчас первые подвижки уже более-менее у нас пошли, совместно с Минздравом актуализируется нормативная база как раз-таки для того, чтобы технологии по выявлению, раннему диагностированию, выявлению паттернов по болезням уже могли применяться при диагностике», — пояснил он.
Он подчеркнул, что итоговое решение принимает врач, а ИИ лишь поддерживает принятие решений врачами. Аналогичный подход может применяться в образовании, и в других отраслях.
«С точки зрения проектов, институционально у нас законодательная основа сейчас разрабатывается, но понятно, что она будет достаточно рамочная, все равно, если брать по системе поддержки принятия решений, они будут уходить в правила в контексте конкретных отраслей. Как более программный документ, сейчас разработана концепция, на следующей неделе она будет представлена, в ближайшее время до конца месяца будет представлена экспертному сообществу, общественности для обсуждения, для сбора обратной связи, с последующим утверждением», — отметил вице-министр МЦРИАП.
Госорганы совместно с научным сообществом работают над национальной языковой моделью, используя и архивные данные, и исторические публикации, и СМИ, а также всю публицистику.
«Это все то, что поможет создать в дальнейшем языковую модель. С точки зрения данных, именно по государственным данным, сейчас более 90 баз данных у нас уже интегрированы. Мы применяем её для аналитики в контексте правительства, принятия решений самими госорганами, применяем для оказания проактивных услуг, и в течение года, у нас есть соответствующие поручения, и технологически мы готовы в течение года выставлять датасеты, необходимые для бизнеса», — пояснил Аскар Жамбакин.
Деперсонализированные данные по различным сферам будут предоставляться бизнесу для применения в своих моделей и разработки программ на принципах открытых данных.
«До конца года планируется запуск платформы искусственного интеллекта, которая как раз-таки будет иметь в себе весь этот набор датасетов, а также дарит возможность стартаперам загружать туда свои модели. Допустим, если это какая-нибудь ритейл-торговая организация, она может загрузить свои данные по оборотам, по товарным позициям, плюс взять данные, которые будут доступны из государственных баз данных, и построить какую-то модель. Соответственно, эта модель может дальше ими уже, как разработчиками, монетизироваться или использоваться в различных своих целях», — уточнил он.
Новые законодательные поправки обсуждаются в Мажилисе
В свою очередь, Екатерина Смышляева рассказала о работе над законопроектами, которые находятся в стенах парламента. В первую очередь, она подчеркнула, что число участников дискуссии по вопросам искусственного интеллекта будет всегда только расти, так как этот вопрос затрагивает представителей всех отраслей экономики.
«Так или иначе, эта технология коснется каждой организации, каждого бизнес-процесса, и просто даже тот, кто это отрицает или не хочет признавать, будет вынужден, наверное, дискутировать на эту тему», — подчеркнула она.
В мировой системе искусственного интеллекта саморегулирующие механизмы международной практики уже имеются. Приняты Концепции, стратегии, этические принципы, но они, как правило, действуют в национальных юрисдикциях. А документов международного мягкого права по искусственному интеллекту пока нет.
При этом в разных странах развитие искусственного интеллекта – на разных этапах.
«Саморегулирование как модель – это, конечно, очень хорошая вещь, но в том случае, если в целом в системе общественных отношений саморегулирование развито. Но начать развивать саморегулирование в обществе, где саморегулирование не признается как институт, достаточно сложно. В нашей стране, в нашем обществе саморегулирование на сегодняшний день – на этапе развития, будем так говорить. Мы видим первые модели там в более простых сферах, нежели искусственный интеллект. Поэтому я думаю, что, наверное, в перспективе, возможно, появится элемент, но он в любом случае будет регламентироваться законами, и статус саморегулируемой организации тоже даётся на уровне законодательства», — пояснила Екатерина Смышляева.
Законодательная работа в сфере ИИ в настоящее время ведётся в трёх направлениях.
«Первое направление – это, безусловно, повышение уровня информационной безопасности, защиты персональных данных в целом. То есть здесь мы должны признать, что интерес к данным, интерес к информсистемам с разными путями их добычи возрастает с развитием технологий искусственного интеллекта. Сама по себе программа – это ничто без массива данных. То есть это питание этой инновации, это перспективы инновации. Поэтому, понятно, интерес будет расти. И я ещё раз повторюсь, добывать данные можно разными путями. Можно их покупать, можно их получать бесплатно, а можно их воровать. Ну, про воровать – это как раз кибербезопасность и безопасность персональных данных. И здесь эта работа у нас системная», — уточнила депутат.
В Казахстане принимаются все новые регуляторные механизмы для расширения этой защиты, и правовое регулирование управления данными становится экономическим преимуществом.
«То есть данные – это возобновляемый ресурс, при правильной обработке и рациональном использовании, и последователь капитализации. Это может стать неплохим экономическим подспорьем, если уж говорить откровенно. Поэтому сегодняшний интерес к данным и сегодняшнее положение с данными тоже нуждается в регулировании. Сейчас проект закона «О данных» сейчас находится Мажилисе парламента, мы пересмотрели подходы к государственной статистике и подходы к работе с данными. Сейчас мы приступаем с МЦРИАП к блокам, связанным с регулированием вопросов облачных технологий, центров обработки данных, и непосредственно процессов классификации управления данными», — перечислила Екатерина Смышляева.
Она подчеркнула, что дискуссия идёт достаточно серьёзная.
«Наверное, без ошибок не обойдемся, но таков путь единого решения, наверное, универсального не существует. Это вот ещё одно направление. И третье направление, которое сейчас в работе находится – это вопрос регулирования непосредственно искусственного интеллекта, самой технологии. Мы сейчас остановились на позиции, что всё-таки у нас, наверное, для искусственного интеллекта должен быть отдельный регуляторный акт, потому что он, конечно, будет декларативно общего характера, с разработкой подзаконных актов», — пояснила она.
Принципы по контенту в законе об информатизации уже частично изложены, включая его определение, теперь законодателям предстоит дать правовой статус ресурса, который будет разрабатывать и обслуживать саму платформу искусственного интеллекта.
«Нам необходимо выстроить чёткие границы по контенту, по его производству и по маркировке, нам необходимо выстроить границы по ответственности разработчиков программ искусственного интеллекта, и ряд этических принципов, безусловно, нужен. Это направление, я думаю, что в самое ближайшее время мы уже соберемся и поговорим не в общем о проблемах искусственного интеллекта, а конкретно о законе или проекте закона об искусственном интеллекте», — призвала она экспертов.
В перспективе планируется рассматривать тему ИИ с точки зрения интеллектуальных прав.
«Есть один риск, что показал публичный кейс по суду над криптовалютным обменником. И тот уровень, на котором велась дискуссия на этом суде, показал одну очень интересную вещь: мы можем написать какие угодно законы, но если их некому будет администрировать, понимания на уровне администрирования не будет, или же некому будет рассматривать в судах, потому что понимания сути процесса там тоже не было от слова «совсем». Поэтому законы, какими бы хорошими они не были, работать не будут», — пояснила депутат.
Такие риски есть и в отношении искусственного интеллекта.
«Сущность этого организма не до конца понята даже его разработчиками. И в перспективе риски юридических споров по вопросам искусственного интеллекта в самое ближайшее время будут блистать компетентностью, объективностью и прозрачностью. Поэтому я думаю, что исходя из этих рисков, из этих предположений, в ближайшее время будут строиться регулирование. Пользуясь случаем, хочу пригласить экспертное сообщество к обсуждению и участию в рабочих группах, на рабочих совещаниях. Мы абсолютно здесь открыты, как мы, так и Министерство цифрового развития», — резюмировала депутат.
- Бектенов поручил запустить цифровой сервис по приёму заявок на возмещение ущерба от паводков
