ИИ будет жить по Кодексу

Проект Национального кодекса проходит стадию экспертных обсуждений с участием представителей разработчиков проекта, бизнеса и государственной власти. Аналитический центр при Правительстве РФ направил письма в Совет Федерации Федерального Собрания РФ с предложением организовать обсуждение проекта кодекса на площадке Совета Федерации, на что получил ответ до 13 сентября направить предложения по доработке проекта Кодекса. Проект Национального кодекса этики (есть в распоряжении ComNews) содержит новое понятие – системы искусственного интеллекта (СИИ). Кодекс устанавливает общие принципы и стандарты поведения, которыми могут руководствоваться акторы в сфере искусственного интеллекта в своей деятельности, и носит рекомендательный характер. Управляющий директор Центра регулирования AI Сбера Андрей Незнамов рассказал корреспонденту ComNews, что проект национального кодекса разрабатывается на площадке Альянса в сфере искусственного интеллекта с участием представителей Сбера и других его членов, а также при участии Минэкономики и Аналитического центра при Правительстве РФ. "Задача кодекса - суммировать общие представления об этике в сфере искусственного интеллекта. В ближайший месяц документ будет обсуждаться на различных площадках", - добавил он. Генеральный директор АНО "ПравоРоботов" Никита Куликов отметил, что о необходимости появления такого рода документа именно сейчас спорить не приходится, ведь, как в нем отмечено, данный Кодекс направлен на достижение целей, предусмотренных Национальной стратегией развития искусственного интеллекта до 2030 г. "Ознакомившись с содержанием кодекса, можно выделить два основных тезиса. Первый интересен тем, что на смену ИИ (искусственный интеллект) пришел термин СИИ (система искусственного интеллекта). И второй, который можно охарактеризовать как "за все хорошее и против всего плохого". Собственно, именно на этих двух основных моментах и построен весь документ, - отмечает Никита Куликов. - Но другой концепции в данный момент и быть не может – для того чтобы что-то регламентировать, надо это что-то построить, а учитывая, что технология ИИ только формируется, то каким-то образом регламентировать и регулировать ее будет возможно только после ее условной каталогизации, когда будет понятно, какой тип ИИ в какой отрасли можно разрабатывать, что ИИ сможет сделать (позитивное и негативное влияние), и с чем может столкнуться человек в рамках такого применения ИИ, а все остальное будет являться только предположением. До этого момента все подобного рода документы будут оставаться приблизительными и тестовыми, и не смогут претендовать на какую бы то ни было фундаментальность. Собственно, что и признают сами его авторы, которые чуть ли не первой строкой обозначают, что все положения Кодекса этики ИИ "носят рекомендательный характер и применяются на добровольной основе". И именно поэтому можно ожидать, что судьба данного Кодекса этики ИИ может быть такой же, как и у Кодекса этики использования данных, который долгое время разрабатывался, был подписан ключевыми компаниями в рамках Недели российского интернета (RIW 2019), но после этого никакого упоминания о его использовании не последовало. Собственно, если это не прямая регламентирующая норма, а только рекомендация, говорить о каком бы то ни было влиянии на отрасль не приходится". Директор департамента сбора, хранения и анализа данных компании "ВС Лаб" Иван Барчук согласен: разработка подобного кодекса была вопросом времени. "Сейчас самое время для подобной инициативы. С одной стороны технологии уже позволяют многое сделать, с другой стороны практическое применение совсем массовым пока еще не стало. Поэтому пока не поздно заложить задел на будущее. Великий фантаст Айзек Азимов в 1942 г. сформулировал три закона робототехники (самый известный первый: про недопущение вреда человеку своим действием или бездействием). А потом в 1986 г. добавил еще нулевой: про недопущение вреда человечеству. Где-то до начала 2010 гг. научное и технологическое сообщество не особо стремилось развивать данные формулировки, так как технологии того времени даже близко не подходили к чему-то похожему на "интеллект". Но алгоритмы машинного обучения становились все функциональнее, популярнее, мощнее, доступнее. Британский Совет по Исследованиям в Области Инженерных и Физических наук десять лет назад выпустил свою версию принципов создания ИИ: "EPSRC principles of robotics". Дальше к фиксированию этических, моральных и юридических правил робототехники приходили многие корпорации и государства. Вот очередь дошла и до России", - рассказывает Иван Барчук. "Действие настоящего Кодекса распространяется исключительно на СИИ, применяемые в гражданских (не военных) целях", - сказано в проекте Кодекса. Иван Барчук комментирует: "Если рассматривать только гражданское применение, то самые важные моменты в Кодексе описаны: не причинение вреда человеку, юридическая ответственность за решения ИИ, потребность в более тщательном прогнозировании и управлении рисками, защита персональных данных. Еще из интересного бы выделил большие планы по обмену опытом и открытости информации между разработчиками — это действительно будет полезно. Также очень важно информировать население о возможностях ИИ и, хоть это и совсем непросто, развенчивать мифы, которых с каждым днем будет становиться все больше". Последний пункт Кодекса гласит: "Положения настоящего кодекса должны пересматриваться с учетом быстрого развития технологий ИИ и развития представления об этике использования технологий ИИ в обществе". "Этот пункт самый важный: действительно, - рассуждает Иван Барчук, - даже сегодняшние разработчики ИИ не смогут точно сказать, как будут применяться эти технологии через 2-3 года, не говоря уже про десятилетия. Есть несколько поводов рассчитывать на положительное влияние на рынок. Тот самый обмен информацией между разработчиками, что позволит большему количеству талантливых команд заниматься созданием СИИ". "Оценка рисков на разных этапах создания СИИ - тоже замечательная инициатива, лишнее прогнозирование и тестирование результатов здесь не помешает. Если я правильно понимаю, Кодекс предполагает движение рынка в сторону XAI (объяснимый ИИ). Оператор СИИ в любой момент по логам сможет понять, что было сделано, что делается прямо сейчас, что будет сделано дальше, и получить информацию, на которой основаны действия. Это откладывает наступление гипотетической технологической сингулярности (когда развитие технологий становится неуправляемым) на неопределенный момент. Предложения создавать комиссии по этике, а также внедрять добровольную сертификацию - явно являются сдерживающими рост рынка. Но они могут защитить рынок СИИ от некомпетентных и недобросовестных разработчиков. Хочется верить, что подобные комиссии не станут насквозь бюрократическими и академическими, а добровольная сертификация в один из дней не превратится в добровольно-принудительную", - прокомментировал положения кодекса Иван Барчук. Специалист по информационном праву Юрий Волков отметил, что необходимо определить цель мероприятия по созданию Кодекса: что это будет - программный (политический) документ, меморандум, декларация, акт о намерениях, стратегия, технический документ (стандарт, норматив, положение, протокол, правило), нормативный акт (федеральный, отраслевой, локальный, ведомственный), художественное произведение или иное произведение. "Терминология должна соответствовать выбранному "жанру" произведения. Альтернативно можно продолжать схоластику (словоблудие) - это не обидный или оскорбительный вариант дискурса, а обозначение свободной дискуссии, которая никого ни к чему не обязывает. Все обсуждение можно вести параллельно, в двух форматах. Второе, как "отдушина" для первого, полагаю, что может пригодиться", - пояснил юрист. По мнению Юрия Волкова представленный перечень (работа проведена достойная, подчеркнул он) необходимо упорядочить: все наименования привести в соответствие с требованиями. "Но перечень не полный, даже на первый, прикидочный взгляд. Кроме того, старые советские ГОСТы желательно проработать, а не ограничиваться произведениями Айзека (Исаака) Азимова. … Если предполагается строить "Кодекс", как более технический - свод правил для технических специалистов, то желательно ознакомиться со всеми стандартами. Иначе дискуссия будет пустая", - говорит он. Исполнительный директор Sibling smart home Михаил Шкляр уверен: развитие сферы ИИ должно так или иначе контролироваться, в том числе и с помощью нормативных документов. "Сейчас самое время заняться этим вопросом, возможно, это стоило сделать еще раньше, так как сейчас ИИ есть уже во всех сферах жизни человека. Что касается наиболее важных моментов, то, во-первых, это отсутствие дискриминации по каким-либо признакам. Во-вторых, базовое понимание этики и системы ценностей той страны, в которой применяется решение. Таким образом, ИИ должен учитывать и базовые человеческие ценности, и особенности людей, проживающих на конкретной территории. Принятие такого кодекса не окажет какого-то значимого влияния на рынок, но систематизирует производителей в части добавления в технологии ИИ соответствующих алгоритмов", - прокомментировал Михаил Шкляр. Управляющий партнер коммуникационного агентства B&C Марк Шерман подвел итог: "Это общий документ, который влияет на институционализацию сферы ИИ и вовлечение в периметр как можно большего количества игроков. То есть речь идет о появлении если не нового для рынка инструмента, то появления свода правил индустрии, которая сейчас находится на хайпе из-за внимания и бизнеса, и властей. Появление таких документов говорит о том, что отрасль сообща лоббирует свои интересы, то есть это часть большой GR программы". Ссылка на источник