Недоверие к технологиям: «пожар, который пора тушить»

В дискуссии приняла участие Екатерина Потапова, руководитель направления исследований и аналитики Центра подготовки руководителей и команд цифровой трансформации ВШГУ РАНХиГС, инициатор и один из авторов двух аналитических докладов «Этика и „цифра“: этические проблемы технологий» (2020) и «Этика и „цифра“: от проблем к решениям» (2021).

Она подчеркнула, что прежде, чем делать первый шаг – развивать и активно внедрять ИИ, нужен шаг номер «ноль», который относится ко всем технологиям. Самой большой проблемой Екатерина считает утечку данных: «Это беда и госсектора, и бизнеса, которая подрывает доверие к технологиям вообще и к ИИ в частности. Это пожар, который пора тушить, принимая решительные регуляторные и правоприменительные меры».

С этим мнением согласился Александр Савельев, доцент департамента общих и межотраслевых юридических дисциплин, старший научный сотрудник Международной Лаборатории по праву информационных технологий и интеллектуальной собственности НИУ ВШЭ. Он поделился наблюдением, что сегодня многие «придерживают» данные, так как боятся утечки. Но данные лежат в основе развития ИИ и других технологий. Поэтому защита персональных данных – это первоочередная мера, без которой следующие будут буксовать.

В числе других проблем, требующих решения в самой ближайшей перспективе, эксперты отметили необходимость выстроить взаимосвязь между этикой и правами человека, социальной ответственностью, вопросами доверия, рисками, защитой данных, в том числе за счет создания системы определений в сфере этики, прав и технического регулирования ИИ.

Еще один важный аспект затронула Анна Абрамова, заведующая кафедрой цифровой экономики и искусственного интеллекта группы компаний АДВ в МГИМО, директор Центра ИИ МГИМО. Она заметила существенную разницу в восприятии вопросов этики цифровых технологий у зарубежных и российских студентов и подчеркнула важность развития отечественной системы образования в области ИИ на стыке бизнес-экспертизы и академического сообщества, технических и гуманитарных подходов.

Слабая подготовка в вузах стала одной из предпосылок острого дефицита кадров в сфере регулирования цифровых технологий. Такое мнение выразил Алексей Минбалеев, заведующий кафедрой цифровых технологий Московского государственного юридический университета имени О.Е. Кутафина (МГЮА). По его словам, одно из возможных решений – создание дополнительных образовательных курсов в этой сфере.

Популяризировать принципы этичного применения и использования ИИ, в том числе благодаря принятому Кодексу этики в сфере ИИ, призывает и заведующий лабораторией цифровой трансформации в госуправлении Института государственного и муниципального управления НИУ ВШЭ Евгений Стырин.

Екатерина Потапова обратила внимание на то, что некоторые вопросы этики уже включены в программы Центра для будущих управленцев, и отметила особую опасность этических нарушений в госсекторе: «Существующие риски в госсекторе не отличаются от рисков общих систем ИИ. Вопрос в их масштабе. За возможные ошибки могут расплачиваться миллионы людей, самые разные группы населения, в том числе наиболее уязвимые. Поэтому на руководителей ЦТ федерального и регионального уровня ложится новая ответственность за предупреждение подобных проблем».

Обоснованность первоочередного регулирования принципов разработки, внедрения и применения систем ИИ в госсекторе подтвердили и другие эксперты. Этическим вопросам пока не уделяется достаточно внимания в нашей стране, особенно в коммерческом секторе. Поэтому именно регулирование, выработанное в госуправлении, должно стать основой для общей правоприменительной практики.

В ходе дискуссии эксперты также затронули вопросы «мягкого права» в регулировании ИИ, обсудили наиболее значимые принципы, лежащие в основе создания новых технологий, и задачи, которые сегодня ставят перед системами ИИ.

В заключении ученые высказались по поводу возможности наделения ИИ правосубъектностью. Такое развитие событий не исключено в будущем; например, системы ИИ станут юрлицами, которые смогут вести самостоятельную деятельность, но пока говорить об этом рано, считают эксперты.