Риски внедрения искусственного интеллекта в бизнес обсудили на встрече Ассоциации менеджеров

Сегодня многие российские компании в условиях автоматизации также все чаще внедряют AI-технологии в бизнес-процессы, хотя применение ИИ несет в себе и большие риски. В ходе заседания Комитета по информационным технологиям Ассоциации менеджеров на тему: «АНТИ-ИИ: стратегия взвешенного внедрения искусственного интеллекта в бизнес» эксперты обсудили, как выстроить баланс между инновациями и контролем рисков.

Участники встречи – разработчики отечественных IT-решений, директора по информационным технологиям из различных отраслей и представители IT-индустрии – обсудили, почему важно минимизировать зависимость от зарубежных платформ и облаков, в каких случаях классическая автоматизация надежнее сложных ИИ-решений, а также рассмотрели технологичные управленческие инструменты, которые приносят реальную пользу бизнесу.

Модератором встречи выступил Евгений Доможиров, сопредседатель комитета по информационным технологиям Ассоциации менеджеров, генеральный директор и основатель компании CESCA. Мир бизнеса стоит на пороге новой эры — эры промышленного искусственного интеллекта, заметил эксперт. Но путь от первых экспериментов к реальной трансформации бизнеса оказался сложнее, чем казалось. По мнению Евгения Доможирова, ключом к успеху является не просто технология, а зрелый, взвешенный подход к ее внедрению, а также умение применять эту систему с максимальной пользой. Переход от разрозненных пилотов к системному и ответственному внедрению ИИ — это не вызов, а уникальный шанс для компаний выйти на новый уровень конкурентоспособности и эффективности. 

Эксперт обратил внимание на опыт мировых компаний. По данным Gartner, 85% AI-проектов могут не выходить сразу в продакшн. Исследование McKinsey подчеркивает, что 70% инициатив достигают целей по окупаемости, только когда с самого старта определены четкие бизнес-метрики. Данные MIT Sloan (60% инцидентов безопасности) — это важное напоминание о том, что продуманная архитектура безопасности становится краеугольным камнем и основным конкурентным преимуществом любого зрелого AI-решения. По словам эксперта, эти данные знаменуют новую «эру зрелости». ИИ становится не «волшебной таблеткой», а мощным инструментом, который при ответственном, архитектурном подходе к управлению дает предсказуемый результат, подчеркнул Евгений Доможиров. Лидеры рынка уже строят такие системы, где технология приносит измеримую ценность, а ее применение гарантирует прозрачность и надежность. 

«Тенденция к развитию искусственного интеллекта в сфере IT – это больше чем тренд; это фундаментальный сдвиг. Как показывает практика, ИИ раскрывает свой полный потенциал, когда мы понимаем его природу: например, дополняя его способностями по валидации данных. По сути, ИИ – это мощный инструмент, и наша задача — выстроить с ним эффективное сотрудничество. Решения нейросети становятся все более интерпретируемыми, а четкое распределение ответственности делает их применение безопасным. Мы обретаем все больше уверенности в том, что ИИ будет работать на наши задачи, особенно когда мы осознанно подходим к проектированию моделей. И важно помнить, что ИИ – это превосходный инструмент, который при грамотном контроле и управлении открывает беспрецедентные возможности», – подчеркнул Евгений Доможиров.

Андрей Даудрих, директор по социальным исследованиям Аналитического центра ВЦИОМ, рассказал об опыте и эффективности применения технологий искусственного интеллекта в российских компаниях. По данным эксперта, сегодня 43% организаций используют ИИ в своей деятельности. Об этом свидетельствует исследование готовности приоритетных сфер деятельности к внедрению ИИ – «Индекс ИИ», в определении которого приняли участие более 5 тыс. компаний. Согласно материалу, лидирующими сферами по готовности к применению ИИ по итогам 2024 года стали сектор ИКТ, высшее образование, ТЭК, а также сфера финансовых услуг. 

«Каждая компания проходит через определенную дилемму: создать свой ИИ-продукт или приобрести что-то готовое на рынке. Когда принимаешь решение сделать что-то свое, то возникает другая проблема: сколько это будет стоить и будет ли это эффективно работать. Поэтому в самом начале на этапе внедрения нужно ответить: что вам это даст – хайп или реальную пользу», – добавил Андрей Даудрих. 

Заместитель директора департамента информационных технологий «РСХБ» Денис Курочкин отметил, что в связи с политикой импортозамещения банк разработал собственную платформу RAISA (RSHB AI Systems & Applications). Это многофункциональная платформа, предоставляющая рабочее пространство и инструменты для аналитиков данных, моделистов и дата-инженеров. По словам эксперта, у данной разработки, как и у ИИ в целом, есть ряд безусловных преимуществ – скорость получения результата, освобождение человеческого ресурса, масштабирование. Но есть и определенные нюансы, требующие внимания. В их числе – высокая стоимость, ошибки нейросети, а также невозможность принятия решений и создания чего-то принципиально нового. «ИИ – это не такая простая технология. Качественное и полноценное внедрение ИИ в системы и бизнес-процессы предприятия – длительный, сложный и дорогостоящий процесс. Надо помнить, что несмотря на то, что ИИ в тренде, не всегда и не везде необходимо его внедрять сиюминутно», – подчеркнул Денис Курочкин.

Про ограничения и возможности работы с персональными данными в системах с ИИ рассказал Андрей Крюков, заместитель генерального директора по информационным технологиям Сбербанк – АСТ. Эксперт напомнил, что даже скриншоты и фотографии могут содержать персональные данные компании или человека, а потому их нельзя передавать во внешние ИИ-модели, неразработанные компанией. По словам Андрея Крюкова, сервис с моделью ИИ, используемый организацией, должен соответствовать требованиям 152-ФЗ. Эксперт отметил, что с 1 сентября 2025 года обновлены требования по защите персональных данных: без согласия гражданина можно обрабатывать обезличенные данные, но процесс обезличивания не должен быть формальным и оставлять возможность злоумышленнику восстановить личность.

«При работе с данными действуют серьезные ограничения и штрафы, но те же неструктурированные данные сложно обезличить стандартными средствами или вручную – для этого можно использовать специализированные модели ИИ, но они также должны соответствовать требованиям 152-ФЗ. Если использовать внешний сервис по обезличиванию, то необходимо подписать поручение на обработку ПДн и получить согласие пользователя. Чтобы избежать сложностей и минимизировать риски – решением может стать собственная ИИ-разработка внутри компании», – поделился Андрей Крюков. 

Сергей Усик, IT-директор ГК «Абрау-Дюрсо», рассказал о проектах компании, основанных на ИИ-технологиях. «Нет смысла тратить ресурсы на собственные ИИ-разработки, если вы недостаточно крупная компания. На рынке много хороших предложений, программ, пусть и платных. ИИ – это лишь еще один инструмент, который может принести вашему бизнесу какую-то выгоду или наоборот. Мне кажется, что сейчас ИИ – это клондайк для небольших бизнесов и маленьких компаний, которые могут занять определенные ниши и преодолеть порог, связанный со стоимостью времени и ресурсов людей», – отметил эксперт.

Лев Голицын, основатель компании Embedika, разработчика программных продуктов и ИИ-сервисов, поделился прикладными кейсами, реализованными в интересах заказчиков. По мнению эксперта, положительный эффект от внедрения ИИ-технологий в бизнес-процессы может быть достигнут только при грамотном менеджменте. Сейчас же в ряде компаний не хватает управленческих компетенций для формирования целостного целеполагания, чтобы понять, какую именно задачу в погоне за трендом решает организация при помощи ИИ, заметил эксперт.

«Искусственный интеллект без естественного интеллекта – это вещь в себе, не способная дать результат. Стоит здраво и разумно подходить к использованию инструмента, который действительно ускоряет и упрощает работу», – резюмировал Евгений Доможиров.