Челябинские эксперты оценили перспективы и риски применения ИИ

«История человечества показывает, что остановить технический прогресс невозможно. Но мы должны понимать последствия прогресса. И прежде всего в том, что касается использования его достижений, в том числе в военной сфере, в военном деле. Уже сейчас фиксируются случаи, когда искусственный интеллект сам принимает решения, исходя из собственного понимания целесообразности. Это касается и гражданского, и военного применения», — сказал глава государства.

Как сделать использование ИИ безопасным, обсудили участники «Экспертного клуба» Челябинской области.

По словам члена Общественной палаты Челябинской области Аско Алои, за последние два-три года ИИ стал по-настоящему массовым инструментом, и это меняет правила игры.

«Действительно, сегодня с его помощью можно быстро проверить грамотность, прикинуть расчеты, собрать черновик презентации или даже проработать дизайн-концепцию. Особенно заметно его влияние в инженерии и разработке: часть типовых задач теперь решается быстрее, а фокус специалистов смещается на более сложные, творческие и управленческие вопросы», — говорит он.

При этом нельзя закрывать глаза на риски, добавляет эксперт: «Скорость обучения ИИ и объем данных, которые через него проходят, требуют ответственного подхода. Информационная гигиена не просто модный термин, а базовая необходимость: не стоит загружать в публичные сервисы конфиденциальные и тем более секретные документы. Использование ИИ должно быть осознанным: не потому, что можно, а потому, что это действительно нужно и безопасно. Ответственность здесь лежит и на каждом человеке, и на организациях — от регламентов до культуры обращения с данными».



Представитель АПЭК в Челябинской области Андрей Лавров называет изобретение ИИ это цивилизационным разломом.

«На самом деле его последствия, как положительные, так и негативные, человечество еще не понимает. Сейчас ведется серьезнейшая работа по этому поводу среди ученых, причем ученых самых разнообразных сфер», — отмечает он.

Искусственный интеллект меняет человека, продолжает эксперт: «Точно так же, как мы говорим, что нынешний человек — это человек текста, человек печатный, и он изменился принципиально. Человечество изменилось с изобретением гутенберговской печати. Я уж не говорю, как оно изменилось с изобретением письменности. В данном случае ИИ поменяет все, поменяет прежде всего самого человека. Как он его поменяет? Мы не знаем. Будут и положительные факторы, они совершенно неизбежны, и президент абсолютно прав, что остановить это совершенно невозможно. Но будут и отрицательные. Каких из них будет больше, это решит человечество».

Чтобы использование ИИ было безопасным, необходимо учить людей грамотной работе с ИИ, чтобы ИИ не был заменителем естественного интеллекта, считает Андрей Лавров.



«Главное, с одной стороны, чтобы было четкое обучение работать с ИИ, чтобы это было инструментом, а человек был хозяином искусственного интеллекта, всегда понимая, что это всего лишь ручка в твоей руке. А что она напишет, зависит от тебя. И вторая вещь: чтобы то, что ты хотел написать, соответствовало истинной, божественной сути человека, гуманистической сути человека. Если у человека внутри совесть, то и ручка в его руке напишет исповедь Блаженного Августина. А если там бес, то выйдет «Майн кампф», — рассуждает политолог.

По словам бизнес-стратега Валентины Репиной, ИИ в бизнесе и производстве — это уже не про «перспективы», а про ежедневную эффективность: меньше простоев, точнее прогнозы, быстрее реакции. Но вместе с этим растут и риски: ошибки моделей, обезличивание решений, зависимость от чужих алгоритмов.

«Ключ к безопасности — в человеческом контроле, прозрачных метриках и учете локальных условий, — считает эксперт. — Примеры у нас уже есть: аналитика на предприятиях, прогнозирование остатков в ретейле, автоматизация рутинных сервисов. Главное — чтобы технологии усиливали людей, а не заменяли ответственность».



Любое изобретение человечества всегда использовалось и во благо, и во вред, и ИИ здесь не исключение, отмечает член Общественной палаты РФ, доктор политических наук Наталья Балынская.

«На мой взгляд, говорить об этике использования ИИ и о персональной ответственности каждого человека и корпораций, которые создают новые программы, конечно, надо. Но нужно и понимать, что это не остановит использование ИИ, в том числе и из плохих побуждений, что несет опасность для всех. Поэтому параллельно с развитием ИИ необходимо создавать и средства защиты от него. И хорошо, что в государственных органах управления создаются структуры, которые этим должны заниматься», — резюмирует она.