Наталья Касперская: Бояться стоит не ИИ, а людей, которые его используют
Валентин АЛФИМОВ
Фото: Владимир ВЕЛЕНГУРИН. Перейти в Фотобанк КП
Куда ИИ вообще нельзя подпускать даже близко, а где он незаменим, как мошенники обходят даже самую сложную защиту и может ли запад отключить нам всю «цифру». Президент группы компаний InfoWatch и председатель правления Ассоциации разработчиков программных продуктов «Отечественный софт» Наталья Касперская в эфире радио «Комсомольская правда» развенчала главные мифы.
ВСЕ РОДНОЕ
- Наталья Ивановна, в 2022 году мы начали обрастать санкциями. У нас есть чем заменить иностранное программное обеспечение?
- Соединенные Штаты приняли целый ряд постановлений, ограничивающих поставку технологий, и Трамп ужесточает эту политику. Сейчас крупные производители стали отказывать российским разработчикам в подписании сертификатов. То есть отечественный софт, который работает, например, на операционной системе Microsoft – Windows, может в какой-то момент перестать работать. И если закручивание гаек продолжится, значительная часть наших программ просто не сможет работать на иностранных операционках.
- И что делать?
- У нас программа импортозамещения принята с 2015 года. В реестре отечественного программного обеспечения больше 29 тысяч продуктов с разными версиями и подверсиями. Есть и операционные системы. 4 из них признаны официально рекомендованными: «РЕД ОС», ALT Linux, Astra Linux и ROSA. И для мобильных у нас есть KasperskyOS и «Аврора». И та же ROSA. Наиболее продвинутые компании начали на них переходить - с 2015 года, но таких немного. Активно стали переходить с 2022 года.
- И я могу поставить себе на компьютер отечественную операционку и она будет работать?
- Да, конечно.
- Раньше у нас чуть ли не вся промышленность работала на иностранном ПО, которое даже управлялась из-за границы. Сейчас как дела?
- Софт для промышленности - это много разных классов, и по ним ситуация разная. Заказчики покупают отечественное, дочерние структуры крупных госкорпораций производят свое ПО (например, «Росатом» делает свой софт). Но сказать, что мы все классы полностью закрыли нельзя.
У нас создана система индустриальных центров компетенций. Сейчас их 36 - машиностроение, металлургия, сельское хозяйство, торговля, транспорт, фармацевтика… Где-то эти ИЦК очень активные - в металлургии, нефтепереработке. А где-то – не очень. Вот где эти ИЦК активные, там процесс идет. Такой катастрофы, что мы полностью зависим от западного софта, и станок нельзя перевезти, сейчас нет.
НАШИ ВЕДОМСТВА НЕ ЗВОНЯТ
- Сегодня мошенники - головная боль для для бизнеса, простых граждан. Мы со временем становимся защищеннее?
- Принят закон о борьбе с мошенничеством. В сентябре МВД отчитывалось, говорят, что с июня пошел тренд на снижение украденных средств. Беда в том, что общее число украденного, пока закон не действовал уже превысило прошлый год. Так что год опять будет рекордным.
- А что меняется?
- Давайте посмотрим со стороны мошенников. Центральный банк и другие ведомства довольно быстро фиксируют их методы и рассказывают о них. Поэтому старые схемы мошенников не работают. Но они постоянно придумывают новые - теперь используют дипфейки. Это когда вам звонят лицом вашей мамы и говорят: сынуля, скинь срочно денег. А если звонят еще с ее телефона, обнаружить подделку довольно сложно.
Здесь я рекомендую иметь для близких какое-то слово или понятие. Или простой вопрос: «А где мы с тобой были тогда-то, помнишь?», «Как мы с тобой плавали - на чем?»
Но у мошенников есть и многоходовые схемы…
- Это как?
- Когда звонят, например «с почты» и говорят, что «на ваше имя пришло почтовое отправление, отправьте код подтверждения». И тут же приходит сообщение, что ваши Госуслуги взломаны. И вы думаете: «Ой, что же это такое?» Тут вам приходит еще одно сообщение: «Если это не вы поменяли пароль на Госуслугах, позвоните по такому-то номеру». И вы, как наивный валенок, звоните как бы в центр поддержки Госуслуг, но вы звоните другому мошеннику и он уже начинает вас накручивать. Это такие двухчастные, трехчастные схемы. Бывают и более сложные. Здесь задача: ввести жертву в некий цейтнот, создать давление и ощущение, что уже что-то произошло, что надо бороться. Жертва начинает бороться, звонить в «поддержку» и «полицию» сама не понимая, что глубже закапывается.
- Что делать?
- Я, например, всегда на смартфоне держу мобильные данные выключенными. Если мне надо, допустим, посмотреть что-то, я включаю эти данные, смотрю, что надо и снова выключаю.
Когда кто-то начинает от вас требовать срочных действий, помните: наши ведомства не звонят. Такой звонок должен вызывать подозрения. Меня один раз тоже практически поймали, но в какой-то момент позвонил человек и сказал: «Я из Роскомнадзора». Тут я все поняла - Роскомнадзор никому не звонит, у них просто людей нет для этого. Но я это понимаю, а другой мог бы повестись.
ГЛАВНОЕ НЕ ТЕХНИКА, А ЧЕЛОВЕК
- Мы нередко слышим, что утекла та или иная база.
- Мошенники обычно свои схемы строят на том, что они что-то о вас знают: позвонят, назовут вас по имени, что-то еще расскажут… А откуда знают? Потому что базы данных утекают. За прошлый год утекло более 1,5 миллиарда персональных данных.
- Так нас всего в стране приблизительно 150 миллионов человек…
- Это значит, что каждая запись утекла минимум 10 раз. Конечно, есть пересечения. Но утечек может быть только больше - что-то мы могли не видеть. Здесь я выступаю большим противником дальнейшей цифровизации. Создание еще каких-то баз только усугубляет ситуацию. Например, у нас хотят вводить с марта следующего года регистр заболеваний.
Там 12 заболеваний, в числе них психические и беременность. Эти данные будут предоставляться целому спектру ведомств, в том числе МВД. Я уважаю Министерство внутренних дел, но, я извиняюсь, течет оттуда очень страшно. А теперь это будут еще и медицинские данные. И это катастрофа. Там в списке есть онкология. Простите, онкологические больные это люди с измененным сознанием.
- … и психиатрия. А, не дай бог, позвонят беременной женщине.
- Данные будут передаваться без ведома гражданина и без возможности удаления регистра. А вдруг была врачебная ошибка. То есть если врач ошибся, а ты уже в базе, то все, всю жизнь будешь психом. Конечно, эти данные тут же окажутся у мошенников, и ими тут же будут злоупотреблять.
- Ну есть же закон о противодействии кибермошенникам. Он поможет.
- У нас слишком много информации сейчас в цифровом пространстве. И стремление ее увеличивать работает на руку мошенникам, а не наоборот. У нас какое-то встречное движение: с одной стороны, правительство стремится собрать, агрегировать все больше данных желательно в единую базу. Но к единой базе точно будет много желающих получить доступ. Более того, те, кто имеет дело с базой, это люди, как правило, с небольшой зарплатой, а тут такое хорошее дельце, и если кто-то спросит да за какую-то денежку…
Поверьте, если вы попробуете сделать так называемый «пробив», найдете много сервисов, которые передают персональные данные. В зависимости от сложности данных, досье стоит от 100 рублей, до нескольких тысяч.
- За несколько тысяч рублей можно вытащить всё?
- Да, по Валентину Алфимову вся информация будет выдана. Есть компании, которые такие сервисы представляют. Они полулегально или нелегально работают. Это либо бывшие, либо действующие сотрудники спецслужб, которые эту информацию сливают. Соответственно, чем больше этой информации становится, тем больше ее сливают. Будет регистр больных - будут еще и больных сливать.
- Как защищаться?
- Вообще-то, непонятно. Там срабатывает человеческий фактор. Никакие технические методы не сработают. Ну, запретят копировать данные - люди с экрана будут зачитывать, переписывать в блокнотик, фотографировать, или еще что-то. И это очень страшная тенденция. Закон, наверное, что-то ограничивает, какую-то часть мошенников он точно отрезает.
- Откуда чаще всего утекают данные? Банки? Доставка еды? Маркетплейсы? Госуслуги, в конце концов?
- Все отметились за последнее время.
Госуслуги. Это единая платформа, и как таковые данные оттуда вытащить сложно. Но у разных ведомств есть доступ в разные разделы. И у них есть возможность получить там данные о конкретном человеке. Так что, если у есть возможность меньше размещать своих данных, то лучше это делать. Чем больше вы даете о себе знать тем же Госуслугам, с привязкой к своим родственникам, тем лучше. Например, не привязывать свои банковские счета.
- Но вот стали ужесточать вход на Госуслуги.
- Но, какие бы технические способы мы ни придумали, всегда есть человек. А с ним бороться техническими методами нельзя. Люди хитрее, они придумывают более хитрые схемы. И желание наших ведомств бороться техническими методами с человеческим фактором - бессмысленно.
САМ СЕБЕ ГЕНЕРАТОР
- Искусственный интеллект. Вы говорили, что его использование вредно, и даже надо его запретить…
- Я не говорила, что нужно запретить искусственный интеллект. Я считаю, что его применение в некоторых сферах опасно. Например, в сфере образования, когда детей пытаются учить при помощи генеративного искусственного интеллекта.
Но он прекрасен, например, как система распознавания и борьбы с утечками. Она должна выявить в документах конфиденциальную информацию и ее блокировать.
- Что такое генеративный искусственный интеллект?
- Это тот, который способен сам генерить ответ. То есть система, созданная на основе больших данных, загруженных в нее. Она их определенным образом перемешивает, а потом извлекает ответ довольно произвольным способом. И этот ответ вероятностный. То есть она никогда не даст вам стопроцентный ответ. Задайте системе один и тот же вопрос два раза, и она вам, скорее всего, выдаст два разных ответа. И даже разработчик не скажет, почему такой ответ система выдала.
В конце прошлого года было сказано, что количество текстов, сгенерированных большими лингвистическими моделями суммарно, превзошло все количество текстов, написанных людьми за все время существования. Вы представьте: 10 тысяч лет человечество писало-писало-писало книги, статьи, в интернете что-то. Всё это закачали в модели и дальше модель начала генерить сама. И сгенерила уже больше!
- А генерированные тексты тоже попадают в модель. И она уже на основе их тоже снова генерит?
- Конечно. Сгенерированные тексты уже дают определенное количество бреда. И чем больше этих сгенерированных текстов и чем менее критично к ним подходят люди, тем более бредовые тексты у нас будут получаться.
ИИ ВЫРАСТИТ ИДИОТОВ
- И это предлагают использовать в образовании?
- Есть апологеты. Я разговаривала с разработчиком одной системы, и он говорит: «Представляешь, мы достигли уровня распознавания 87,5%». Но чтобы преподавать детям, уровень адекватности должен быть 100%. То есть, если Волга впадает в Каспийское море, она не может впадать в другое море. Если у тебя дважды два – четыре, не может быть четыре с половиной или 0,39.
- Но, с вероятностью 13% может.
- Да, с вероятностью 13% у вас получается какая-то фигня.
Что сейчас происходит в школах? Дети начинают обращаться к искусственному интеллекту, и при этом (второй очень важный эффект) выключают голову - ведь проще взять готовый ответ. Они даже не понимают вопроса зачастую, а просто передают учителю. Учитель проверяет: «А вот это слово что означает?» А тот не может объяснить, он не знает.
Получается, есть риск просто вырастить поколение абсолютных идиотов, которые просто не будут понимать ничего. Поэтому, я считаю, в образовании искусственный интеллект должен быть запрещен. Так же, кстати, как и электронные устройства: чтобы производить математиков или учить людей алгоритмическому мышлению, им, кроме ручки и бумаги, ничего не нужно. Поверьте мне как айтишнику, который 30 лет в IT. Нужны люди, которые умеют думать.
Калькулятор отнимает способность к устному счету. Придите в любой магазин - сколько там людей, способных в уме сложить 4 цифры? Эта способность атрофируется. Также, как и способность найти путь из пункта А в пункт В без навигатора. Поэтому образование - раз, госуправление – два. В этих отраслях нельзя использовать искусственный интеллект.
- А законотворчество?
- Давайте мы законы будем писать при помощи искусственного интеллекта и их проверять искусственным интеллектом же. Какие законы мы получим, если это просто по определению бредящая модель, галлюциноген?
ВКАЛЫВАЮТ РОБОТЫ
- А в госуправлении можно использовать ИИ?
- Это, как ни крути, инструмент. Чтобы его внедрять, нужно понимать, зачем. Вот говорят: внедрить 50% искусственного интеллекта… Допустим, вам в радиостудию нужно 30% красных стульев. Вы спросите: «Почему красных? Мы привыкли сидеть на коричневых». В некоторых случаях ИИ просто не нужен. Где-то, безусловно, чрезвычайно полезная вещь.
- Где?
- Например, в промышленности, где можно поставить большую систему контроля, которая вводит в единую базу, что происходит на огромных пространствах. ИИ может распознать, что там начинает что-то сдвигаться. Ага, значит, это приведет к тому, что условная труба взорвется. Раньше, для этого надо было землю раскопать, посмотреть… А тут мы по внешним признакам просто определяем, что сейчас наступит какое-то событие, и не допускаем это событие. И искусственный интеллект здесь работает прекрасно.
Очень хорошо он работает на предотвращение несчастных случаев. Он видит: человек пошел куда-то в запрещенную зону… В сельском хозяйстве очень многое делается при помощи систем, анализирующих общую ситуацию и рекомендующих полив, сколько внести удобрений, когда какие-то действия произвести, если там какие-то насекомые появились…
Но, гуманитарная сфера - это люди. Вот когда пытаются человеческий фактор запихать в технологическую систему, все идет криво и не туда.
ГЛАВНАЯ УГРОЗА
- Так нам стоит бояться искусственного интеллекта, или можно жить с ним рядом?
- Бояться интеллекта не стоит. Стоит бояться людей, которые используют его в нехороших целях.
Читайте на WWW.KP.RU: https://www.kp.ru/daily/27758/5188485/
