Новости, политика, экономика, общество

Искусственный интеллект. Будущее национальной безопасности России?



Десять лет развития


Ни для кого не секрет, что искусственный интеллект все глубже проникает в жизнь простых людей по всему миру. Этому способствуют как глобальное распространение Интернета, так и серьезное увеличение вычислительных мощностей. Нейронные сети, имеющие определенное сходство с человеческим мозгом, позволили качественно улучшить работу разрабатываемого программного обеспечения. Есть, правда, пара уточняющих моментов: до уровня головного мозга человека нейронным сетям еще очень далеко, особенно в плане энергоэффективности, а алгоритмы работы до сих пор крайне сложны для понимания.

Деньги в индустрию искусственного интеллекта, несмотря на некоторые ограничения и резонансные происшествия с автопилотируемыми машинами, идут широкой рекой. В прошлом году, если верить утвержденной Национальной стратегии, рынок IT-решений в этой сфере превысил 21,5 млрд. долларов. Не бог весть какая сумма, но она с каждым годом будет только возрастать, и к 2024 году совокупный ИИ в мире будет условно стоить 140 млрд., а потенциальный рост экономики от внедрения ИИ к этому времени достигнет вполне приличного 1 трлн. долларов. Собственно, попыткой не отстать от мировых трендов и стало утверждение президентом Владимиром Путиным 10 октября 2019 года упомянутой Национальной стратегии. При этом в самой программе декларируется не просто сокращение отставание от мировых лидеров, а вхождение в число топовых игроков этого рынка. И сделать это планируется уже к 2030 году. Среди явных преград на этом пути будут протекционистские заявления ряда стран, что любой российский софт несет потенциальную опасность.

Где же собираются реализовывать «безграничные» возможности ИИ на российской почве? Прежде всего это автоматизация рутинных операций вместе с заменой человека на опасных производствах (читай: в том числе в армии). Далее планируется серьезная работа с большими данными, которые генерируются в последнее время просто лавинообразно. Предполагается, что они смогут улучшить прогнозы по управленческим решениям, а также оптимизировать подбор и обучение кадров. Здравоохранение с образованием через десять лет также будут активными пользователями ИИ. В медицине на откуп машинного разума частично или полностью отдадут профилактику, диагностику, дозировку лекарств и даже хирургическое вмешательство. В школах ИИ будет задействован в индивидуализации процессов обучения, анализе склонности ребенка к профессиональной деятельности и раннее выявление талантливой молодежи. В стратегии можно встретить положение по «разработке и внедрению образовательных модулей в рамках образовательных программ всех уровней образования». То есть основы ИИ будут преподавать в школе?

Как обычно, помимо осязаемых результатов развития ИИ, от научной среды будут требовать роста количества и индекса цитируемости статей отечественных ученых в мировых профильных изданиях. А уже к 2024 году, то есть очень скоро, в России должно увеличиться число граждан, имеющих компетенции в области ИИ. В том числе это будет реализовываться за счет привлечения отечественных специалистов из-за рубежа, а также привлечения иностранных граждан для работы по данной теме в России.

Однако у ИИ есть одно спорное качество, которое в стратегии предполагается решать «разработкой этических правил взаимодействия человека с искусственным интеллектом». Оказывается, холодный расчет компьютерного разума заставляет его делать предвзятые и несправедливые обобщения.

AI bias


Среди массы вопросов к функционированию современных систем ИИ особо выделяются несовершенные на данный момент алгоритмы автопилотирования колесного транспорта, которые до сих пор не позволяют законодательно разрешить их широкое применение. Скорее всего, в обозримом будущем мы не увидим на наших дорогах автомобилей, управляемых ИИ. У нас для этого и дорожные условия неподходящие, и климат не благоволит пользоваться автопилотом круглый год: грязь и снег быстро «ослепят» сенсорные системы самого совершенного робота. Кроме этого, массовое внедрение ИИ неизбежно заберет работу у миллионов людей по всему миру – им придется либо переучиваться, либо проводить остатки дней в праздности. Справедливо ради стоит сказать, что различные новомодные «Атласы профессий будущего» порой несут откровенную чушь: в одном из них, датированном 2015 годом, к новому 2020 году должны были устареть, к примеру, профессии бухгалтера, библиотекаря, корректора и испытателя. Но, тем не менее, профиль большинства профессий будет меняться, и негативный фактор ИИ тут будет превалирующим. В любом случае, перспективы дальнейшего внедрения ИИ в социум ставят множество вопросов перед государственными регуляторами. И как их решать, похоже, мало кто знает.


Еще одной проблемой, которая уже вырисовывается на горизонте, стала предвзятость ИИ в принятии решений. Одними из первых с этим столкнулись американцы, когда в 15 штатах ввели систему COMPAS для прогнозирования случаев рецидива преступников. И все, казалось, очень хорошо начиналось: удалось разработать алгоритм, способный на основе массы данных (Big Data) сформировать рекомендации о строгости наказания, режиме исправительного учреждения или досрочном освобождении. Программисты справедливо утверждали, что в предобеденное время голодный судья может вынести чрезмерно суровое наказание, а сытый, наоборот, слишком мягкое. ИИ должен внести в эту процедуру холодный расчет. Но оказалось, что COMPAS и все ему подобные программы расисты: ИИ в два раза чаще ошибочно обвинял афроамериканцев в склонности к рецидиву, чем белых людей (45% против 23%). Светлокожих преступников ИИ вообще расценивает как людей с низким уровнем риска, так как они статистически реже преступают закон – поэтому и прогнозы по ним более оптимистические. В связи с этим в США все чаще и чаще звучат голоса об отмене ИИ в решении вопросов освобождения под залог, назначения наказания и досрочном освобождении. При этом юстиция США никакого отношения к программному коду этих систем не имеет – всё закупается у сторонних разработчиков. Программные комплексы, работающие на улицах многих городов мира, Predpol, HunchLab и Series Finder, уже статистически достоверно доказали свою эффективность: преступность снижается, но и они не лишены расовых предрассудков. Самое интересное, что мы не знаем, какие еще «тараканы» зашиты в искусственные мозги этих систем, так как многие параметры анализа засекречены. Также есть сомнения, что разработчики и сами понимают, каким образом ИИ принимает те или иные решения, какие параметры считает ключевыми. Подобные ситуации складываются не только в правоохранительной сфере и юстиции, но и в рекрутинговых агентствах. ИИ в большинстве случаев отдает предпочтения при найме на работу молодым мужчинам, оставляя в стороне слабый пол и возрастных кандидатов. Забавно, что ценности Запада, которые там так рьяно пропагандируют (равенство полов и рас), попираются новейшим западным же достижением — искусственным интеллектом.


Вывод из небольшого экскурса в теорию и практику ИИ напрашивается следующий. Одно дело, когда наши с вами данные из социальных сетей и других источников массово обрабатываются с целью маркетинговых или политических манипуляцией, а другое дело, когда в руки ИИ передается меч правосудия или, того хуже, арсенал национальной безопасности. Цена предвзятого решения многократно возрастает, и с этим надо что-то делать. Кому это удастся, тот и станет настоящим властелином XXI века.

Автор: Евгений Федоров Использованы фотографии: medium.com, unbabel.com


Источник: Искусственный интеллект. Будущее национальной безопасности России?
Опубликовал:
Теги: Закон будущее безопасность Россия интеллект

Комментарии (0)

Сортировка: Рейтинг | Дата
Пока комментариев к статье нет, но вы можете стать первым.
Написать комментарий:
Напишите ответ :
11 национальных особенностей финнов
11 национальных особенностей финнов
23
Мужской журнал 04:02 27 мар 2018
Сегодня России бы не было! Ее безопасность хотели купить за $60 миллиардов
Сегодня России бы не было! Ее безопасность хотели купить за $60 миллиардов
18
Ваши новости 01:02 26 янв 2018
Как выбрать входную дверь в квартиру? Советы мастеров Как выбрать входную дверь в квартиру? Советы мастеров
Ученые перестали понимать, как работает искусственный интеллект
Ученые перестали понимать, как работает искусственный интеллект
0
Мужской журнал 05:01 05 апр 2018
Вавилонская блудница, или как в древности доказывали верность будущему мужу
Вавилонская блудница, или как в древности доказывали верность будущему мужу
6
Мужской журнал 06:03 11 дек 2018
Путин будет править миром. Пугающие слова Ванги о будущем России
Путин будет править миром. Пугающие слова Ванги о будущем России
81
Мужской журнал 05:01 28 мар 2018
Боевые роботы расстреляли 29 японских ученых
Боевые роботы расстреляли 29 японских ученых
5
Мужской журнал 07:01 30 дек 2018
Что сказал Серафим Саровский о будущем России. УЖЕ начало сбываться
Что сказал Серафим Саровский о будущем России. УЖЕ начало сбываться
6
Ваши новости 18:01 16 июн 2019
Почему будущее за Россией: мнение необычного американца
Почему будущее за Россией: мнение необычного американца
35
Ваши новости 14:16 19 окт 2019
Интеллект выше среднего: какие признаки на это указывают
Интеллект выше среднего: какие признаки на это указывают
78
Мужской журнал 06:01 21 июн 2019
Два курильских острова имеют особое значение для безопасности России
Два курильских острова имеют особое значение для безопасности России
23
Ваши новости 04:02 25 ноя 2018
«Сама разрушится»: американский эксперт о будущем России
«Сама разрушится»: американский эксперт о будущем России
35
Ваши новости 02:01 12 авг 2019
Как кучка дегенератов "будущее России хоронила"
Как кучка дегенератов "будущее России хоронила"
13
Ваши новости 18:21 21 янв 2018

Выберете причину обращения:

Выберите действие

Укажите ваш емейл:

Укажите емейл

Такого емейла у нас нет.

Проверьте ваш емейл:

Укажите емейл

Почему-то мы не можем найти ваши данные. Напишите, пожалуйста, в специальный раздел обратной связи: Не смогли найти емейл. Наш менеджер разберется в сложившейся ситуации.

Ваши данные удалены

Просим прощения за доставленные неудобства