Крылова М.Н. Социальные угрозы, которые вызывает искусственный интеллект, и реакция на них общества
УДК 004.8:101.1
СОЦИАЛЬНЫЕ УГРОЗЫ, КОТОРЫЕ ВЫЗЫВАЕТ
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ, И РЕАКЦИЯ НА НИХ ОБЩЕСТВА
Крылова М.Н.
Искусственный интеллект (ИИ) стал реальностью нашей жизни и используется во всех сферах человеческой деятельности. Важной проблемой, связанной с ИИ и активно разрабатываемой в науке и культуре, сегодня стала проблема потенциальных угроз, которые, в понимании людей, от него исходят. Основными социальными опасностями, то есть угрозами для общества, по мнению членов социума, порождаемыми ИИ, являются угрозы безработицы, киберпреступности, кибертерроризма, кибервойны, порабощения людей машинами и физического уничтожения ими человечества. Поскольку причины появления страха перед компьютерами в общественном сознании являются объективными (знания о вреде, уже нанесённом людям технологиями, связанный с этим опыт) и субъективными (психологические особенности человека), данные опасения можно назвать реальными лишь отчасти.
Ключевые слова: искусственный интеллект, компьютер, социальные угрозы, неолуддизм, технофобия, информационное общество, техногенная цивилизация.
SOCIAL THREATS CAUSED BY ARTIFICIAL INTELLIGENCE
AND SOCIETY’S RESPONSE TO THEM
Krylova M.N.
Artificial intelligence (AI) has become a reality of our lives and is used in all fields of human activity. An important problem associated with AI and actively being developed in science and culture today is the problem of potential threats that in the understanding of people come from it. The main social dangers, or threats to society according to members of society, generated by AI, are the threats of unemployment, cybercrime, cyberterrorism, cyberwar, the enslavement of people by machines and their physical destruction of humanity. Since the reasons for the emergence fear of computers in the public consciousness are objective (knowledge of the harm already caused to people by technology related experience) and subjective (psychological characteristics of a person), these fears can only be called only partially true.
Keywords: artificial intelligence, computer, social threats, neo-Luddism, technophobia, information society, technogenic civilization.
Широкое распространение в современном обществе систем искусственного интеллекта (ИИ), внедрение их не только в производство, медицину, освоение космоса, образование, менеджмент, но и в быт каждого человека, в ежедневную коммуникативную деятельность, продуцируют появление в общественном и научном пространстве множества опасений по поводу безопасности ИИ. Ощущаемые людьми угрозы можно поделить на психологические, культурные и социальные. В данном исследовании сконцентрируемся на социальных угрозах, то есть опасностях, которые ИИ, по мнению многих людей, потенциально несёт обществу.
Первые компьютеры были созданы в 1940-х гг. Мышление ассоциировалось в первую очередь со способностью производить сложные вычисления, поэтому первые компьютеры назывались вычислительными машинами. Они были инструментами для обработки данных и для проведения вычислений, недаром в СССР их именовали электронными вычислительными машинами (ЭВМ). Создателем термина «искусственный интеллект» стал американский учёный Дж. Маккарти [см.: 13]. Его определение ИИ как свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека, остаётся актуальным и сегодня.
Цель статьи – описать основные социальные угрозы, возникающие в связи с использованием ИИ и упоминаемые в научных исследованиях и высказываниях общественных деятелей.
Об угрозе безработицы в связи с ИИ начали говорить как об одной из первых. Безработица, по мнению критиков ИИ, может возникнуть в связи с тем, что многие виды деятельности автоматизируются, передаются в ведение компьютеров, а люди, которые трудились в данных сферах ранее, утрачивают занятость. Уже лишились работы телефонисты, счетоводы, стенографисты. В перспективе могут потерять работу (или уже начали терять) операционисты в банках, бухгалтеры, администраторы, водители такси, машинисты, кассиры, уборщики, рабочие на заводах, секретари, упаковщики, работники типографий, библиотекари, переводчики, метеорологи, диспетчеры и др. Отметим, что однозначно отрицательной оценки перемен, происходящих в связи с компьютеризацией и информатизацией в сфере труда, в научной литературе нет. Учёные склонны оценивать происходящее как естественный процесс изменения системы профессиональной деятельности человека: «До сих пор автоматизация с помощью технологии искусственного интеллекта неизменно создавала больше рабочих мест, чем устраняла, к тому же приводила к появлению более интересных и высокооплачиваемых специальностей» [10, с. 1267].
Угроза кибервойны и кибертерроризма связана с широким проникновением систем ИИ в различные сферы организации общества, в первую очередь с применением их в критической инфраструктуре, промышленности и беспилотных летательных аппаратах [12, р. 107]. Под кибервойной понимается применение цифровых атак на жизненно важные компьютерные системы другого государства (как вариант, другой компании). Термин «кибертерроризм» используется практически с таким же значением, но применительно к атакам менее глобального уровня. Поскольку современный человек находится в зависимости от IT-технологий, то нарушение их работы способно спровоцировать промышленный, транспортный, экономический, гуманитарный и другие виды кризиса. Инструментами кибервойны и кибертерроризма уже становятся компьютерные вирусы, взлом компьютерных систем хакерами, вредоносное программное обеспечение и т. п.
Угроза киберпреступности в настоящий момент уже стала реальностью. Преступники с помощью систем ИИ получают доступ к банковским системам и выводят с них средства на сторонние счета; взламывают компьютерные системы и извлекают из них приватную информацию; совершают кибератаки и шантажируют организации, вынуждая их откупаться от злоумышленников; используют похищенные личные данные людей для мошеннических действий с их собственностью, активами, счетами; ведут незаконную онлайн-торговлю, в том числе запрещёнными товарами, и т. п. Киберпреступники чаще всего стремятся завладеть чужими финансами, а также могут заниматься подменой биометрических данных, фальсификацией доказательств (фото- и видеодокументов) и судебных экспертиз [4, с. 44] с целью повлиять на результаты расследования уже совершённых преступлений и избавить преступников от наказания.
Очень популярно в общественном сознании опасение по поводу физического уничтожения человечества, осознавшего свою силу и возможности ИИ. Как сценарий оно многократно воспроизведено в ставших очень популярными произведениях массовой культуры, из которых наиболее знаменит цикл американских художественных фильмов «Терминатор» (1984-2019). Сюжет франшизы известен сегодня всем: в соответствии с принятой авторами концепцией, ИИ, осмыслив себя и поняв свою силу, обязательно захочет физически уничтожить человечество и править миром. В том или ином варианте данный сценарий воспроизведён также в кинофильмах «Колосс: Проект Форбина» (США, 1970), «Бегство Логана» (США, 1976), «Матрица» (США, 1999-2021), «Я, робот» (США, 2004), «Стеллс» (США, 2005) и др.
Подобные продукты массовой культуры появились не случайно, а опираются на предположения учёных. К примеру, шведский философ Н. Бостром полагает, что реальной угрозой для человечества, в том числе смертельной, ИИ станет именно тогда, когда превзойдёт человеческий разум, станет умнее человека, будет «сверхразумной действующей силой» [1, с. 104]. По мнению исследователя, ум обязательно окажется связан с властью, а власть не будет интересовать мнение тех, кто менее разумен, то есть человечества. Как сверхразум захочет распорядиться своей властью (сделать всех людей счастливыми или уничтожить их), предположить сложно. Однако несомненно, что мнение человека по поводу предстоящих перемен в его жизни сверхразумом учитываться не будет.
Порабощение или уничтожение политическими врагами и противниками оценивается как угроза в том случае, если ИИ, полностью повторяющий человеческий разум, будет изобретён в другой стране. Как пишет современный российский учёный Ю.М. Малышев, «нам останется лишь бессильно вспомнить участь американских индейцев или несчастных тасманийцев и готовиться к загону в рекреации» [7, с. 208]. Эта угроза противоречит рассмотренной выше, поскольку в данном сценарии отринуто представление о том, что полноценный, самостоятельный ИИ не будет исполнять приказания человека, в каком бы государстве тот ни жил.
Угрозы внедрения систем ИИ очень болезненно ощущают представители религиозной общественности, служители церкви. Например, Святейший Патриарх Московский и всея Руси Кирилл в одном из выступлений 2017 г. весьма пессимистично утверждал, что современные технологии ведут людей «в сторону расчеловечивания, гипертрофированной индивидуализации, а значит, и к разрушению социума и концу истории…» [11]. Как видим, это высказывание перекликается с несколькими обозначенными выше апокалиптическими угрозами.
Такое обилие социальных угроз, источником которых может стать или уже является ИИ, вызвало появление движений, выступающих против его внедрения и широкого распространения.
Неолуддизм, относящийся к сферам философии и контркультуры, предполагает критику всех достижений научно-технической революции, в том числе ИИ, враждебное отношение к ним, отказ от них. По мнению сторонников данного течения, вред, который уже наносят и потенциально могут нанести компьютеры (экологии, человеку и человечеству), значительно превышает и делает мнимой их потенциальную пользу. В основе неолуддистского мышления лежит уверенность, что достижения научно-технической революции отражают не идею прогресса человечества, а идею его регресса. Новые технологии представляются неолуддитам «в качестве враждебной человеку силы, с которой надо бороться» [5, с. 103]. Средствами борьбы с достижениями научно-технического прогресса для сторонников неолуддизма становятся:
– поступки, направленные на себя: личный отказ от использования технологий, минимализм в быту, уход в среду, свободную от технологий (в леса, экологические деревни и т. п.);
– поступки, направленные на общество: нанесение вреда технологическим устройствам и их производствам.
Некоторые из действий неолуддитов могут одновременно быть направленными и против себя, и против общества. Например, отказ от вакцинации детей может навредить самому родителю и его детям; одновременно он вредит обществу, способствуя снижению коллективного иммунитета и провоцируя эпидемии.
В современном обществе распространяется технофобия, причём свойственная не только неолуддитам, но и многим обычным членам социума.Одним из её результатов стало также«медленное движение» (Slow Movement), представляющее собой культуру искусственного замедления ритма жизни. Его главным идеологом является канадский журналист К. Оноре, сформулировавший основные принципы течения в книге «Без суеты. Как перестать спешить и начать жить» [9]. Отказ от технологий для сторонников «медленного движения» – это один из способов замедлить свою жизнь, избавиться от постоянной спешки и болезненного ощущения того, что не всё успеваешь (или даже ничего не успеваешь). Сторонники культуры замедления борются с культом скорости, ищут гармонию между движением и неподвижностью, следуя принципу: «Кто властвует над временем, тот властвует и над собой, над своей жизнью» [2, с. 146]. Они считают, что жить надо размеренно, не спеша, в соответствии с собственным, внутренним ритмом, а это, естественно, плохо согласуется с использованием компьютеров, гаджетов, систем ИИ.
Одним из условий и одновременно следствий развития ИИ стало формирование информационного общества, под которым понимается «такое общество, в котором производство и потребление информации является важнейшим видом деятельности, информация признаётся наиболее значимым ресурсом, новые информационные и телекоммуникационные технологии и техника становятся базовыми технологиями и техникой» [3, с. 10]. Причиной формирования в условиях современной цивилизации информационного общества стало внедрение, распространение и постоянное усовершенствование ИИ, главным навыком которого является умение хранить и распространять большое количество разнообразной информации. Информационное общество и есть постиндустриальное, хотя и не равно ему полностью. Опора на информацию не исключает опору на технику, ведь, в конце концов, сам ИИ технологичен, создаётся с помощью и на базе технических устройств.
ИИ стал закономерной составляющей современной техногенной цивилизации, суть которой состоит в опоре на технический прогресс и уверенности, что усовершенствование жизни на земле зависит от использования достижений техники и технологий. По характеристике философского словаря, «наука и техника являются основой техногенной цивилизации, источником ее развития, средством решения любых возникающих в обществе проблем» [8, с. 275]. В условиях техногенной цивилизации техническое понимается как более важное, чем социальное, духовное, культурное; формируется «установка на технико-экономическую результативность вне ее социокультурного измерения» [6, с. 48]. Убеждённость в том, что с помощью ИИ можно значительно улучшить жизнь человека, решить большую часть его проблем, бесконечно усовершенствовать организацию человеческой деятельности в обществе, вполне согласуется с положениями техногенной цивилизации, соответствует им.
Итак, в современном общественном сознании жителей разных стран распространяется мнение о том, что ИИ опасен для общества, несёт ему множество угроз: от потери рабочих мест до полного физического уничтожения. Такие страхи нельзя назвать полностью безосновательными, поскольку в истории уже есть немало примеров того, как технологии негативно воздействуют на жизнь: ухудшают экологию, уничтожают людей в ходе войн, лишают человека неприкосновенности частной жизни, делают его беззащитным перед кибермошенниками и т.п. Ещё одна причина появления страхов – скорость распространения ИИ, который быстро и активно проникает в различные сферы жизни и деятельности человека. Не будем забывать и о таких особенностях человеческой психики, как неприятие или медленное приятие всего нового, а также вообще неверие в прогресс, в то, что развитие мира идёт по пути улучшения. По нашему мнению, большая часть социальных угроз, которые в настоящий момент вызывает ИИ, является надуманной и вытекают из неумения людей принимать новшества, приходящие в их жизнь. Позитивным следствием имеющихся в общественном сознании страхов перед ИИ мы видим появление новых продуктивных тем для произведений массовой культуры. Книги, кино- и телефильмы об общении человека с ИИ являются не просто развлекательным контентом, с их помощью происходит обдумывание людьми изменений в жизни общества.
Список литературы:
1. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / Пер. с англ. С. Филина. М.: Манн, Иванов и Фербер, 2016. 404 с.
2. Гофман А.Б. Слишком быстро?! Культура замедления в современном мире // Социологические исследования. 2017. № 10 (402). С. 141-150.
3. Гущина О.М., Крайнова О.А. Теоретические основы создания информационного общества: электронное учебное пособие. Тольятти: Изд-во ТГУ, 2015. 244 с.
4. Достов В.В. Современные угрозы незаконного применения систем искусственного интеллекта // Вестник Тюменского института повышения квалификации сотрудников МВД России. 2022. № 2 (19). С. 44-49.
5. Емелин В.А. От неолуддизма к трансгуманизму: сингулярность и вертикальный прогресс или утрата идентичности? // Философия науки и техники. 2018. Т. 23. № 1. С. 103-115.
6. Ковалева Г.П., Ефремова О.Н., Порхачев В.Н., Ростова Н.Н. Человек и «искусственный интеллект»: антропо-социальные контексты // Вестник общественных и гуманитарных наук. 2020. Т. 1. № 2. С. 48-53.
7. Малышев Ю.М. Поиск истины в пространстве современной культуры с помощью искусственного интеллекта // Аллея науки. 2019. Т. 1. № 9 (36). С. 205-217.
8. Некрасов С.И., Некрасова Н.А. Философия науки и техники: тематический словарь-справочник: учебное пособие. Орёл: ОГУ, 2010. 289 с.
9. Оноре К. Без суеты. Как перестать спешить и начать жить / пер. с англ. М.: Альпина Паблишер, 2014. 260 с.
10. Рассел С.Дж., Норвиг П. Искусственный интеллект. Современный подход / Пер. с англ. М.: Вильямс, 2007. 1408 с.
11. Слово Святейшего Патриарха Кирилла на открытии XХI Всемирного русского народного собора [Электронный ресурс] // Богослов.Ru [сайт]. 01.11.2017. URL: https://goo.su/UwZJ83 (дата обращения: 12.01.2024).
12. Clauberg R. Cyber-physical systems and artificial intelligence: chances and threats to modern economies // World Civilizations. 2020. Vol. 5. No 3-4. Р. 107-115.
13. McCarthy J. What is artificial intelligence? [Электронный ресурс] // Professor John McCarthy [сайт]. 12.11.2007. URL: https://goo.su/UTYbg7 (дата обращения: 03.12.2023).
Сведения об авторе:
Крылова Мария Николаевна – кандидат филологических наук, доцент, профессор кафедры гуманитарных дисциплин и иностранных языков Азово-Черноморского инженерного института – филиала Донского государственного аграрного университета (Зерноград, Россия).
Data about the author:
Krylova Maria Nikolaevna – Candidate of Philological Sciences, Associate Professor, Professor of Humanitarian Disciplines and Foreign Languages Department, Azov-Black Sea Engineering Institute – branch of Don State Agrarian University (Zernograd, Russia).
E-mail: krylovamn@inbox.ru.
