УДК 371.39:004.8+34
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ОБРАЗОВАНИИ:
ВОПРОСЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ
Геращенко И.Г., Геращенко Н.В.
Все более актуальной становится проблема правового регулирования деятельности искусственного интеллекта (ИИ) в различных сферах, в том числе в образовании. В статье рассмотрены следующие вопросы: электронный субъект права, риски использования ИИ, разделение правовой ответственности, квазисубъект права, правовые особенности применения ИИ в образовании. Выявлены противоречия в современном правовом регулировании функционирования ИИ, которые связаны с неоднозначностью толкования электронного субъекта права. Предлагается система мер по защите работников в условиях широкомасштабного внедрения искусственного разума в различные сферы деятельности, включая образование.
Ключевые слова: электронный субъект права, искусственный интеллект, правовое регулирование, квазисубъектность, разделение ответственности, виды рисков, педагогический ИИ.
ARTIFICIAL INTELLIGENCE IN EDUCATION:
ISSUES OF LEGAL REGULATION
Gerashchenko I.G., Gerashchenko N.V.
The issue of legal regulation of artificial intelligence (AI) in various fields, including education, is becoming increasingly relevant. This article examines the following issues: electronic legal entities, the risks of AI using, the division of legal liability, quasi-legal entities, and the legal aspects of using AI in education. Contradictions in current legal regulation of AI related to the ambiguous interpretation of electronic legal entities are identified. A system of measures is proposed to protect workers in the context of the widespread implementation of artificial intelligence in various fields, including education.
Keywords: electronic legal entity, artificial intelligence, legal regulation, quasi-subjectivity, division of responsibility, types of risks, pedagogical AI.
В большинстве развитых и развивающихся стран приняты национальные стратегии развития искусственного интеллекта (ИИ). В Российской Федерации такая стратегия принята до 2030 г. [7; 8]. Она предполагает обеспечение национальной безопасности и правопорядка, роста благосостояния и качества жизни населения, достижение устойчивой конкурентоспособности российской экономики, в том числе в сфере ИИ. Вместе с тем новая сфера деятельности искусственного разума сопряжена с целым рядом серьезных рисков, что требует ее всестороннего регулирования на правовом уровне.
В научной литературе выделяют следующие виды рисков, имеющие непосредственное отношение, в том числе и к сфере образования:
1. Увеличение неравенства (дискриминация отдельных групп населения, неравный доступ к возможностям использования ИИ).
2. Утрата конфиденциальности информации (раскрытие персональных данных, уязвимость систем искусственного разума в результате кибератак).
3. Дезинформация (искажение фактов, создание искусственных галлюцинаций, распространение дипфейков).
4. Ненадлежащее использование ИИ (тотальный контроль над людьми, манипуляция их поведением, применение в качестве оружия массового поражения).
5. Риски человеко-машинного взаимодействия (чрезмерное и небезопасное использование, потеря людьми автономии).
6. Социально-экономические риски (концентрация власти и нечестное распределение благ, снижение уровня и качества занятости людей, обесценивание человеческих усилий, трудности с управлением ИИ).
7. Риски в сфере безопасности систем ИИ (преследование сильным искусственным разумом собственных целей, получение ИИ возможности причинения массового вреда, недостаточная прозрачность функционирования ИИ, отсутствие гарантий обеспечения надежности ИИ и др.) [10, с. 52].
В настоящее время юристов интересует целый комплекс вопросов, связанных с правовым регулированием процессов использования ИИ. Так обсуждается вопрос о возможной правосубъектности искусственных интеллектуальных систем. Вводится понятие «электронный субъект права», которое предполагает наделение некоторыми правами искусственный разум, задействованный в производстве или сфере услуг. Обратной стороной этих прав становятся обязанности ИИ по отношению к потребителям. Сложность данных правоотношений заключается в том, что работодатель может переложить свои обязанности на искусственный механизм и тем самым полностью или частично снять ответственность с самого себя.
Не менее важен вопрос о правах человека, находящегося в окружении систем ИИ. Работник изначально пребывает в неравных условиях по сравнению с искусственным разумом. Человек нуждается в заработной плате, отдыхе, лечении, питании, духовном развитии и т.п., что делает его менее конкурентоспособным, чем ИИ, который может трудиться круглосуточно, без перерывов на обед и отдых, да к тому же еще и бесплатно. Это является основной причиной активного использования искусственных сотрудников в различных сферах производства и услуг. Если говорить о системе образования, то здесь ИИ способен не только выполнять вспомогательные функции, связанные с репродуктивной деятельностью, но и заменять преподавателя в некоторых креативных видах деятельности, связанных с общением [см.: 1]. Возникает необходимость в правовом регулировании отношений в системах «педагог – ИИ», «учащийся – ИИ», «руководитель – ИИ», «ИИ – ИИ» и др.
Еще одна проблема связана с юридической ответственностью за решения, принимаемые искусственным разумом. Если ИИ в процессе своей деятельности нанес какой-либо ущерб человеку, то кто в данном случае должен нести ответственность: собственник робота, создатель программы или производитель механизма, сам ИИ? В настоящее время данный вопрос не имеет однозначного решения в правовой плоскости. В 2024 г. в ЮНЕСКО были разработаны основные подходы по регулированию ИИ. Эти подходы были расположены от наиболее мягкого к самому жесткому: подходы, основанные на принципах и стандартах, гибкий и экспериментальный подход, содействующий и стимулирующий подход, адаптационный подход, подход, ориентированный на прозрачность, риск-ориентированный подход, подход, основанный на правах и подход, устанавливающий ответственность [12]. Можно предположить, что в российских условиях наиболее востребованными окажутся два последних подхода.
Чтобы защитить работников в условиях экспансии ИИ предлагаются следующие модели гражданско-правового регулирования ИИ-систем: 1) рассматривать их как источник повышенной опасности; 2) считать особым видом имущества, наподобие животных; 3) рассматривать как электронное лицо – новую категорию субъектов права; 4) создать новую категорию «электронных агентов» и наделить ИИ-системы ограниченной правоспособностью и дееспособностью [5, с. 65-66].
Все большей популярностью начинает пользоваться позиция наделения ИС квазисубъектностью, когда искусственный разум рассматривается как частичный правовой субъект. В таком случае ответственность работодателя частично или полностью переносится на ИИ, а отстоять права уволенных сотрудников может оказаться еще сложнее, чем в настоящее время. Возникает так называемый «разрыв ответственности» [4, с. 80-92], при котором будет очень сложно найти виновное в совершении правонарушения лицо, которым может оказаться не только работодатель, но и создатель ИИ, обучавший его сотрудник или сам искусственный разум.
Интересует юристов также вопрос о правах на результаты деятельности ИИ, носящей творческий характер. Продолжаются споры о том, способен ли искусственный разум создавать креативные продукты. Одно дело, когда просто обрабатывается большой массив информации, из которой выбирается нужная для конкретной ситуации. Совсем другое дело, когда осуществляется инновационное решение, напрямую независящее от человека. В настоящее время мы имеем дело с начальными формами ИИ, не обладающими большой мощностью. Но развитие искусственного разума идет все более убыстряющимися темпами. Роботы уже осуществляют самостоятельные действия в космосе, военном деле, промышленности, торговле, сфере управления. На основании этого можно говорить об элементах творческого поведения ИИ.
В связи с этим в сфере образования возникают следующие правовые проблемы. Искусственный разум быстро разрабатывает методическое обеспечение по всем существующим учебным предметам. Это могут быть методические рекомендации, пособия, вопросы к экзамену или зачету, тесты, список рекомендованной литературы и т.п. Как в таком случае будет решаться проблема интеллектуальной собственности? ИИ обобщил имеющиеся данные, созданные конкретными преподавателями, и создал новый продукт. Кто будет собственником этого продукта: Министерство образования, руководитель учреждения, разработчик программы ИИ или преподаватели, чьими трудами создан новый учебный материал? Однозначного ответа на такой вопрос пока нет [2, с. 68].
Не менее важны правовые аспекты вопроса о безопасности и запрете на использование отдельных разновидностей ИИ. Общение с искусственным разумом дает не только новые возможности, но и порождает целый ряд опасностей. Искусственные системы, обрабатывая большие данные о конкретном человеке, могут давать ему самые различные советы, порождая иллюзию всезнания. Уже имеются прецеденты самоубийств людей после длительного общения с ИИ. А если человек совершает преступление по совету искусственного собеседника? Кто в таком случае является правонарушителем и соучастником? Как разделить ответственность и вынести правовое решение?
В педагогике большое внимание уделяется возрастным особенностям обучения и воспитания детей. Для каждого возраста доступен определенный объем информации, который может быть освоен. В этом заключается принцип доступности образования. Ребенок легко подпадает под влияние ИИ, это ярко видно на примере массового использования гаджетов. В настоящее время фактически отсутствует правовое регулирование использования искусственного разума разными возрастными категориями. Это относится не только к подрастающему поколению, но и к людям преклонного возраста. Именно они чаще всего становятся жертвами мошенников, непосредственно использующими ИИ в своих преступных целях.
В связи с этим отечественные и зарубежные специалисты по уголовному праву ставят следующие вопросы: необходима ли специальная правовая область, связанная с уголовным преследованием деятельности ИИ? Какие действия требуют криминализации в настоящее время? Может ли ИИ являться орудием преступления? Кто будет нести ответственность за противоправную деятельность искусственного разума? Может ли ИИ стать субъектом преступления? Большинство специалистов на эти вопросы отвечает утвердительно.
В перечень субъектов преступлений, связанных с функционированием ИИ, предлагается включить: разработчика ИИ, производителя ИИ-системы, продавца продукции, оснащенной искусственным разумом, пользователя соответствующей продукции, иных физических лиц [6, с. 470]. Как мы видим, перечень субъектов преступления в данном случае является достаточно большим. Это предполагает разделение сфер и степени ответственности за противоправную деятельность, связанную применением ИИ.
В процессе использования ИИ выделяют следующие основные ситуации, предполагающие уголовно-правовое регулирование: 1) в процессе создания робота была допущена ошибка, приведшая к совершению преступления; 2) в ИИ-систему был осуществлен неправомерный доступ, что привело к повреждению или модификации ее функций, в результате чего было совершено преступление; 3) ИИ специально был создан для совершения преступлений; 4) робот, обладающий способностью к самообучению, самостоятельно принял решение о совершении действий либо бездействия, квалифицируемых в качестве преступления [10, с. 155].
Наиболее проблемным является последний пункт. Каким должно быть законодательство, если искусственный разум в процессе саморазвития приходит к мысли о возможности и даже необходимости совершения преступления? В данном случае можно говорить о некотором подобии свободы воли. В современных условиям мы этого пока не наблюдаем, поэтому в уголовном законодательстве рассматривается преступная деятельность человека, использующего ИИ. Однако в ближайшем будущем имеются все основания ожидать создания сильного и сверхмощного искусственного разума, предпосылки которого закладываются уже сейчас. Его отличительными особенностями являются не только обработка огромного объема данных, но и способность к автономному действию, принятию самостоятельных решений, постоянному самообучению и развитию. В такой ситуации закономерно встанет вопрос о правовой ответственности самой ИИ-системы [11, с. 547-554].
Серьезные изменения, связанные с активным использованием ИИ, наблюдаются и в трудовом законодательстве. Это объясняется быстрой цифровизацией рабочих процессов, постепенным исчезновением целого ряда «человеческих» профессий, постоянным взаимодействием человека с системой искусственного разума, преобладанием коммуникаций в виртуальном пространстве, подменой работодателя со стороны ИИ в процессе принятия решения по кадровым вопросам. В Трудовой кодекс РФ уже внесены изменения, дающие работодателю право использовать системы ИИ в целях контроля за деятельностью сотрудников [9].
В российских условиях активное внедрение искусственного разума нередко сопровождается массовыми увольнениями. Лидерами по использованию ИИ здесь являются компании «Яндекс», «Сбербанк», VK и некоторые другие. Именно в этих организациях наблюдаются ежегодные сокращения сотрудников. Причем речь идет не столько о вспомогательном персонале, выполняющем простые функции, а о работниках среднего звена. В 2025 г. серьезные увольнения затронули IT-специалистов, что свидетельствует о способности ИИ заниматься самонастройкой, обеспечивая собственное функционирование без посторонней помощи.
Проблема безработицы напрямую связана также с «цифровым разрывом», когда неравные возможности в освоении и использовании ИИ проявляются не только на международном уровне, но и внутри страны. Отсутствие доступа к цифровым технологиям негативно сказывается на получении образования, налаживании социальных связей и поиске работы. Это ведет к дальнейшему расслоению общества по социальному и материальному уровню. Но даже если доступ к новым технологиям имеется, необходимо обладать еще соответствующими навыками для их освоения. Например, гуманитарное образование прошлых лет препятствует быстрому овладению цифровыми технологиями, что не способствует поиску работы.
В образовании проблема безработицы имеет свою специфику. С одной стороны, наблюдается дефицит педагогических кадров (прежде всего, это касается школьных учителей), а молодежь не хочет работать из-за низкой зарплаты и высокой нагрузки, с другой стороны, сложно найти места с достойной оплатой и постоянной занятостью в вузах [3, с. 105].
Применение искусственного разума в образовании несомненно обладает своими преимуществами, которые, с одной стороны, будут способствовать некоторому улучшению педагогического процесса, а с другой стороны, могут привести к массовому высвобождению работников. Например, персонализация обучения с использованием ИИ повысит вовлеченность учащихся в образовательный процесс, что приведет к улучшению успеваемости и уровня удовлетворенности, но взаимодействие здесь будет с ИИ, а не с преподавателем. Такая же ситуация может сложиться с повышением когнитивных, социальных и эмоциональных навыков обучающихся за счет активного внедрения ИИ.
Для преподавателей использование ИИ приведет не столько к освобождению от рутинных операций, сколько к повышению интенсивности труда. Переведение учебной информации в цифру сопровождается ее дублированием. Журналы, ведомости, зачетки все равно приходится заполнять вручную, но дополнительно нужно вносить данные в компьютер. Поскольку соответствующие программы постоянно совершенствуются, их необходимо осваивать, поэтому преподаватель занят не столько подготовкой к занятиям или научной деятельностью, сколько изучением организационно-бюрократических инноваций.
Внедрение ИИ в органы управления педагогическими организациями имеет своей целью повышение скорости и эффективности принятия решений, планирования ресурсов, разработки сценариев и возможных решений для предупреждения кризисных ситуаций. Оперативный анализ большого количества данных позволит быстрее создавать учебные программы и другой методический материал. Это приведет к сокращению управленческого и обслуживающего состава учебных заведений. Одновременно с этим возрастет интенсивность труда оставшегося персонала, поскольку всем придется осваиваться новые технологии, чтобы уметь работать с искусственным разумом. Фактически это означает резкое повышению уровня конкуренции, так как многие работники, особенно пожилого возраста, будут с трудом осваивать инновации. Цениться будут в первую очередь не педагогические способности и научный вклад, а умение оперативно использовать ИИ. Такая ситуация приведет к снижению образовательного потенциала учебных заведений, по крайней мере на уровне человеческих ресурсов.
Подводя итог, отметим, что активное использование ИИ в различных сферах деятельности, в том числе и педагогической, нуждается в системном правовом регулировании, которое в настоящее время находится еще на начальном этапе своего становления. Наибольшие трудности здесь связаны с разделением ответственности в случае применения искусственного разума и возникновения правовой ситуации. Не менее важно решить вопрос о юридическом статуса самого ИИ, является ли он «электронной личностью», должен ли он платить налоги, самостоятельно отвечать при совершении правонарушения либо за это должны нести ответственность собственник и разработчик робота.
Список литературы:
1. Геращенко И.Г. Искусственный интеллект в сфере образования: проблемы применения [Электронный ресурс] // Studia Humanitatis. 2024. № 2. URL: https://st-hum.ru/node/1322 [4] (дата обращения: 15.09.2026).
2. Геращенко И.Г., Геращенко Н.В. Искусственный интеллект в образовании как педагогическая инновация // Инновации в образовании. 2024. № 3. С. 65-71.
3. Геращенко И.Г., Геращенко Н.В. Эффективность использования искусственного интеллекта в высшем образовании: философско-антропологический анализ // Наука. Общество. Государство. 2024. Т. 12. № 1(45). С. 101-109.
4. Мельникова Е.Н. Проблема «разрыва ответственности» за вред, причиненный использованием систем и приложений искусственного интеллекта // Российский юридический журнал. 2024. № 4 (157). С. 80-92.
5. Морхат П.М. Юнит искусственного интеллекта как электронное лицо // Вестник МГОУ. Серия: Юриспруденция. 2018. № 2. С. 61-72.
6. Мосечкин И.Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник Санкт-Петербургского университета. Право. 2019. № 3. С. 461-475.
7. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства РФ. 2019. № 41. Ст. 5700.
8. Указ Президента РФ от 15.02.2024 № 124 «О внесении изменений в Указ Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации» и в Национальную стратегию, утвержденную этим Указом» // Собрание законодательства РФ. 2024. № 8. Ст. 1102.
9. Федеральный закон от 02.07.2021 г. № 311-ФЗ «О внесении изменений в Трудовой кодекс Российской Федерации» // Собрание законодательства РФ. 2021. № 27. Ч. I. Ст. 5139.
10. Филипова И.А. Правовое регулирование искусственного интеллекта: учебное пособие, 3-е издание, обновленное и дополненное. Нижний Новгород, 2025. 321 с.
11. Шестак В.А., Волеводз А.Г., Ализаде В.А. О возможности доктринального восприятия системой общего права искусственного интеллекта как субъекта преступления: на примере уголовного законодательства США // Всероссийский криминологический журнал. 2019. Т. 13. № 4. С. 547-554.
12. Gutiérrez J.D. Consultation paper on AI regulation: emerging approaches across the world [Электронный ресурс] // UNESCO [сайт]. 16.08.2024. URL: https://goo.su/FP8R3 [5] (дата обращения: 15.09.2026).
Сведения об авторах:
Геращенко Игорь Германович – доктор философских наук, профессор кафедры гуманитарных наук Московского международного университета (Москва, Россия).
Геращенко Наталья Владимировна – кандидат педагогических наук, доцент кафедры гуманитарных наук Московского международного университета (Москва, Россия).
Data about the authors:
Gerashchenko Igor Germanovich – Doctor of Philosophical Sciences, Professor of Professor of Humanities Department, Moscow International University (Moscow, Russia).
Gerashchenko Natalya Vladimirovna – Candidate of Pedagogical Sciences, Associate Professor of Humanities Department, Moscow International University (Moscow, Russia).
E-mail: gerashchenko.62@bk.ru [6].
