Обязательные руководящие принципы использования искусственного интеллекта судьями и другими судебными должностными лицами издали в понедельник Верховный конституционный суд и Верховный суд, ясно указав, что окончательная ответственность и принятие судебных решений остаются за человеком.
Руководство по искусственному интеллекту предусматривает, что любое применение технологии в судах должно служить надлежащему отправлению правосудия, обеспечению добросовестности судебной деятельности и соблюдению принципа прозрачности.
Руководящие принципы являются обязательными, и, как отмечается, их возможное нарушение, в зависимости от обстоятельств, может представлять собой дисциплинарный проступок.
ИИ не заменяет судью
Согласно Руководству, судебная власть несёт ответственность за обеспечение эффективного доступа к судье-человеку. ИИ может использоваться только в качестве вспомогательного инструмента и при соблюдении строгих условий, не заменяя судью или судебную оценку доказательств и фактических данных по делу.
Принятие судебных решений, формирование юридической аргументации и оценка доказательственного материала относятся к видам использования, которые не рекомендуются.
То же относится к делам, требующим толкования норм права или абстрактных правовых принципов, эволюционного или динамического толкования недавно принятого законодательства, рассмотрения возможного нарушения основных прав, а также проверки конституционности законов или их соответствия международному праву и международным конвенциям.
В Руководстве подчёркивается, что современные диалоговые системы ИИ не обеспечивают надёжного или в достаточной степени документально обоснованного юридического анализа и рассуждения. Системам ИИ также не следует поручать дела, требующие толкования права, поскольку они не обладают внутренним пониманием различия между истинным и ложным в реальном мире.
Личная ответственность и обязательная проверка
Судебные должностные лица несут личную ответственность за любой материал, который они создают, представляют или используют, даже если он полностью или частично создан системами генеративного ИИ.
Перед использованием таких инструментов они обязаны на базовом уровне понимать их возможности, ограничения и риски.
Диалоговые системы не получают ответы исключительно из официальных или проверенных юридических баз. Они создают новый контент на основе алгоритмических моделей и обучающих данных, вследствие чего их ответы представляют собой вероятностные прогнозы, а не обязательно точную или проверенную информацию.
Они могут использоваться как вспомогательный инструмент при юридическом исследовании для напоминания уже известных принципов или материалов. Однако правильность и точность результатов должны подтверждаться самим судебным должностным лицом по официальным юридическим источникам.
Они не подходят для первичного юридического или фактологического исследования, особенно когда сведения невозможно сверить с официальными источниками.
Риск неточностей и «галлюцинаций»
Даже при использовании наилучших возможных запросов создаваемая информация может быть ложной, неточной, неполной, вводящей в заблуждение или предвзятой. В Руководстве отмечается, что ошибочные ответы не являются необычным явлением.
Особое внимание уделяется «галлюцинациям» генеративного ИИ, то есть вымышленной информации, которую система представляет как реальные факты.
Также указывается, что большие языковые модели обучались на обширных материалах из интернета и могут отражать иностранные правовые системы, которые необязательно совпадают с кипрским правом.
Одновременно судам предлагается учитывать новые вызовы, связанные с дипфейками, поскольку инструменты ИИ используются для создания ложных или вводящих в заблуждение текстов, изображений и видео.
Разрешённые вспомогательные способы применения
К числу ориентировочных способов применения относятся помощь в составлении стандартизированных судебных документов и подготовка кратких изложений решений. В обоих случаях требуется проверка точности созданного материала.
В Руководстве также приводятся признаки возможного ненадлежащего использования генеративного ИИ сторонами судебного разбирательства или их представителями, которые судьи должны учитывать при рассмотрении дел.
Среди них — ссылки на судебную практику и законодательство, которые невозможно проверить или которые выглядят необычно, приведение различных принципов судебной практики по одним и тем же вопросам, а также утверждения, не соответствующие общему пониманию конкретной отрасли права.
Кроме того, упоминаются непоследовательность или слабость юридической аргументации, неуместное использование шаблонов иностранных юрисдикций, красноречиво составленные тексты с существенными неточностями и стандартизированные фразы, указывающие на создание материала с помощью ИИ.
Правовая и институциональная основа
Руководство определяет принципы, которые необходимо соблюдать, основные риски, ограничения и вопросы, возникающие при использовании ИИ, а также способы их смягчения.
Оно было издано в духе Регламента (ЕС) 2024/1689 Европейского парламента и Совета от 13 июня 2024 года, а также других регламентов, правил и руководящих принципов институтов Европейского союза и других организаций.
Использование ИИ в сфере правосудия также должно соответствовать Регламенту (ЕС) 2016/679 и кипрскому закону 2018 года о защите физических лиц при обработке персональных данных и о свободном движении таких данных.
Одновременно оно должно обеспечивать соблюдение основных прав, закреплённых Конституцией Республики Кипр и Европейской конвенцией по правам человека.
Эта основа также включает Рамочную конвенцию Совета Европы об искусственном интеллекте, правах человека, демократии и верховенстве права, датированную 13 мая 2026 года, Конвенцию 108+ о защите в связи с автоматизированной обработкой персональных данных и Европейскую этическую хартию об использовании искусственного интеллекта в судебных системах и окружающей их среде.
Источник: КИПЕ
